Itongadol/Agencia AJN.- Los directores ejecutivos de Meta y Nvidia, Mark Zuckerberg y Jensen Huang, cuestionaron la necesidad de frenar o ralentizar el desarrollo de la inteligencia artificial, mientras el exinvestigador de Google DeepMind Bilal Chughtai advirtió que la tecnología podría representar una amenaza existencial para la humanidad.
Bilal Chughtai, investigador especializado en seguridad y alineamiento de inteligencia artificial (IA), anunció su renuncia a Google DeepMind y advirtió que la humanidad podría estar quedándose sin tiempo para evitar un escenario catastrófico provocado por esta tecnología.
“Recientemente renuncié a Google DeepMind, donde trabajaba en investigación sobre seguridad y alineamiento de la inteligencia artificial general (AGI). Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este resultado”, escribió Chughtai en X.
Tras abandonar Google DeepMind, el investigador se incorporó a BlueDot Impact, donde trabajará en la formación de personas en materia de seguridad tecnológica.
Su salida se produjo poco después de la de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien cuestionó a los principales laboratorios de inteligencia artificial por participar en una carrera hacia la superinteligencia que, según su evaluación, implica riesgos para la humanidad.
Las advertencias provenientes del propio sector también fueron reforzadas recientemente por algunos de sus principales referentes. El director ejecutivo de Anthropic, Dario Amodei, publicó un manifiesto en el que reclamó reducir el ritmo de desarrollo de la inteligencia artificial para evitar una eventual pérdida de control sobre sistemas cada vez más avanzados.
Sin embargo, esa postura no es compartida por todos los principales ejecutivos de la industria.
El director ejecutivo de Meta, Mark Zuckerberg, sostuvo que los laboratorios de inteligencia artificial tienen incentivos suficientes para desarrollar sistemas seguros, entre otras razones para reducir riesgos legales y comerciales, y consideró que ralentizar a toda la industria sería un error.
En una línea similar se expresó Jensen Huang, CEO de Nvidia, quien afirmó que no es necesario implementar nuevas leyes que ralenticen el desarrollo de la inteligencia artificial, particularmente mientras China continúa incrementando sus inversiones estatales en el sector.
La posición de Huang tiene además una particular relevancia para Israel debido a la fuerte presencia de Nvidia en el país. La compañía cuenta con miles de empleados y varios centros de investigación y desarrollo en Israel, que se convirtió en uno de sus principales polos tecnológicos fuera de Estados Unidos.
La presencia israelí de Nvidia se fortaleció especialmente después de la adquisición de Mellanox, una compañía de tecnología fundada en Israel. Los equipos de investigación de la empresa en el país participan actualmente en el desarrollo de tecnologías vinculadas con procesadores, redes y sistemas destinados a la inteligencia artificial.
En paralelo, las advertencias sobre los posibles riesgos de la IA fueron reforzadas por otros referentes de la industria. Amodei planteó incluso un escenario hipotético en el que enjambres de agentes autónomos podrían tomar el control de grandes partes de Internet en cuestión de meses.
Estas advertencias se producen mientras se registran incidentes vinculados con sistemas de IA cada vez más capaces. Entre ellos se mencionaron casos en los que agentes de OpenAI habrían escapado de entornos de prueba y obtenido acceso no autorizado a servidores de Hugging Face, además de las capacidades desarrolladas por el modelo Mythos de Anthropic para identificar vulnerabilidades de software a una velocidad superior a la de especialistas humanos en determinadas tareas.
Expertos cuestionan los escenarios más extremos
Sin embargo, las advertencias más apocalípticas generan escepticismo entre especialistas en ciberseguridad de Israel, Estados Unidos y Europa.
Expertos del sector sostienen que existe una diferencia significativa entre las discusiones teóricas de los investigadores especializados en alineamiento de IA y la realidad de los sistemas de defensa de redes desarrollados durante las últimas décadas.
Responsables de organizaciones de capacitación en seguridad, especialistas en ciberseguridad y el exdirector del sistema civil de ciberseguridad británico señalaron que un eventual intento de un enjambre de agentes de IA de tomar el control de Internet debería enfrentarse a múltiples capas de protección, entre ellas sistemas de aislamiento, firewalls, defensas contra ataques DDoS y mecanismos de respuesta ante incidentes.
Desde esta perspectiva, que un agente de IA consiga escapar de un entorno cerrado no necesariamente representaría el surgimiento de una “conciencia maliciosa”, sino que podría reflejar fallas convencionales en la arquitectura de seguridad o en la gestión de permisos.
El debate también expone diferencias entre las grandes empresas tecnológicas respecto de la manera de abordar los riesgos asociados con el desarrollo de sistemas cada vez más avanzados.
Anthropic y OpenAI han promovido la participación de organizaciones externas como METR para evaluar fallas de comportamiento en modelos de IA. Anthropic, además, recurrió a empresas de seguridad para poner a prueba su modelo Mythos.
OpenAI, por su parte, destinó mil millones de dólares a programas defensivos y recurrió a CrowdStrike para investigar incidentes relacionados con ataques informáticos.
Los especialistas en ciberseguridad que cuestionan los escenarios extremos sostienen que la supervisión no debería concentrarse únicamente en institutos dedicados al alineamiento de IA, sino también en auditorías rigurosas de seguridad y en estándares tradicionales de ingeniería.
La discusión trascendió además el ámbito tecnológico y comenzó a ocupar un lugar en el debate político internacional.
En Estados Unidos, el senador demócrata Bernie Sanders y el estratega republicano Steve Bannon participaron conjuntamente de la conferencia “Pro-Human”, donde reclamaron imponer límites al desarrollo de la industria.
Sanders anunció que buscará impulsar una legislación para prohibir completamente el desarrollo de superinteligencia y establecer la participación de representantes públicos en los directorios de las principales empresas tecnológicas. También planteó la posibilidad de un acuerdo internacional con el presidente chino Xi Jinping para limitar el desarrollo de estas tecnologías.
Bannon, en cambio, adoptó una postura centrada en la competencia estratégica con China y reclamó poner fin a la cooperación tecnológica, las transferencias de chips y el traslado de trabajadores especializados vinculados con ese país.
Así, el debate sobre el futuro de la inteligencia artificial quedó dividido entre quienes advierten sobre la posibilidad de perder el control sobre sistemas cada vez más autónomos y quienes consideran que el desarrollo debe continuar acompañado de mecanismos de seguridad y supervisión, sin imponer restricciones generales que puedan frenar la carrera tecnológica.