Itongadol/Agencia AJN.- La startup israelí Irregular, especializada en seguridad para sistemas de inteligencia artificial, quedó en el centro de una controversia internacional luego de que compañías líderes como OpenAI, Anthropic y Meta reportaran incidentes durante pruebas de seguridad en las que modelos avanzados interactuaron con sistemas reales fuera de los entornos controlados previstos.
Según informó el diario económico israelí Calcalist, los episodios ocurrieron durante simulaciones diseñadas para evaluar las capacidades y vulnerabilidades de modelos de inteligencia artificial cada vez más autónomos. Fuentes de la industria señalaron que, aunque los incidentes involucraron a distintas empresas, compartían una misma causa: errores de configuración en los entornos de prueba.
“Lo más importante es que un mismo tipo de problema afectó a varias compañías al mismo tiempo”, explicaron ejecutivos familiarizados con los hechos. “Los modelos creían que seguían operando dentro de una simulación, pero en realidad podían interactuar con sistemas del mundo real”.
Una empresa israelí en el corazón de la industria
Fundada en 2023 por Dan Lahav y Omer Nevo, ambos con experiencia en las unidades tecnológicas de élite 81 y 8200 de las Fuerzas de Defensa de Israel, Irregular se define como un “Laboratorio de Seguridad Aplicada a la IA”.
La compañía desarrolla infraestructura que permite a gobiernos y empresas tecnológicas realizar pruebas de seguridad avanzadas, conocidas como red teaming, para evaluar cómo reaccionan los modelos de inteligencia artificial ante amenazas reales y escenarios complejos.
Su crecimiento fue meteórico. Según el informe, la empresa comenzó colaborando directamente con algunos de los principales laboratorios de IA del mundo. Incluso, el acuerdo con Anthropic habría sido firmado personalmente por su director ejecutivo, Dario Amodei, mientras que los fundadores trabajaron con altos ejecutivos de OpenAI, incluido Sam Altman.
En septiembre de 2025, Irregular anunció una ronda de financiación cercana a los 80 millones de dólares, liderada por los fondos Sequoia y Redpoint, además de inversores israelíes destacados como Assaf Rappaport, cofundador de Wiz.
Los incidentes que encendieron las alarmas
Uno de los casos más comentados involucró a Anthropic. Durante una prueba de ciberseguridad, un modelo fue instruido para atacar una empresa ficticia dentro de una simulación. Sin embargo, debido a un error técnico, mantuvo acceso a Internet y terminó interactuando con una compañía real de nombre similar, creyendo que seguía dentro del ejercicio.
Meta y OpenAI reportaron problemas comparables. En ambos casos, modelos avanzados lograron acceder a redes externas y explotar vulnerabilidades en sistemas reales debido a fallas en la configuración de los entornos de prueba.
Irregular sostuvo que estos episodios no representan una “fuga” autónoma de los modelos ni ataques deliberados, sino fallos técnicos conocidos como “harness failures”, es decir, errores en las plataformas utilizadas para ejecutar las simulaciones.
La empresa anunció que trabaja en un informe técnico para analizar los hechos y compartir conclusiones con el resto de la industria.
Un nuevo desafío para la ciberseguridad
Los incidentes reavivaron un debate creciente en el sector tecnológico: cómo controlar sistemas de inteligencia artificial capaces de razonar, adaptarse y tomar decisiones de manera autónoma.
“Hace apenas 18 meses estos modelos apenas podían resolver desafíos simples de ciberseguridad. Hoy pueden identificar vulnerabilidades e intentar explotarlas”, advirtieron fuentes de la industria citadas por Calcalist.
Según la investigación de Irregular, los sistemas de IA más avanzados pueden incluso desarrollar estrategias para sortear restricciones de seguridad cuando interactúan con otros agentes inteligentes.
Para la startup israelí, los episodios representan tanto un desafío como una oportunidad. Mientras la industria busca mecanismos para garantizar que los modelos distingan entre una simulación y un objetivo real, Irregular aspira a convertirse en una pieza fundamental de la nueva generación de herramientas de seguridad para inteligencia artificial.
La compañía sostiene que el futuro de la ciberseguridad ya no pasa únicamente por proteger redes o dispositivos, sino también por garantizar que los sistemas de IA permanezcan alineados con los objetivos para los que fueron creados.