Itongadol.- Ha habido una salida sorpresa de la empresa israelí Apex Security, fundada hace solo dos años y que ha recaudado 7 millones de dólares de Sequoia, Index y el fundador de OpenAI, Sam Altman. La empresa de ciberseguridad basada en IA, fundada por el director ejecutivo Matan Derman y el director de producto Tomer Avni, ha sido adquirida por la empresa estadounidense de ciberseguridad Tenable por unos 100 millones de dólares, según informan fuentes de «Globes», lo que supone un buen rendimiento para los inversores de una empresa que podría haber tenido el potencial de crecer mucho más.
Con sede en la torre Sarona Azrieli de Tel Aviv, Apex Security forma parte de una nueva generación de ciberseguridad, especializada en seguridad modular, IA y prevención de la manipulación de modelos mediante un entrenamiento defectuoso. Desde que los modelos lingüísticos irrumpieron en la conciencia pública y se empezaron a utilizar con frecuencia en 2022, los hackers han aprendido a explotar los modelos de IA para sus propios fines mediante lo que se conoce como «jail break»: convencer al chatbot de que el usuario es el director financiero de la empresa, por ejemplo, y hacer que divulgue datos confidenciales de los servidores de la empresa; otros alimentan el modelo mientras lo entrenan con información maliciosa o enlaces a sitios web maliciosos.
En un artículo sobre Apex publicado en Globes el año pasado, los emprendedores hablaron de la expectativa de «convertirse en un gigante de la seguridad de datos en el campo de la IA» y mencionaron la inspiración que recibieron de Wiz. Hoy en día, resulta que el sueño era más a corto plazo, aunque el retorno de la inversión fue bastante alto incluso para el propio Altman. Por lo que se sabe, esta es la única empresa de ciberseguridad en el campo de la IA en la que Altman ha invertido mientras continúa su carrera de inversión privada como inversor ángel en paralelo con su mandato como director ejecutivo de OpenAI, aparentemente sin ninguna conexión entre ambos.
Derman ha contado anteriormente cómo él y Avni fueron a la oficina de Sam Altman. «Buscábamos una conexión con él y la conseguimos», dice Derman. «Supusimos que el mercado de la IA estaría en auge y queríamos contar con los mejores entrenadores en nuestro equipo. Cuando nos reunimos con él, el mercado hablaba de la responsabilidad en el campo de la IA y la seguridad, y las grandes empresas de IA necesitaban grandes empresas de ciberseguridad para garantizar el uso de este campo». Altman no forma parte del consejo de administración de la empresa, pero actúa como inversor ángel al que consultan de vez en cuando.
La empresa sabe cómo manejar la mayoría de los modelos cerrados: Claude de Anthropic, Gemini de Google y la mayoría de los modelos de OpenAI, y también ha comenzado a prepararse para trabajar con modelos abiertos como Llama de Meta, además de gestionar los procesos para cumplir con las normas reglamentarias y las políticas de la empresa para cada modelo conectado y cada uso que se haga de él. Más adelante, incluso creen que podrán abordar el problema de las alucinaciones y neutralizar la información incorrecta y sesgada.
Derman sirvió en la División de Inteligencia de las FDI durante 18 años y dirigió una de las prestigiosas secciones secretas responsables. Muchos de sus subordinados y de quienes sirvieron a su lado hace tiempo que fueron liberados, fundaron empresas y se hicieron multimillonarios.
Aún no se ha recibido ninguna respuesta a este informe.