Itongadol/Agencia AJN.- ¿Cómo evitar que un médico introduzca inadvertidamente el resumen del tratamiento de un paciente en una plataforma pública como ChatGPT? ¿Y cómo impedir que los atacantes exploten la inteligencia artificial para extraer datos confidenciales de un hospital?
Para abordar estos riesgos, la organización de servicios de salud Clalit y la empresa de ciberseguridad Check Point firmaron una alianza estratégica multimillonaria destinada a desarrollar un marco de seguridad que permita a la organización sanitaria ampliar el uso de la IA, protegiendo al mismo tiempo la información confidencial.
La iniciativa surge en un contexto de realidades contrapuestas en el sector sanitario. Por un lado, los empleados y el personal médico recurren cada vez más a herramientas como ChatGPT y Gemini para agilizar su trabajo. Por otro, la rápida digitalización de los sistemas de salud ha generado nuevas vulnerabilidades.
La abogada Avivit Kotler, directora de seguridad de la información de Clalit, señaló que la organización se ha enfrentado a un aumento drástico de las ciberamenazas. «En los últimos años, y particularmente desde el estallido de la guerra, hemos experimentado intentos de ataque por parte de Irán y sus grupos afines a un ritmo cientos de veces superior al habitual».
«Estamos hablando de decenas de miles de ataques al año», afirmó.
Según Kotler, un punto de inflexión se produjo con el ataque de ransomware que paralizó el Centro Médico Hillel Yaffe, lo que llevó al Ministerio de Salud a endurecer sus normativas de ciberseguridad.
Clalit ya utiliza inteligencia artificial, pero tradicionalmente ha operado estos sistemas en entornos cerrados y aislados. Un informe de la Organización Mundial de la Salud indica que Clalit utiliza actualmente una plataforma de Aidoc —integrada directamente en sus sistemas internos de diagnóstico por imagen para gestionar algoritmos médicos—, así como modelos locales que analizan datos históricos para identificar enfermedades no diagnosticadas previamente.
Estos sistemas internos funcionan bajo las normas organizativas de la entidad sanitaria. Sin embargo, la introducción en las clínicas de aplicaciones de IA generativa gratuitas y de acceso público ha creado lo que Kotler describe como «una capa adicional de riesgo».
La preocupación radica en el uso no controlado. Por ejemplo, si un médico copia un resumen clínico que contiene información de identificación personal en un motor de búsqueda externo basado en IA, esa información confidencial podría quedar expuesta fuera de la organización.
La puerta de enlace de seguridad que están desarrollando Clalit y Check Point tiene como objetivo prevenir tales incidentes, hacer cumplir las normas de privacidad y establecer «salvaguardas» claras que permitan al personal utilizar herramientas de IA y obtener información valiosa sin comprometer la privacidad de los pacientes.
El sistema también deberá hacer frente a amenazas más complejas y cada vez más autónomas, incluidos los agentes de IA y las aplicaciones de terceros que se conectan a los sistemas hospitalarios. Un agente de IA encargado de programar citas automáticamente, por ejemplo, podría llegar a acceder a información confidencial irrelevante para su tarea o intentar transferir datos a un servidor externo.
Para Check Point, esta colaboración ofrece un entorno a gran escala para desarrollar e implementar la tecnología en un sistema sanitario que atiende a cinco millones de personas en Israel. A cambio, Check Point conservará los derechos de propiedad intelectual, con el objetivo de comercializar y vender la plataforma en el futuro.
A pesar de la estrecha colaboración, Clalit afirma que los datos de los pacientes permanecerán dentro de la organización sanitaria. «La única información que ve Check Point son metadatos; no tienen acceso alguno a los datos de nuestros pacientes», señaló Kotler.
Kotler estima que el sistema estará ampliamente desplegado y satisfará plenamente las necesidades de la organización para el primer trimestre de 2027.
Fuente: Calcalistech – Clalit and Check Point team up to secure AI use across Israel’s largest HMO