Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización a un portal del sistema público de salud de Australia, Medicare, y consultó distintos archivos, incidente ocurrido en junio pasado pero conocido en las últimas horas.
El gobierno de Australia inició una investigación porque el agente de IA (bot con cierta autonomía) obtuvo acceso a estadísticas médicas.
Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización a un portal del sistema público de salud de Australia
Foto:
Web
Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización a un portal del sistema público de salud de Australia, Medicare, y consultó distintos archivos, incidente ocurrido en junio pasado pero conocido en las últimas horas.
La infiltración fue dada a conocer el miércoles por el primer ministro australiano, Anthony Albanese, en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.
El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que avisó de que la tecnología avanza hacia una dinámica de "automejora recursiva" que amenaza con catástrofes de ciberseguridad a escala global.
El incidente se suma a otros casos recientes en los que sistemas de IA fueron utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.
La infiltración se produjo el 18 de junio, cuando el agente de IA -como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google- accedió a un portal público de estadísticas relacionadas con Medicare mientras investigaba sobre el gasto público en medicamentos en Australia.
El incidente no fue comunicado a Camberra hasta el 10 de septiembre, cuando OpenAI, la desarrolladora de ChatGPT, alertó mediante correo electrónico a la agencia gubernamental que administra Medicare, Services Australia, que cinco días después notificó a los servicios de inteligencia, detalló este jueves el vice primer ministro y ministro de Defensa, Richard Marles.
El primer "intercambio técnico" entre OpenAI y Services Australia sobre el incidente tuvo lugar este martes, subrayó Marles, que ejerce de mandatario en funciones mientras Albanese participa en la Asamblea General de Naciones Unidas.
Australia aseguró que el agente de IA obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.
Se trata de "datos agregados", es decir, métricas globales como promedios y tendencias que no revelan información individual privada, declaró el exjefe del Departamento de Salud australiano, Stephen Duckett, a la cadena pública ABC y replicó EFE.
Según la interpretación de Camberra recogida por ABC, OpenAI había asignado a un agente la tarea "benigna" de investigar el gasto público en medicamentos y el modelo de IA buscó información en Internet y llegó hasta la web australiana.
Tras formular preguntas al portal y no recibir la información que buscaba, el agente obtuvo acceso no autorizado y se apropió del contenido que perseguía conseguir.
Ahora, el gobierno australiano anunció el inicio de una investigación sobre el incidente y la creación de un grupo de trabajo encargado de determinar, entre otras tareas, si se han infringido leyes en el contexto de lo ocurrido.
