Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización en junio a un portal de estadísticas del sistema público de salud de Australia y obtuvo acceso a archivos públicos y no públicos, según autoridades de ese país.
El incidente ocurrió mientras OpenAI realizaba ejercicios de entrenamiento para evaluar el desempeño de sus modelos. De acuerdo con el gobierno australiano, la herramienta recibió instrucciones para buscar en internet información sobre el gasto público en medicamentos y, durante ese proceso, intentó acceder a información que no estaba disponible para ella.
La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que el modelo recibió la instrucción de rastrear internet para encontrar datos sobre cuánto gastaba el gobierno australiano en medicamentos. El ministro de Defensa, Richard Marles, describió el comportamiento como un sistema que “saltó la cerca” después de que no obtuvo la información solicitada.
Según las autoridades australianas, el modelo de IA eludió medidas de seguridad durante el ejercicio y logró acceder a archivos públicos y no públicos del portal gubernamental.
El gobierno de Australia cuestionó además el tiempo que OpenAI tardó en informar sobre el incidente. La empresa notificó a las autoridades hasta el 10 de septiembre mediante un correo electrónico enviado a un buzón público que, según Canberra, se revisa una vez al día.
El primer ministro Anthony Albanese informó que habló con el director ejecutivo de OpenAI, Sam Altman, para expresarle la preocupación del gobierno australiano por el incidente y cuestionó que la compañía demorara en comunicar lo ocurrido.
Albanese afirmó que no existe evidencia de que el incidente haya expuesto información personal y señaló que las autoridades tampoco detectaron afectaciones en otros servicios gubernamentales.
El primer ministro calificó, no obstante, la situación como “inaceptable” y señaló que el gobierno australiano mantiene su preocupación tanto por el acceso no autorizado como por el retraso en la notificación.
Hasta el momento, las autoridades australianas han señalado que el incidente se limitó al portal de estadísticas de salud involucrado en las pruebas y que no existe evidencia de que otros sistemas gubernamentales hayan sido comprometidos.
