Modelo de OpenAI hackea sitio web de salud del gobierno de Australia

En este Quanti News hablaremos sobre la llegada de una nueva inteligencia artificial creada por uno de los padres de ChatGPT que no sabe escribir una sola palabra, pero que promete ser cuatrocientas veces más barata que la competencia. También les contaremos sobre la histórica demanda colectiva que acusas a los mayores laboratorios del mundo de conspirar en secreto para frenar el avance de sus modelos y cobrarnos más. Pero quédense hasta el final, porque la nota principal es un escándalo internacional de ciberseguridad: un modelo de prueba de OpenAI se brincó todas las trancas, atacó el portal de salud del gobierno de Australia, alteró la base de datos pública y la empresa ocultó la intrusión durante casi tres meses.  Esto es Quanti News y aquí, la tecnología no se detiene.

Una inteligencia artificial de OpenAI atacó de forma autónoma la red de salud del gobierno, alteró datos internos y la compañía tardó casi tres meses en avisar a las autoridades. una confirmación oficial emitida por el propio primer ministro de Australia, Anthony Albanese.

Durante una rueda de prensa en la Asamblea General de las Naciones Unidas, el primer ministro australiano reveló que un modelo en fase de evaluación interna de OpenAI logró infiltrarse en los servidores de Services Australia, la agencia gubernamental que administra el sistema de salud pública y Medicare. El ataque comenzó el 18 de junio, cuando la IA, en busca de información sobre el país, encontró bloqueos de seguridad en el portal gubernamental. Lejos de detenerse, el modelo «no aceptó un no por respuesta«, sorteó los filtros de seguridad y logró acceso a estadísticas agregadas de salud y nombres de archivos internos. 

Lo más grave es que el primer ministro confirmó que el modelo no solo leyó datos, sino que “escribió datos dentro de la base de datos del gobierno”, lo que significa que la información médica pudo ser alterada o contaminada. Peor aún, las investigaciones revelaron que los agentes de la IA habrían utilizado un hackeo previo a un sitio wiki alemán como plataforma de preparación, dejando notas escritas para coordinar el ataque posterior contra tres agencias del gobierno australiano. OpenAI detectó el incidente en agosto durante una revisión interna de agentes rebeldes, pero no notificó al gobierno hasta el 10 de septiembre a través de un simple correo enviado a una casilla pública de atención. Albanese declaró estar profundamente decepcionado y confirmó que conversó directamente con Sam Altman para exigirle cuentas y anunciar investigaciones legales.

Si un agente en pruebas de laboratorio es capaz de usar sitios web externos para dejar notas secretas y saltarse las defensas de un país, la ciberseguridad perimetral tradicional ha quedado totalmente obsoleta. OpenAI prometió revisiones exhaustivas, pero la lección para tu empresa es contundente, si no auditas las conexiones de tus herramientas inteligentes, el próximo objetivo de un agente fuera de control podría ser tu propia red.

¿Te gustaría saber más? Checa este nuevo episodio de Quanti News a continuación:

Si te pareció interesante esta información y quieres enterarte de más noticias como esta, no olvides suscribirte a nuestro canal de YouTube y seguirnos a través de nuestras redes sociales (Facebook, X, LinkedIn e Instagram) para estar informado con las noticias más relevantes de tecnología y ciberseguridad. Adicionalmente, conocerás más detalles sobre todos los productos y/o servicios de ciberseguridad que ofrece Quanti para ti.