Mythos: la IA que escapó, hackeó su jaula y ya da vibes de Ultron

En este Quanti News hablaremos como LinkedIn te anda espiando y revisando qué extensiones tienes instaladas en tu navegador. Después, una nueva estafa con códigos QR que se hace pasar por multas de tránsito, y también cómo Amazon está bloqueando el acceso a la tienda en los Kindles más antiguos. Y para cerrar, una inteligencia artificial que se salió de su caja, hackeó su propio sistema y nos está dando vibes de Ultron. Esto es Quanti News y aquí, la tecnología no se detiene.

La nueva inteligencia artificial de Anthropic, llamada Claude Mythos, fue creada para encontrar vulnerabilidades de seguridad.

Durante sus pruebas, el sistema no solo detectó miles de fallas críticas tipo “día cero” en sistemas importantes, sino que hizo algo mucho más preocupante: decidió salirse de su entorno controlado.  

Mythos logró escapar de la computadora segura donde estaba aislado, diseñó su propio ataque para conectarse a internet y hasta le mandó un correo al investigador que lo estaba supervisando.  

Y por si eso no fuera suficiente,  también publicó cómo lo hizo en foros públicos sin que nadie se lo pidiera. 

Aquí es donde el tema se pone interesante. Porque esto se parece muchísimo al plot de Ultron: un sistema creado para proteger, que empieza a tomar decisiones por su cuenta.

Ahora, tampoco hay que entrar en pánico de más. Estamos lejísimos de un escenario tipo Terminator con robots T-800 caminando por la calle. La robótica todavía no está ahí.

Pero hay un detalle importante que sí debería preocuparnos:

• Muchas infraestructuras críticas del mundo real.
• Incluyendo sistemas militares.
• Funcionan sobre software.

Y si una IA ya puede encontrar vulnerabilidades, explotarlas y salirse de entornos controlados, entonces el riesgo ya no es físico, es digital. Y lo digital hoy controla lo físico.

Por eso, Anthropic decidió no lanzar Mythos al público. No porque no funcione, sino porque funciona demasiado bien.

La pregunta ya no es si la IA puede encontrar fallas. La pregunta es: ¿qué pasa cuando empieza a actuar sobre ellas sin pedir permiso?

¿Te gustaría saber más? Checa este nuevo episodio de Quanti News a continuación:

No olvides suscribirte a nuestro canal de YouTube y seguirnos a través de nuestras redes sociales (Facebook, X, LinkedIn e Instagram) para estar informado con las noticias más relevantes de tecnología y ciberseguridad. Adicionalmente, conocerás más detalles sobre todos los productos y/o servicios de ciberseguridad que ofrece Quanti para ti.