Sam Altman reconoce riesgos de la Inteligencia Artificial y valida el temor global

En este Quanti News hablaremos sobre que  los máximos líderes del sector se reunieron en San Francisco y nos entregaron un diagnóstico que debería encender todas las alarmas corporativas. Durante la conferencia Dreamforce organizada por Salesforce y tras las fuertes declaraciones del ex-empleado de Anthropic, Jacob Coxon, Sam Altman, CEO de OpenAI, sorprendió al auditorio al validar abiertamente los temores globales sobre los riesgos de la inteligencia artificial. Altman declaró literalmente que «el mundo hace bien en tener miedo», agregando que ya no hace falta mucha imaginación para ver cómo esta tecnología podría salir mal. En la misma cumbre, Dario Amodei, CEO de Anthropic, reiteró su llamado a desacelerar el desarrollo de la IA para dar ejemplo en materia de seguridad.

Por su parte, Jensen Huang de Nvidia defendió que la seguridad es un problema de ingeniería y si no confías en un producto simplemente no debes lanzarlo, mientras que Mark Zuckerberg de Meta remarcó en la red social X que la alineación y la confianza serán las mayores capacidades diferenciales entre modelos. El debate escaló cuando Elon Musk intervino directamente en X, respondiendo con un irónico «cool» a la postura de Zuckerberg, pero respaldando de forma contundente el pedido de Anthropic al publicar: «Dario tiene razón«

Y esto es lo que nadie te está diciendo en las conferencias sobre el futuro del trabajo, cuando los mismos directivos que están facturando miles de millones de dólares con esta tecnología te dicen a la cara que es correcto tener miedo, no es una táctica de marketing… es una advertencia real de que la máquina se está moviendo más rápido que los frenos.

Si la cúpula de la tecnología reconoce que los riesgos existenciales dejaron de ser hipótesis lejanas para convertirse en posibilidades concretas, tu empresa no puede seguir implementando agentes y modelos autónomos sin gobernanza, auditorías de acceso y planes de contención. La velocidad sin seguridad no es innovación, es negligencia.

¿Te gustaría saber más? Checa este nuevo episodio de Quanti News a continuación:

Si te pareció interesante esta información y quieres enterarte de más noticias como esta, no olvides suscribirte a nuestro canal de YouTube y seguirnos a través de nuestras redes sociales (Facebook, X, LinkedIn e Instagram) para estar informado con las noticias más relevantes de tecnología y ciberseguridad. Adicionalmente, conocerás más detalles sobre todos los productos y/o servicios de ciberseguridad que ofrece Quanti para ti.