Uno de los creadores de ChatGPT diseña una inteligencia artificial cuatrocientas veces más barata

Diogo Almeida, uno de los creadores de ChatGPT, acaba de presentar una propuesta disruptiva para la industria del software. El ingeniero fundó la startup TypeSafe AI y lanzó su primer modelo, denominado Jev. A diferencia de los chatbots tradicionales que redactan respuestas palabra por palabra, este sistema rompe la regla de oro del sector porque no genera texto. Su objetivo principal consiste en procesar información no estructurada para entregar decisiones directas junto con un porcentaje de probabilidad. Por ejemplo, ante una transacción bancaria sospechosa, el sistema determina de forma seca si representa un fraude y especifica su nivel de confianza.

Al eliminar por completo la redacción de párrafos, el modelo calcula múltiples decisiones en paralelo. Por esta razón, alcanza una velocidad hasta 200 veces superior y reduce los costos 400 veces en comparación con las alternativas convencionales. El servicio cotiza en 0.042 dólares por millón de tokens de entrada, mientras que los tokens de salida no tienen costo. Además, la empresa puso a prueba la velocidad bruta de la plataforma al conectarla al videojuego Doom;  donde tomó diez decisiones por segundo con un gasto de siete dólares por hora y garantizó 0%  de alucinaciones al no inventar palabras.

Este enfoque representa la máxima eficiencia financiera para los entornos corporativos. Cuando un sistema automático requiere validar una alerta de seguridad o clasificar un correo electrónico, no necesita que la plataforma escriba explicaciones extensas, sino una respuesta concreta en milisegundos.

Por lo tanto, si un departamento de desarrollo destina grandes presupuestos a la contratación de API para tareas automatizadas simples, este tipo de arquitecturas enfocadas en decisiones directas impulsará el ahorro en las empresas.

Si te pareció interesante esta información y quieres enterarte de más noticias como esta, no olvides suscribirte a nuestro canal de YouTube y seguirnos a través de nuestras redes sociales (Facebook, X, LinkedIn e Instagram) para estar informado con las noticias más relevantes de tecnología y ciberseguridad. Adicionalmente, conocerás más detalles sobre todos los productos y/o servicios de ciberseguridad que ofrece Quanti para ti.