Jalapeño: así es el primer chip de OpenAI para acelerar sus modelos de IA
OpenAI presentó Jalapeño, su primer procesador diseñado específicamente para la inferencia de grandes modelos de lenguaje (LLM). El chip fue desarrollado junto con Broadcom y sus primeras pruebas muestran mejoras importantes en velocidad y eficiencia energética.
La compañía dio a conocer el proyecto originalmente el 24 de junio y este 25 de agosto presentó los primeros resultados de rendimiento.
De acuerdo con OpenAI, Jalapeño fue creado desde cero para las necesidades de los modelos de IA actuales y futuros, con el objetivo de hacer que servicios como ChatGPT puedan procesar solicitudes de manera más rápida y eficiente.
¿Qué es Jalapeño?
Jalapeño es un acelerador de IA especializado en inferencia, en términos sencillos, la inferencia es el proceso que ocurre cuando un modelo ya entrenado recibe una petición y genera una respuesta.
Por ejemplo, cuando una persona escribe una pregunta en ChatGPT, el sistema necesita realizar una gran cantidad de cálculos para producir una respuesta.
Jalapeño está diseñado para encargarse de este tipo de tareas y hacerlo utilizando de manera más eficiente los recursos de cómputo, memoria y redes.
A diferencia de un procesador de propósito general adaptado para inteligencia artificial, OpenAI diseñó Jalapeño específicamente alrededor de las características de los LLM.
La arquitectura toma en cuenta los modelos, los sistemas de inferencia y las necesidades de productos como ChatGPT y Codex.
La intención es reducir la transferencia de datos y conseguir que el hardware se acerque más a su capacidad máxima de procesamiento.
¿Qué resultados obtuvo?
Cuando OpenAI presentó Jalapeño en junio todavía no había publicado las cifras definitivas de rendimiento, la compañía adelantó entonces que las primeras pruebas mostraban un rendimiento por watt superior al de las soluciones disponibles.
- Dos meses después, OpenAI publicó sus primeros resultados.
Las pruebas utilizaron GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T. Según los resultados de la compañía, Jalapeño consiguió entre 1.5 y 1.9 veces más rendimiento por watt que los sistemas utilizados como referencia.
También registró una reducción de entre 1.7 y 3.6 veces en la latencia de extremo a extremo, es decir, el tiempo que tarda el sistema en completar una solicitud.
En cargas de trabajo especialmente interactivas, OpenAI reportó entre 2.1 y 4.1 veces más rendimiento.
Estas cifras son relevantes porque la velocidad no es el único problema de los sistemas de IA, ejecutar modelos cada vez más grandes requiere enormes cantidades de energía y capacidad de cómputo.
Por ello, conseguir más trabajo con el mismo consumo energético puede ayudar a reducir el costo de operar estos servicios.
¿Por qué OpenAI quiere fabricar sus propios chips?
OpenAI depende actualmente de hardware de diferentes fabricantes para entrenar y ejecutar sus modelos, con Jalapeño, la empresa busca tener mayor control sobre una parte fundamental de esa infraestructura.
La compañía explica que al diseñar el chip a partir de las necesidades de sus propios modelos puede optimizar conjuntamente diferentes capas del sistema, desde la arquitectura del procesador hasta la memoria, las redes, el software y los sistemas utilizados para desplegar los modelos.
La idea es crear un círculo en el que un hardware más eficiente permita ejecutar modelos con menor costo y, al mismo tiempo, facilite el desarrollo de sistemas de IA más capaces.
Sin embargo, Jalapeño no significa que OpenAI vaya a dejar de utilizar los chips de otros fabricantes. La empresa seguirá utilizando aceleradores de NVIDIA y otros socios tanto para entrenamiento como para inferencia.
Un chip desarrollado en nueve meses
Uno de los aspectos que OpenAI destaca del proyecto es la velocidad con la que fue desarrollado, la compañía asegura que Jalapeño pasó del diseño inicial hasta la finalización del diseño del chip en nueve meses.
Para conseguirlo, los equipos de OpenAI y Broadcom trabajaron conjuntamente en el diseño y la implementación física.
Además, los propios modelos de inteligencia artificial de OpenAI ayudaron durante el proceso. La compañía afirma que utilizó sus modelos para acelerar diferentes partes del diseño, exploración, verificación y optimización del hardware.
Esto representa una especie de círculo tecnológico, la IA ayuda a construir el hardware que posteriormente será utilizado para ejecutar nuevas generaciones de IA.
¿Quién fabrica Jalapeño?
OpenAI desarrolló el diseño junto con Broadcom, compañía especializada en semiconductores y tecnología de infraestructura.
También participa Celestica, que ayuda con la implementación de placas, sistemas en rack y otros elementos necesarios para llevar el diseño del chip a una infraestructura de centros de datos.
La intención no es fabricar unos cuantos procesadores para pruebas. OpenAI y sus socios planean implementar esta plataforma a escala de gigavatios y utilizarla durante varias generaciones.
Broadcom señaló que la implementación inicial de estos sistemas está prevista a partir de 2026, junto con Microsoft y otros socios de centros de datos.
¿Cuándo comenzará a utilizarse?
OpenAI planea comenzar el despliegue de Jalapeño en su infraestructura a finales de 2026. El procesador será la primera generación de una plataforma de cómputo más amplia.
La compañía asegura que una segunda generación ya está en desarrollo y una tercera comienza a tomar forma, por lo que Jalapeño no está pensado como un producto aislado, sino como el inicio de una familia de chips personalizados.
El objetivo final es que la infraestructura necesaria para ejecutar inteligencia artificial sea más rápida, eficiente y accesible, de manera que una persona pueda obtener respuestas más rápidas de un servicio como ChatGPT sin que cada solicitud implique un aumento proporcional en el consumo de recursos.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
