Nueve meses después de anunciar su asociación, OpenAI y Broadcom han presentado en sociedad a su primer retoño, Jalapeño, un procesador de inferencia optimizado para trabajar con grandes modelos de lenguaje (LLM) actuales y futuros. El peso no ha sido detallado. Al igual que otras compañías de inteligencia artificial como Google, Amazon o Microsoft, OpenAI quiere su propio chip para ajustarlo mejor a su modelo ChatGPT y reducir tanto la factura como la dependencia de Nvidia, que de momento no parece inmutarse ante estos movimientos.
Jalapeño es un ASIC (Circuito Integrado para Aplicaciones Específicas) y como indica su nombre está diseñado para un propósito específico, que no es otro que la inferencia de IA. En el campo de los modelos de inteligencia artificial la inferencia es lo que ocurre cuando el modelo proporciona una respuesta a partir de los datos. En otras palabras, es la fase final del proceso de aprendizaje automático y el momento en el que el modelo genera un resultado en base a lo aprendido durante el entrenamiento. A medida que un modelo se vuelve más complejo, el proceso de inferencia es más lento y necesita más capacidad de procesamiento.
Desde el diseño inicial hasta la fabricación de Jalapeño solo han pasado nueve meses, un ciclo de desarrollo muy rápido que se ha visto acelerado por el uso de los propios modelos de OpenAI para crear el chip. De esta forma la compañía ha logrado que los mismos modelos a los que tienen acceso los usuarios contribuyan a mejorar la infraestructura que en la que se ejecutarán sus sucesores. Para OpenAI, se trata de un ejemplo de cómo la IA puede reducir el coste de la computación en diferentes partes de la industria.
OpenAI ha diseñado Jalapeño desde cero y con flexibilidad para funcionar con todos los grandes modelos de IA actuales y futuros. Su rendimiento final aún se está evaluando, pero OpenAI asegura que las pruebas iniciales demuestran que Jalapeño ofrece un rendimiento por vatio "considerablemente superior" al de otras soluciones de última generación actuales. La compañía promete que en los próximos meses presentará un informe técnico detallado sobre el rendimiento de su chip de IA. La arquitectura de Jalapeño "reduce la transferencia de datos y equilibra los recursos de computación, memoria y red para lograr una utilización real mucho más cercana al rendimiento máximo teórico", dice OpenAI.
Greg Brockman, presidente y cofundador de OpenAI, asegura que "el mundo avanza hacia una economía basada en la computación", y ante este escenario Jalapeño se presenta como una parte integral de su estrategia de infraestructura a largo plazo para aumentar la disponibilidad de recursos. Esta apuesta debería traducirse en una IA más rápida, fiable y asequible para usuarios y empresas. OpenAI también promete una mayor eficiencia. Hock Tan, director ejecutivo de Broadcom, asegura a Reuters que el rendimiento de Jalapeño iguala al de los chips Blackwell de Nvidia y las unidades de procesamiento Tensor de Google.
OpenAI dice que Jalapeño "es el primer paso de una plataforma informática multigeneracional" cuya implantación inicial está prevista para finales de 2026. Con los años se extenderá, combinando los aceleradores diseñados por OpenAI con las tecnologías de red y conectividad de Broadcom así como la infraestructura de centros de datos de Celestica.
Jalapeño es un ASIC (Circuito Integrado para Aplicaciones Específicas) y como indica su nombre está diseñado para un propósito específico, que no es otro que la inferencia de IA. En el campo de los modelos de inteligencia artificial la inferencia es lo que ocurre cuando el modelo proporciona una respuesta a partir de los datos. En otras palabras, es la fase final del proceso de aprendizaje automático y el momento en el que el modelo genera un resultado en base a lo aprendido durante el entrenamiento. A medida que un modelo se vuelve más complejo, el proceso de inferencia es más lento y necesita más capacidad de procesamiento.
Desde el diseño inicial hasta la fabricación de Jalapeño solo han pasado nueve meses, un ciclo de desarrollo muy rápido que se ha visto acelerado por el uso de los propios modelos de OpenAI para crear el chip. De esta forma la compañía ha logrado que los mismos modelos a los que tienen acceso los usuarios contribuyan a mejorar la infraestructura que en la que se ejecutarán sus sucesores. Para OpenAI, se trata de un ejemplo de cómo la IA puede reducir el coste de la computación en diferentes partes de la industria.
OpenAI ha diseñado Jalapeño desde cero y con flexibilidad para funcionar con todos los grandes modelos de IA actuales y futuros. Su rendimiento final aún se está evaluando, pero OpenAI asegura que las pruebas iniciales demuestran que Jalapeño ofrece un rendimiento por vatio "considerablemente superior" al de otras soluciones de última generación actuales. La compañía promete que en los próximos meses presentará un informe técnico detallado sobre el rendimiento de su chip de IA. La arquitectura de Jalapeño "reduce la transferencia de datos y equilibra los recursos de computación, memoria y red para lograr una utilización real mucho más cercana al rendimiento máximo teórico", dice OpenAI.
Greg Brockman, presidente y cofundador de OpenAI, asegura que "el mundo avanza hacia una economía basada en la computación", y ante este escenario Jalapeño se presenta como una parte integral de su estrategia de infraestructura a largo plazo para aumentar la disponibilidad de recursos. Esta apuesta debería traducirse en una IA más rápida, fiable y asequible para usuarios y empresas. OpenAI también promete una mayor eficiencia. Hock Tan, director ejecutivo de Broadcom, asegura a Reuters que el rendimiento de Jalapeño iguala al de los chips Blackwell de Nvidia y las unidades de procesamiento Tensor de Google.
OpenAI dice que Jalapeño "es el primer paso de una plataforma informática multigeneracional" cuya implantación inicial está prevista para finales de 2026. Con los años se extenderá, combinando los aceleradores diseñados por OpenAI con las tecnologías de red y conectividad de Broadcom así como la infraestructura de centros de datos de Celestica.