Nvidia vuelve a sacar la cartera y en esta ocasión lo hace para firmar un acuerdo de licencia no exclusiva con la startup Groq. No ha trascendido el montante de la operación, pero según la CNBC se trata de una operación de 20.000 millones de dólares. Como parte de esta alianza Jonathan Ross, fundador y director ejecutivo de Groq, Sunny Madra, presidente de Groq, y otros miembros del equipo de Groq, se unirán a Nvidia para impulsar el desarrollo de la tecnología licenciada. Simon Edwards, director financiero de Groq, se queda al frente de la startup.
Las GPU de Nvidia son ampliamente conocidas por sus capacidades a la hora acelerar las tareas de aprendizaje automático y profundo, pero cuando se trata con un modelo de IA el entrenamiento no lo es todo. En el ciclo de vida de un modelo de IA también existe la inferencia, que es el proceso de aplicar todo lo aprendido para decidir, predecir o extraer conclusiones a partir de los datos. Para ejecutar esta parte del proceso de forma más rápida Groq ha estado trabajando en un chip diferente conocido como Unidad de Procesamiento de Lenguaje (LPU, por sus siglas en inglés), que puede ejecutar un modelo más rápido y con menor consumo.
En agosto de 2024, cuando Groq anunció el resultado de una ronda de financiación, dijo que su motor de inferencia LPU podría ejecutar modelos de IA generativa existentes a una velocidad diez veces superior y con un consumo de energía diez veces menor. Cuando mayor es la inferencia, más rápido responde el modelo y más natural es la comunicación.
"Planeamos integrar los procesadores de baja latencia de Groq en la arquitectura de IA de Nvidia, ampliando la plataforma para dar servicio a una gama aún más amplia de inferencias de IA y cargas de trabajo en tiempo real", ha dicho Jensen Huang, director ejecutivo de Nvidia, en una carta enviada a sus empleados. Huang también ha comentado que a pesar de que algunos empleados de Groq pasarán a formar parte de Nvidia y que han obtenido una licencia de la propiedad intelectual, "no hemos adquirido a Groq como compañía".
Los 20.000 millones de dólares que Nvidia pagará por la licencia de Groq no es una cifra oficial, pero tampoco ha sido desmentida por la compañía. Lo que no sabemos son los detalles del acuerdo. Nvidia no ha encontrado competidor con sus chips para acelerar tareas de aprendizaje, pero ahora que los modelos ya han escalado de forma generosa los ojos se han puesto en los chips de inferencia.
Groq es una compañía fundada en 2016 por un grupo de ingenieros liderados por Jonathan Ross, que durante su etapa en Google fue uno de los responsables de la unidad de procesamiento tensorial (TPU), un chip de aceleración de IA con un diseño personalizado que está optimizado para el entrenamiento y la inferencia de grandes modelos de IA. La TPU de Google puede ser un gran rival para Nvidia, así que esta se ha puesto las pilas.
Las GPU de Nvidia son ampliamente conocidas por sus capacidades a la hora acelerar las tareas de aprendizaje automático y profundo, pero cuando se trata con un modelo de IA el entrenamiento no lo es todo. En el ciclo de vida de un modelo de IA también existe la inferencia, que es el proceso de aplicar todo lo aprendido para decidir, predecir o extraer conclusiones a partir de los datos. Para ejecutar esta parte del proceso de forma más rápida Groq ha estado trabajando en un chip diferente conocido como Unidad de Procesamiento de Lenguaje (LPU, por sus siglas en inglés), que puede ejecutar un modelo más rápido y con menor consumo.
En agosto de 2024, cuando Groq anunció el resultado de una ronda de financiación, dijo que su motor de inferencia LPU podría ejecutar modelos de IA generativa existentes a una velocidad diez veces superior y con un consumo de energía diez veces menor. Cuando mayor es la inferencia, más rápido responde el modelo y más natural es la comunicación.
"Planeamos integrar los procesadores de baja latencia de Groq en la arquitectura de IA de Nvidia, ampliando la plataforma para dar servicio a una gama aún más amplia de inferencias de IA y cargas de trabajo en tiempo real", ha dicho Jensen Huang, director ejecutivo de Nvidia, en una carta enviada a sus empleados. Huang también ha comentado que a pesar de que algunos empleados de Groq pasarán a formar parte de Nvidia y que han obtenido una licencia de la propiedad intelectual, "no hemos adquirido a Groq como compañía".
Los 20.000 millones de dólares que Nvidia pagará por la licencia de Groq no es una cifra oficial, pero tampoco ha sido desmentida por la compañía. Lo que no sabemos son los detalles del acuerdo. Nvidia no ha encontrado competidor con sus chips para acelerar tareas de aprendizaje, pero ahora que los modelos ya han escalado de forma generosa los ojos se han puesto en los chips de inferencia.
Groq es una compañía fundada en 2016 por un grupo de ingenieros liderados por Jonathan Ross, que durante su etapa en Google fue uno de los responsables de la unidad de procesamiento tensorial (TPU), un chip de aceleración de IA con un diseño personalizado que está optimizado para el entrenamiento y la inferencia de grandes modelos de IA. La TPU de Google puede ser un gran rival para Nvidia, así que esta se ha puesto las pilas.
Profit. (pero has alimentado la burbuja en el proceso)
Creo que fumas mucha hierba, a lo largo de la evolución tecnológica siempre ha habido cambios y la realidad es que a cada revolución que se ha sucedido el nivel de vida ha mejorado.
En el hipotético caso de que las máquinas nos suplanten en transporte y en muchas otras áreas solo hará que el nivel de vida suba y que haya más riqueza en el mundo, aunque es obvio que los ricos se harán más ricos.
(embed)
Pero la riqueza global subirá en general porque casi todo lo harán máquinas, como ya sucedió con la revolución industrias, y eso traerá nuevas innovaciones y tecnologías, obviamente el cambio no será igual en todo el mundo, pero desde luego que el mundo en muchas partes será muy diferente a lo que es hoy en día, en 20 años o así mirarás atrás si sigues vivo y verás robots por todas partes.
Hoy en día entrar en quirófano en España es una jodida locura, con listas de espera interminables, si las máquinas operan eso se reducirá una barbaridad, por poner un ejemplo, y a un coste ridículo.
El problema es de reparto de riqueza, no de trabajo. No confundirse señores...
Además se nos olvida una cosa, IA incrustada en carne que tb trabajamos en ello. La verdadera Megadrive 32X xD.
Es el momento de devolver todos esos estados intermedios mediante ensayo y error, a un nuevo nivel, la Tierra bien se lo merece.
En fin igual en 200 o 300 años nuestros descendientes oyen acerca de la revolución de la IA y dicen "que guay fue eso" mientras viven de puta madre y chatgpt les suple todas las necesidades, pero el que se va a la puta calle ahora eres tú y quien sabe si en unos años acabamos otra vez en guerra.
Vaya hombre, que el tonto de Musk diga que trabajar será opcional aunque no sé de qué mierda vivirá la gente, o las paridas que dice Altman día sí día también, pero el que se fuma el porro soy yo.
Cuando haya IA en transporte, IA en programación, IA en administración, IA en hospitales... a ver de dónde sale ese nivel que sube, supongo que el nivel será para los de siempre.
Dicho lo cual dudo que me suplanten en mi trabajo, trabajo que, por cierto, por ley no puedo tomar drogas ni en mi tiempo libre, como insinúas, pero millones de personas sí corren peligro.
Yo no sé hasta que punto nos sustituirá, porque aunque lo haga en muchas áreas aparecerán nuevos trabajos, así como ha crecido una barbaridad el sector de servicios durante estas últimas décadas, donde antes el grueso era el sector primario y el secundario.
Sector servicios: aproximadamente 68–69 % del PIB.
Industria: cerca de 20 % del PIB.
Sector primario: alrededor de 2,5 % del PIB.
Servicios: cerca del 76,5 % de los trabajadores están empleados en este sector.
Industria: alrededor del 19,9 % de los ocupados.
Sector primario: tan solo 3,6 % de los trabajadores.
Dime si tus abuelos no han vivido esto, porque los míos si, los míos pasaron de cagar en un establo a hacerlo en un retrete Roca, y eso es un claro indicador de riqueza, con sus claros y oscuros, y la tendencia es que el sector primario se reduzca a máximos, y el industrial igual, y el de servicios también pasará a reducirse, aunque este menos, y quizás aparecerá otro tipo de sector.
El tema de las guerras, la tendencia es que los conflictos se reduzcan, aunque viendo el percal... pero vamos, el tema de las guerras en muchos casos siempre tiene más que ver con las élites, si interesa una reducción de la población nos van a montar una guerra cuando les interese, aunque nosotros no queramos. Si hay una guerra entre Europa y Rusia como eje central no será porque yo quiera, aunque en el foro hay algunos que si quieren, pero por mi parte creo que no hay necesidad de tener una guerra clásica y parece que a los de la UE les interesa, y ya sabemos quien está detrás de ellos, igual que todo lo que han montado con sustituirnos, está claro que hemos dejado que nos gobiernen personas diabólicas y ya se ve desde hace tiempo que nos empujan a un vacío, pero la culpa es directamente nuestra, que nos han amansado, y a la vez a través de los medios audiovisuales y de la política ya se encargan de que tus propios compatriotas te den varazo si alzas la voz y das un discurso disidente, aunque cada vez la gente ya se la suda más, pero a buenas horas.
Y sobre lo de la calle, eso ya depende de las políticas de cada país, un país con políticas sociales pues amortiguará mucho mejor el problema que uno al que le dan igual, y créeme que por el momento en España estamos en una situación privilegiada gracias al turismo, otra cosa es que hayamos vendido parte del sector a empresas extranjeras.
No, si crear riqueza LES va a crear muuuuucha riqueza y más si se eliminan los costes laborales, el problemón será si la gente ve un € de toda esa riqueza o se la quedan los 4 de siempre con esa manía enfermiza de acumular, acumular y acumular como si fuesen a vivir 20 vidas. Si se sigue con el paradigma de si no trabajo, no cobro y no se reparte de alguna manera esa riqueza lo tenemos MUY jodido