TECNOLOGÍA.— OpenAI no está satisfecha con algunos de los chips de inteligencia artificial más recientes de Nvidia y viene buscando alternativas desde el año pasado, dijeron ocho fuentes familiarizadas con el tema, lo que podría complicar la relación entre dos de los actores más visibles del boom de la IA.

El giro estratégico del creador de ChatGPT —cuyos detalles se informan aquí por primera vez— responde a un énfasis creciente en chips utilizados para ejecutar tareas específicas de inferencia de IA, es decir, el proceso por el cual un modelo como el que impulsa la app ChatGPT responde a consultas y pedidos de los usuarios. Nvidia sigue dominando los chips para entrenar grandes modelos de IA, pero la inferencia se convirtió en un nuevo frente de competencia.

La decisión de OpenAI y de otros actores de buscar alternativas en el mercado de chips para inferencia supone una prueba relevante para el dominio de Nvidia en IA y llega en momentos en que ambas compañías mantienen conversaciones de inversión.

En septiembre, Nvidia dijo que planeaba invertir hasta 100.000 millones de dólares en OpenAI como parte de un acuerdo que le daría al fabricante de chips una participación en la startup y a OpenAI el efectivo necesario para comprar chips avanzados. Se esperaba que el acuerdo se cerrara en cuestión de semanas, informó Reuters. Sin embargo, las negociaciones se extendieron durante meses.

En ese lapso, OpenAI cerró acuerdos con AMD y otros proveedores para GPUs diseñadas para competir con Nvidia. Además, su hoja de ruta de productos fue cambiando, lo que alteró el tipo de recursos computacionales que necesita y trabó las conversaciones con Nvidia, según una fuente al tanto del proceso.

El sábado, el CEO de Nvidia, Jensen Huang, desestimó un reporte sobre tensiones con OpenAI, al decir que la idea era un “sinsentido” y que Nvidia planea una inversión enorme en la empresa. “Los clientes siguen eligiendo a NVIDIA para inferencia porque ofrecemos el mejor rendimiento y el menor costo total de propiedad a escala”, dijo Nvidia en un comunicado.

Por su parte, un vocero de OpenAI afirmó que la compañía depende de Nvidia para la gran mayoría de su infraestructura de inferencia y que Nvidia ofrece el mejor rendimiento por dólar en ese segmento. Tras la publicación de la nota de Reuters, el CEO de OpenAI, Sam Altman, escribió en X que Nvidia fabrica “los mejores chips de IA del mundo” y que OpenAI espera seguir siendo “un cliente gigantesco durante mucho tiempo”.

Siete fuentes señalaron que OpenAI no está conforme con la velocidad a la que el hardware de Nvidia puede entregar respuestas a los usuarios de ChatGPT en ciertos tipos de problemas, como desarrollo de software y comunicación de la IA con otros programas. La empresa necesita nuevo hardware que, a futuro, cubra alrededor del 10% de sus necesidades de cómputo para inferencia, dijo una de las fuentes.

El creador de ChatGPT evaluó trabajar con startups como Cerebras y Groq para disponer de chips de inferencia más rápidos, según dos fuentes. Pero Nvidia cerró un acuerdo de licencias por 20.000 millones de dólares con Groq que frustró las conversaciones con OpenAI, dijo una de ellas. Ejecutivos del sector sostienen que la decisión de Nvidia de avanzar sobre Groq buscó reforzar su portafolio tecnológico para competir mejor en una industria de IA en rápida evolución. Nvidia afirmó que la propiedad intelectual de Groq es altamente complementaria a su hoja de ruta de productos.

Alternativas a Nvidia

Los chips gráficos de Nvidia son muy adecuados para el procesamiento masivo de datos necesario para entrenar grandes modelos de IA como ChatGPT, que impulsaron el crecimiento explosivo del sector. Pero los avances en IA se concentran cada vez más en el uso de modelos ya entrenados para inferencia y razonamiento, lo que podría marcar una nueva etapa aún mayor para la industria y explica los movimientos de OpenAI.

La búsqueda de alternativas de GPU por parte de OpenAI desde el año pasado se centró en empresas que desarrollan chips con grandes cantidades de memoria integradas en el mismo silicio que el resto del chip, conocida como SRAM. Incorporar la mayor cantidad posible de SRAM —un componente costoso— puede ofrecer ventajas de velocidad para chatbots y otros sistemas de IA que procesan pedidos de millones de usuarios.

La inferencia requiere más memoria que el entrenamiento, porque el chip pasa relativamente más tiempo buscando datos en memoria que realizando operaciones matemáticas. La tecnología de GPUs de Nvidia y AMD depende de memoria externa, lo que agrega tiempo de procesamiento y reduce la velocidad de interacción para los usuarios.

Dentro de OpenAI, el problema se volvió especialmente visible en Codex, su producto para crear código informático, que la empresa viene promocionando de manera agresiva, según una de las fuentes. Parte de las limitaciones de Codex fueron atribuidas internamente al hardware basado en GPUs de Nvidia.

En una llamada con periodistas el 30 de enero, Altman dijo que los clientes que usan los modelos de programación de OpenAI “ponen un gran énfasis en la velocidad para el trabajo de código”. Una de las formas de atender esa demanda será a través del reciente acuerdo con Cerebras, añadió, señalando que la velocidad es menos crítica para los usuarios ocasionales de ChatGPT.

Productos competidores como Claude, de Anthropic, y Gemini, de Google, se benefician de despliegues que dependen en mayor medida de chips diseñados internamente por Google, llamados unidades de procesamiento tensorial (TPU), optimizadas para inferencia y con ventajas de rendimiento frente a chips de propósito general como las GPUs de Nvidia.

Nvidia se mueve

Cuando OpenAI dejó en claro sus reservas sobre la tecnología de Nvidia, la empresa se acercó a compañías que trabajan en chips con alto contenido de SRAM, entre ellas Cerebras y Groq, para explorar posibles adquisiciones, dijeron las fuentes. Cerebras rechazó la propuesta y cerró un acuerdo comercial con OpenAI anunciado el mes pasado. La empresa declinó hacer comentarios.

Groq mantuvo conversaciones con OpenAI para proveer capacidad de cómputo y recibió interés de inversores para financiarse con una valuación cercana a los 14.000 millones de dólares, según personas al tanto. Groq también declinó comentar.

Pero en diciembre, Nvidia avanzó para licenciar la tecnología de Groq en un acuerdo no exclusivo y totalmente en efectivo, dijeron las fuentes. Aunque el acuerdo permitiría que otras compañías licencien la tecnología de Groq, la empresa ahora se está enfocando en vender software basado en la nube, mientras Nvidia incorporó a diseñadores de chips de Groq a su equipo.