Nvidia completa el circuito de inferencia: se asocia con Equinix y Together AI para abrir el acceso a la inferencia de modelos para empresas

Nvidia está expandiendo el mapa de infraestructuras de IA desde el lado del entrenamiento hacia el de inferencia.

El miércoles, Nvidia llegó a un acuerdo de colaboración con Equinix, el mayor proveedor de colocación de centros de datos del mundo, y Together AI, una compañía de plataformas de inferencia de IA, para ofrecer conjuntamente servicios abiertos de inferencia de modelos a clientes empresariales, completando así el último eslabón desde el entrenamiento hasta el despliegue de la inferencia de modelos.

Según la distribución de responsabilidades, Equinix proporciona la colocación de centros de datos, Together AI aporta la plataforma de inferencia y Nvidia suministra las GPU y el stack de software. Las tres partes empaquetan hardware, software y servicios de colocación para integrarse directamente en la fase de inferencia de aplicaciones de IA empresarial.

Esta colaboración representa una pieza clave para Nvidia en el ecosistema de inferencia. La compañía ya se había posicionado como líder en el lado del entrenamiento y ahora, al extender los servicios abiertos de inferencia a clientes empresariales, amplía aún más el alcance de su ecosistema de capacidad de cómputo.

Para Equinix, esta asociación también significa haber encontrado un punto de entrada diferenciado en la emergente fiebre por los centros de datos de IA, valuada en billones de dólares, enfocándose en la inferencia abierta de modelos para empresas.

Distribución: combinación de colocación, plataforma y capacidad de cómputo

En esta colaboración, Equinix se encarga de la colocación en centros de datos, Together AI provee la plataforma de inferencia y Nvidia brinda las GPU y el stack de software.

En el marco de esta fiebre mundial por la construcción de centros de datos de IA por valor de billones de dólares, Equinix, como el mayor proveedor global de centros de datos, aliarse con Nvidia y Together AI le permite enfocarse específicamente en la inferencia abierta de modelos de nivel empresarial, posicionándose como uno de los principales beneficiados de esta ronda de colaboración.

El objetivo central de la cooperación entre las tres partes es ayudar a los clientes empresariales a ejecutar cargas de trabajo de inferencia con modelos abiertos, en lugar de limitar la capacidad de cómputo solo a unas pocas empresas líderes de modelos.

La apuesta de Nvidia por los modelos abiertos tiene un fundamento claro. El CEO Jensen Huang publicó recientemente un artículo defendiendo la importancia de la IA de código abierto, respaldado por casi todas las principales empresas del sector. Desde su perspectiva, los modelos y aplicaciones de IA complementan a las GPU de Nvidia, y la prosperidad de los modelos de código abierto genera una demanda de cómputo más precisa y diversa.

Los ingresos por inferencia ya superan a los de entrenamiento; Nvidia completa el círculo

Según lo revelado en una reunión con inversores, hace aproximadamente 18 meses los ingresos de Nvidia por entrenamiento e inferencia eran aproximadamente iguales; hoy en día, los ingresos por inferencia ya superan al entrenamiento y se espera que esta diferencia continúe creciendo.

Además, los ingresos generados por la infraestructura de cómputo de IA de nuevos proveedores de servicios en la nube ya superan el 50%, mostrando que el impulso de crecimiento está pasando de los grandes proveedores tradicionales a un ecosistema de capacidad de cómputo de IA más amplio.

En el ámbito de entrenamiento y arquitectura, Nvidia ya había adquirido una posición sólida.

A través de acuerdos de licencia tecnológica, incorporó al equipo principal de Groq y su tecnología LPU, planeando integrarla profundamente en la próxima arquitectura Vera Rubin (Groq 3 LPX); y tiene previsto adquirir la plataforma de IA abierta Hugging Face por 12.900 millones de dólares.

Esta alianza con Equinix y Together AI es un paso estratégico clave para que Nvidia extienda su presencia hacia el lado de la inferencia, logrando que su ecosistema de capacidad de cómputo cubra toda la cadena, desde el entrenamiento hasta el despliegue de la inferencia de modelos.