Ampere lidera un grupo de startups de IA para desafiar a Nvidia

Ampere lidera un grupo de startups de IA para desafiar a Nvidia

Marca de tiempo: 18 de octubre de 2023 3:30 a. M.
Nodo de origen: 2942701

La historia está llena de ejemplos de actores más pequeños que se unieron para enfrentarse a competidores más grandes. Con el lanzamiento de AI Platform Alliance esta semana, el proveedor de CPU Arm Ampere pretende hacer precisamente eso en un intento por desafiar la hegemonía de Nvidia.

La alianza reúne varias nuevas empresas de chips conocidas, incluidas Cerebras Systems, Graphcore, Furiosa, Kalray, Kinara, Luminous, Neuchips, Rebellions y Sapeon, con el objetivo de promover un ecosistema abierto de IA.

“El problema clave que vemos hoy es que las soluciones tradicionales no ofrecen estas cosas. Actualmente es un ecosistema cerrado en el lado del hardware y el software, no es eficiente debido a las grandes cantidades de energía que se consumen y es costoso”, dijo Jeff Wittich, director de producto de Ampere. El registro en un correo electrónico. "Esto hace que a las personas les resulte difícil ampliar la IA para satisfacer sus necesidades sin que sea costosa e insostenible".

Ningún fabricante de chips puede abordar este problema por sí solo, afirmó. "Queríamos unirnos para crear soluciones de plataforma completa que sean implementables". Por lo tanto, no sorprende que la alianza se centre tanto en construir un ecosistema de sistemas de inteligencia artificial más eficientes que las GPU.

La referencia explícita a las “GPU” en el comunicado y los comentarios de Wittich sobre los ecosistemas cerrados de software y hardware son casi con certeza una oportunidad para Nvidia. Las últimas GPU H100 del fabricante de chips tienen una potencia nominal de 700 vatios y, cargadas en sus placas base HGX, pueden consumir más de 10 kW a nivel del sistema.

Trabajando juntos

Hay varias formas en que los fabricantes de chips intentan frenar los requisitos de energía de la IA. Este tipo de eficiencias se pueden lograr a nivel de hardware, software o estándares.

Por ejemplo, los fabricantes de chips podrían unirse para establecer factores de forma comunes para que los fabricantes de diseños originales puedan desarrollar un chasis capaz de soportar aceleradores de múltiples proveedores. En el frente del software, los fabricantes de chips podrían alinearse en torno a un conjunto común de herramientas y marcos de código para que los modelos se ejecuten independientemente de la arquitectura de hardware subyacente.

La primera tarea de la alianza es solucionar el problema del hardware.

"Nuestro enfoque inicial es crear una amplia variedad de soluciones de hardware que puedan utilizar las plataformas OEM y ODM existentes, para que puedan implementarse fácilmente hoy", dijo Wittich. “Se trata de crear opciones. Hoy en día, los clientes no tienen muchas opciones y la gente tiende a optar por la única solución que conocen. Pero existen mejores soluciones que son más eficientes y rentables, y nuestro objetivo es poner esas soluciones a disposición de los clientes finales, para que puedan adoptarlas”.

Sin embargo, el director ejecutivo de Cerebras, Andrew Feldman, dice El registro que el desarrollo y lanzamiento de modelos de bases abiertas también será un facilitador clave. También nos comunicamos con Graphcore para conocer su opinión sobre la alianza, pero el fabricante de chips se negó a hacer comentarios.

Ampere espera que la Alianza atraiga miembros adicionales en las próximas semanas, y cualquier empresa de inteligencia artificial que construya hardware será bienvenida a unirse a la fiesta. Sin embargo, queda por ver si una mayor disponibilidad de sistemas de inteligencia artificial por parte de los miembros de la alianza será suficiente para reducir el dominio de Nvidia en el mercado.

Los elefantes en la habitación.

Si bien los expertos no están de acuerdo sobre cuán grande es el reclamo de Nvidia sobre el espacio de la IA, estima oscilan entre el 75 y el 90 por ciento de participación; no hay duda de que la empresa lidera el mercado. y como nosotros discutido La semana pasada, es probable que los recientes desarrollos en torno a la hoja de ruta de productos de la compañía amplíen esta ventaja, siempre y cuando puedan hacer que la red funcione.

Si bien AI Platform Alliance incluye muchas nuevas empresas de inteligencia artificial conocidas, dos de las empresas más grandes que trabajan para robarle participación a Nvidia no están en la lista: Intel y AMD.

Ambas empresas han invertido mucho en el desarrollo de su propio hardware y software de inteligencia artificial. Es más, ambos han defendido marcos y herramientas de código abierto, incluidos muchos que funcionan con plataformas de terceros.

En Intel Innovation en septiembre, el CTO de Intel, Greg Lavender hablado las contribuciones de IA del gigante de los chips, incluidos sus tiempos de ejecución de código abierto OneAPI, OpenVINO y SYCL. SYCL es particularmente interesante ya que no se limita al hardware de Intel sino que pretende ser una alternativa abierta a CUDA de Nvidia.

AMD también se apoya en gran medida en la comunidad de código abierto cuando se trata de software. La empresa recientemente Unido con Hugging Face para ampliar el catálogo de modelos de código abierto disponibles para ejecutar en sus aceleradores Instinct y Alveo.

Mientras tanto, en el frente del hardware, ambos fabricantes de chips tienen una amplia experiencia (sin mencionar recursos) trabajando con ODM para estandarizar factores de forma para una variedad de sistemas.

Cuando se le preguntó si la alianza estaría abierta a agregar cualquiera de las compañías a sus filas, Wittich dijo que “cualquiera puede postularse” y que la cosecha inicial de socios provino de proveedores con los que Ampere había trabajado anteriormente. ®

Sello de tiempo:

Mas de El registro