Jen-Hsun Huang, presidente y director ejecutivo de Nvidia Corp., anuncia la plataforma de supercomputación EGX Edge durante el evento de la compañía en el Mobile World Congress Americas en Los Ángeles, California, el 21 de octubre de 2019.
Patricio T. Fallon | alcalde Bloomberg | Getty Images
de nvidia Las tarjetas gráficas más avanzadas se venden por más de $40,000 en ebaya medida que aumenta la demanda de chips necesarios para entrenar e implementar software de inteligencia artificial.
Los precios de los procesadores H100 de Nvidia fueron señalados por el pionero de los juegos en 3D y ex Meta jefe de tecnología de consultoría John Carmack en Twitter. El viernes, al menos ocho H100 se incluyeron en eBay a precios que oscilaron entre $ 39,995 y poco menos de $ 46,000. Algunos minoristas lo han ofrecido en el pasado por alrededor de $ 36,000.
El H100, anunciado el año pasado, es el último chip insignia de IA de Nvidia, que sucede al A100, un chip de aproximadamente $ 10,000 que ha sido llamado el «caballo de batalla» para las aplicaciones de IA.
Los desarrolladores están utilizando el H100 para construir los llamados modelos de lenguaje grande (LLM), que son el corazón de las aplicaciones de IA como ChatGPT de OpenAI. Ejecutar esos sistemas es costoso y requiere computadoras potentes para procesar terabytes de datos durante días o semanas a la vez. También dependen de una gran potencia informática para que el modelo de IA pueda generar texto, imágenes o predicciones.
Entrenar modelos de IA, especialmente los grandes como GPT, requiere que cientos de GPU Nvidia de alta gama trabajen juntas.
microsoft gastó cientos de millones de dólares en decenas de miles de chips Nvidia A100 para ayudar construir ChatGPT. Nvidia controla la gran mayoría del mercado de chips de IA.
Nvidia también ofrece una supercomputadora con ocho GPU trabajando juntas llamada DGX. A principios de este año, la empresa anunció nuevos servicios que permitirían a las empresas alquilar el acceso a las computadoras DGX para $37,000 por mes. A ese precio, el sistema usaría los procesadores A100 más antiguos de Nvidia.
Nvidia dice que el H100 es el primer chip optimizado para la arquitectura de IA específica que sustenta muchos de los avances recientes en IA, llamados transformadores. Los expertos de la industria dicen que los chips más potentes serán necesarios para construir modelos aún más grandes y con más datos que los que están disponibles actualmente.
MIRAR: La fabricación de chips de Google apunta a la IA generativa de Nvidia
