NVIDIA CORPORATION Un chip de Nvidia Corp fue el de mejor rendimiento en las pruebas de un modelo de lenguaje de gran tamaño, con un semiconductor producido por Intel Corp en un cercano segundo lugar.
El nuevo punto de referencia MLPerf se basa en un gran modelo de lenguaje con 6.000 millones de parámetros que resume artículos de noticias de la CNN. El punto de referencia simula la parte de "inferencia" del procesamiento de datos de IA, que alimenta el software que hay detrás de las herramientas de IA generativa.
La mejor propuesta de Nvidia para el punto de referencia de inferencia se basa en ocho de sus chips insignia H100. Nvidia ha dominado el mercado de la formación de modelos de IA, pero aún no se ha hecho con el de la inferencia.
"Lo que se ve es que estamos ofreciendo un rendimiento de liderazgo en todos los ámbitos y, de nuevo, ofreciendo ese rendimiento de liderazgo en todas las cargas de trabajo", afirmó el director de marketing de computación acelerada de Nvidia, Dave Salvator.
El éxito de Intel se basa en sus chips Gaudi2 producidos por la unidad Habana que la empresa adquirió en 2019. El sistema Gaudi2 fue aproximadamente un 10% más lento que el de Nvidia.
"Estamos muy orgullosos de los resultados de inferencing, (ya que) mostramos la ventaja de rendimiento en precio de Gaudi2", dijo el director de operaciones de Habana, Eitan Medina.
Intel afirma que su sistema es más barato que el de Nvidia -aproximadamente el precio de la última generación de sistemas 100 de Nvidia-, pero declinó hablar del coste exacto del chip.
Nvidia declinó hablar del coste de su chip. El viernes, Nvidia dijo que planeaba lanzar pronto una actualización de software que duplicaría el rendimiento que había mostrado en la prueba de referencia MLPerf.
La unidad Google de Alphabet adelantó el rendimiento de la última versión de un chip fabricado a medida que anunció en su conferencia sobre computación en la nube de agosto. (Reportaje de Max A. Cherney en San Francisco; Edición de Leslie Adler)
