AMD dice que sus aceleradores de IA MI300X son más rápidas que los H100 de Nvidia, incluso con una pila de software optimizada. 2c3p1u
AMD nos ha compartido algunas pruebas de rendimiento donde coloca al MI300X por encima del H100 en hasta un 30%.
La compañía de Lisa Su ha querido compartir algunas comparativas de rendimiento, en la que una de las más importantes ha sido enfrentar al MI300X con el H100, este último utilizando el TensorRT-LLM, siempre teniendo en consideración la latencia, que es típica de las cargas de trabajo de servidor. También ha destacado las mejoras en el desempeño con el vLLM, donde vemos una ventaja de hasta el 110% en estas pruebas. En este aspecto, tambien se destaca el las pruebas de FP8, donde las latencias superan en 0.1 s al H100.
Estas pruebas se realizaron con las optimizaciones correspondientes para AMD en el modelo Llama 2 70B. AMD ha asegurado que Nvidia mostró su rendimiento, sin emular la situación del mundo real, por lo que estos nuevos resultados se estarían ajustando más a esos escenarios reales que dice AMD.
Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado
En esta clase de comparativas, cada quien siempre barre para su casa, por lo que debemos tomarnos estas pruebas con pinzas hasta que salgan las pruebas y comparativas de los medios especializados.
Nvidia es actualmente el líder en este segmento y AMD busca una parte del pastel de la inteligencia artificial con sus aceleradoras MI300, en una batalla que apenas está comenzando. Os mantendremos al tanto de todas las novedades.
Microsoft, en colaboración con ASUS, ha revelado su próxima apuesta de consola portátil: el ROG…
La evolución tecnológica de AMD sigue tomando forma en el ecosistema Linux, con la inclusión…
