Se han publicado nuevos puntos de referencia para la próxima GPU Grace basada en ARM de NVIDIA, que alimentará la siguiente generación de centros de datos y servidores.
El rendimiento de las CPU x86 más rápidas de AMD e Intel para centros de datos con la misma potencia lo muestran hasta el doble según las últimas pruebas de rendimiento de NVIDIA sobre CPU Grace
La CPU Grace se utilizará en los Superchips de Nvidia, que están disponibles en las versiones CPU + CPU y GPU + GPU. Está alimentado por los núcleos Arm Neoverse N2. El superchip Grace Hopper utilizará la GPU más potente de NVIDIA para cargas de trabajo computacionales y de IA, la GH200, que también tiene la memoria HBM3e más rápida del mundo.
Algunas de las características más destacables de Grace son:
- CPU de alto rendimiento para computación en nube y HPC
- El diseño del superchip incluye hasta 144 núcleos de CPU Arm v9.
- El primer LPDDR5x del mundo con memoria ECC y 1 TB de ancho de banda total
- Más de 740 Specrate2017_ INT_ Base (estimación)
- interfaz coherente de 900 Gb/s, 7 veces más rápida que la PCIe Gen 5
- El doble de densidad del embalaje para las soluciones basadas en DIMM
- El doble del rendimiento máximo de la CPU actual por vatio
- ejecuta RTX, HPC, AI y Omniverse, entre otras plataformas y paquetes de software de NVIDIA.
En la presentación de Hot Chips 2023, Bill Dally, el científico jefe de Nvidia, comparó el rendimiento de un superchip Grace con el de una solución x86 con doble conector rival. Entre ellos se encuentran el buque insignia de Intel, el Xeon Platinum 8480 +, que cuenta con 56 núcleos y 112 subprocesos, así como el AMD EPYC 9654, el procesador más rápido y la solución de 192 subprocesos. Como las soluciones utilizaban una configuración de doble socket, el número total de núcleos utilizados por AMD y la plataforma Intel era de 112.
Según las especificaciones oficiales de la CPU Grace de NVIDIA, el Grace Superchip tiene un consumo de energía combinado de 500 W, 144 núcleos (72 Arm Neoverse V2 por chip) en total, hasta 960 GB de memoria LPDDR5X y 1 Tb/s de ancho de banda bruto. Al utilizar el nodo de proceso TSMC 4N, las especificaciones adicionales incluyen 58 carriles Gen5 y 117 MB de caché L3.
Los puntos de referencia de NVIDIA incluyen una amplia gama de aplicaciones de servidor, incluidas GrapH Analytics, GAPbs, BFS, Weather WRF, MD CP2K, Climate NEMO y CFD OpenFOAM. En todas las pruebas, las CPU Grace Superchip de Nvidia son considerablemente más rápidas y ofrecen un rendimiento hasta un 40% mejor que los Genoa Cores de AMD, además de superar a los procesadores Sapphire Rapids de Intel. La mayoría de las pruebas estuvieron a la par con las de Genoa, lo que es fantástico para Grace, ya que el Grace Superchip funciona a 500 W, mientras que dos de esos chips tienen un TDP combinado de 640 W (320 vatios por EPYC 9654).
Sin embargo, en comparación con una aplicación real de centro de datos a gran escala, las comparaciones de rendimiento se vuelven aún más fascinantes. Los superchips Grace de Nvidia pueden ofrecer hasta 2,5 veces más rendimiento y, al mismo tiempo, son increíblemente eficientes dentro de los mismos puntos de referencia, según un punto de referencia de rendimiento de un centro de datos de 5 MW. Dado que las GPU Tensor Core de Nvidia han dominado el mercado de la HPC y la IA, las CPU Grace pueden suponer un punto de inflexión importante para los clientes de centros de datos y servidores que invierten en estas cargas de trabajo.
