Micron Technology ha sacado pecho siendo la primera compañía en ser capaz de sacar unos chips de memoria HBM3 Gen2 de 24 GB de capacidad. Estos chips darán vida a una nueva generación de tarjetas gráficas para servidores y centros de datos, los cuales están cada vez más hambrientos requiriendo velocidades de memoria más altas junto a una mayor capacidad. Es por ello que estas memorias no solo aumenta notablemente su ancho de banda, sino también ofrecen una mayor capacidad, y todo ello con mejoras a nivel de consumo energético. Evidentemente, hablamos de que esta memoria tendrá un papel protagonista en todo aquello relacionado con la aceleración de IA y la computación de alto rendimiento.
“La tecnología HBM3 Gen2 de Micron se desarrolló con el objetivo de dar rienda suelta a soluciones superiores de IA y computación de alto rendimiento para nuestros clientes y la industria”, dijo Praveen Vaidyanathan, vicepresidente y gerente general de Compute Products Group de Micron.
“Un criterio importante para nosotros ha sido la facilidad de integración de nuestro producto HBM3 Gen2 en las plataformas de nuestros clientes. Un Memory Built-In Self Test (MBIST) totalmente programable que puede ejecutarse a la velocidad de pin de especificación completa nos posiciona para mejorar la capacidad de pruebas con nuestros clientes, crea una colaboración más eficiente y ofrece un tiempo de comercialización más rápido.”
Estas son las especificaciones de la memoria Micron HBM3 Gen2
Según indica la compañía, estos son los primeros chips de memoria HBM3 Gen2 en alcanzar un ancho de banda de 1,2 TB/s. Esto implica una mejora de rendimiento de hasta un 50% respecto a las actuales soluciones de almacenamiento HBM3. Gracias al uso del proceso de fabricación de memoria DRAM 1β (1-beta), hablamos de ofrecer 2,5 veces más rendimiento por vatio consumido.
Para alcanzar los 24 GB de capacidad, la compañía emplea unos chips de memoria de 8 pisos. Para el primer trimestre de 2024, la compañía comenzará a comercializar sus chips con 12 pisos. Esto le permitirá aumentar la densidad hasta los 36 GB de capacidad. Además del menor coste a nivel de energético que implica a nivel de TCO (coste total) tener una GPU las 24 horas del día funcionando en esta memoria, esta memoria promete un 30% menos de tiempo para formación de grandes modelos lingüísticos, lo que también implica una reducción de costes al poder hacer todo el trabajo en un menor tiempo.
Esta memoria es tan avanzada, que se espera que su reemplazo, la memoria HBM4 no llegue hasta el año 2026. Es por ello la necesidad de unos chips con una densidad de hasta 36 GB de capacidad para aumentar su vida útil hasta dicho año.
NVIDIA será la primera compañía que use esta memoria
NVIDIA es ahora mismo el rey de la aceleración de la inteligencia artificial, así que no debería sorprendernos. Es por ello que Micron ya ha hablado con NVIDIA para crear la próxima generación de gráficas orientadas a la inteligencia artificial y computación de alto rendimiento.
“En el núcleo de la IA generativa se encuentra la computación acelerada, que se beneficia del gran ancho de banda de la memoria HBM con eficiencia energética”, dijo Ian Buck, vicepresidente de hiperescala y computación HPC en NVIDIA.
“Tenemos una larga historia de colaboración con Micron a través de una amplia gama de productos y estamos ansiosos por trabajar con su memoria HBM3 Gen2 para sobrealimentar la innovación en IA.”
La entrada Micron presenta sus chips de memoria HBM3 Gen2: 24GB de capacidad a 1,2 TB/s aparece primero en El Chapuzas Informático.
