10,000 MTT S4000 en un clúster destinado a la IA

10,000 MTT S4000 en un clúster destinado a la IA



Del lado de China, hemos aprendido que la marca Moore Threads ahora puede conectar 10,000 tarjetas en sus centros de datos. El objetivo es simple: alimentar la inteligencia artificial.

¡10,000 tarjetas MTT S4000 en un centro de datos para IA!

Moore Threads MTT S4000 - tarjetas chinas

En el programa, nos enfrentaremos a enormes clusters (agrupamiento de varios servidores) que alcanzan hasta 10,000 tarjetas. Para lograrlo, encontramos conjuntos de servidores MCCX D800 que llevan ocho tarjetas MTT S4000, dos procesadores Xeon de cuarta generación, 1 TB de RAM y 15.36 TB de almacenamiento en SSD NVMe. Y para llegar a 10,000 tarjetas, se necesitan 1250 de estas máquinas.

Por supuesto, el objetivo es proporcionar centros de datos para la inteligencia artificial. Esto permitirá entrenar varios modelos tipo LLM mientras se manejan tareas de tipo inferencia.

Ahora, es importante saber que la MTT S4000 es una tarjeta destinada a servidores basados en la arquitectura Musa desarrollada por Moore Threads… Los mismos detrás de las MTT S80 y MTT S70. Cada tarjeta tiene 48 GB de memoria y 128 tensor core, lo que suma un total de 1,280,000 tensor core en un cluster de 10,000 tarjetas. Por último, para la comunicación entre las tarjetas, encontramos una conexión propietaria MTLink que ofrece un ancho de banda de 768 GB/s.

Sin embargo, el futuro es incierto para la marca debido a las sanciones estadounidenses que impiden que la empresa acceda a procesos de fabricación avanzados. Por supuesto, la empresa aún puede recurrir a SMIC, pero los últimos rumores indican costos elevados y disponibilidad limitada también. Es una lástima que la empresa haya logrado recaudar $343.7 millones en una reciente ronda de financiación, mientras asegura asociaciones con importantes empresas de telecomunicaciones chinas.