El supercomputador de IA de NVIDIA cuesta tres millones de dólares. Y para funcionar usa un switch con tres km de cable

Cuando NVIDIA presentó sus nuevos chips de IA, los B200 con arquitectura Blackwell, aprovechó para presentar una aceleradora de IA llamada GB200. Y al unir 36 de esas aceleradoras creó su servidor de IA, el monstruoso DGX GB200 NVL72, que además guarda algunas sorpresas espectaculares. Cada nodo es bestial. Cada una de esas aceleradoras GB200 cuenta con una CPU NVIDIA Grace con 72 núcleos ARM Neoverse V2 y con dos GPUs B200. Al combinar su potencia acabamos teniendo una especie de GPU bestial combinada con una potencia de 1,44 exaFLOPS en precisión FP4. En Xataka Los chips de NVIDIA siempre habían sido un arma negociadora de EEUU en su guerra comercial con China. Hasta hoy Un armario que pesa un quintal. El aspecto del DGX GB200 NVL72 es el de un pequeño y estrecho armario que sobre todo es muy denso: este rack pesa 1,36 toneladas. En su interior hay 18 nodos de computación Bianca en formato 1U, y cada uno de ellos cuenta con dos GB200, o lo que es lo mismo, con cuatro GPUs B200 (de ahí que 18 x 4 = 72). El coste estimado de este servidor de IA es de unos tres millones de dólares. La refrigeración líquida es clave. El calor disipado por estos componentes es notable, lo que hace que en este caso la mejor opción para enfriar esos elementos sea la refrigeración líquida. Este sistema no solo se aplica en las CPU Grace o en las GPUs B200, sino en los chips NVLink de los switches, que también pueden llegar a calentarse mucho debido al masivo trasiego de datos entre las aceleradoras. Interconexiones por doquier. Para que todas esas GPUs trabajen juntas, cada una de las 36 GB200 cuenta con tarjetas de red especializadas con soporte NVLink de quinta generación que permiten que cada uno de los nodos de computación esté conectado a los demás. Para ello hay nueve switches que proporcionan esa enorme cantidad de interconexiones. 3 km de cable. El sistema permite disfrutar de un ancho de banda bidireccional de 1,8 TB/s entre las 72 GPUs del servidor. Pero como señalan en The Register, lo realmente sorprendente es que en total en el interior de ese "armario" hay 3,2 kilómetros de cable de cobre. Solo el módulo con lo switches pesa más de 30 kilogramos debido tanto a esos componentes como a los más de 5.000 cables que se utilizan para que todas las GPUs de NVIDIA trabajen unidas y en perfecta sincronía. ¿Por qué cobre? Puede que optar por cable de cobre parezca extraño, sobre todo teniendo en cuenta las necesidades en cuanto a ancho de banda que impone esta máquina. Sin embargo la solución con cables de fibra óptica imponía problemas claros: habría que usar componentes electrónicos necesarios para estabilizar y convertir las señales ópticas. Eso habría incrementado no solo el coste, sino el consumo del sistema final. ¿Puede correr Crysis? El rendimiento de cada chip B200 ya es brutal por sí solo: su potencia es el triple que la de las GeForce RTX 5090, y el servidor entero incluye 72 de estas GPUs especializadas para IA, lo que demuestra la capacidad de cómputo que posee dicha máquina. Cuenta además con núcleos RT (Ray-Tracing) de cuarta generación, lo que teóricamente permitiría usar estos chips de IA para jugar a videojuegos, aunque por supuesto ese no es ni de lejos su propósito. De hecho su rendimiento en este ámbito será probablemente casi tan pobre como el de las NVIDIA H100. Consumo por las nubes. A pesar de que los nuevos chips son mucho más eficientes que los H100 —25 veces menos, asegura NVIDIA—, este servidor de IA tiene un TDP estimado de 140 kW. Dado que el consumo medio de un hogar medio en España ronda los 3.000 kWh al año, en una hora de uso del servidor de NVIDIA consumimos lo mismo que un hogar español medio en 17 días. Tenerlo encendido y funcionando todo el año plantea un consumo similar al de 415 hogares medios en todo el año en España. En Xataka | AMD tiene una hoja de ruta espléndida para sus chips de IA. El problema sigue estando en su software - La noticia El supercomputador de IA de NVIDIA cuesta tres millones de dólares. Y para funcionar usa un switch con tres km de cable fue publicada originalmente en Xataka por Javier Pastor .

Comentarios

Noticias tecnológicas

El invento que puede acabar con los desodorantes para siempre ya está a la venta

el confidencial

Llevamos décadas creyendo que Irán está a "cinco años" de la bomba nuclear. En realidad solo sabemos cuánto uranio enriquece

hace alrededor de 2 horas

Así será la caja fuerte de tu iPhone para guardar y gestionar todas las contraseñas

20 Minutos

Se suponía que Bitcoin venía a salvarnos de la descentralización. Un tercio ya está en manos de unos pocos grandes actores

hace alrededor de 4 horas

Una misteriosa señal terrestre está desafiando la física conocida: viene de las profundidades de la Antártida

xataka

La cúpula de Hierro tiene una debilidad que Irán está explotando con sus drones shahed: La respuesta de Israel se llama Saraf

hace alrededor de 5 horas

xataka

Renovar la patente de Ozempic en Canadá costaba un puñado de dólares. Por algún motivo, Novo Nordisk ha decidido no pagarlos

hace alrededor de 10 horas

Buscar cupones de descuento en ChatGPT: cómo hacerlo para tener ofertas para tiendas online

xataka

Así es como puedes ahorrar en dispositivos tecnológicos: en los reacondicionados de El Corte Inglés tienes los mejores chollos

hace alrededor de 12 horas

Andalucía lanza JuntaGPT. Sus funcionarios usarán IA para enviar sus mails

xataka

Comentarios

Noticias tecnológicas

El invento que puede acabar con los desodorantes para siempre ya está a la venta

Estudian la mandíbula humana y encuentran un nuevo uso para las muelas del juicio

Una obsesión se ha adueñado de los grupos de WhatsApp de media España: los monólogos de Juan el Pescaero

Figure 02 ha trabajado solo durante una hora. Lo impactante es que su cerebro ya recuerda y sus manos "sienten"

Una sentencia obliga al Principado de Asturias a pagarle las gafas a un empleado público. Solo es la primera de muchas

Hay nueva Xbox en el horizonte. Microsoft confirma que trabaja en hardware de nueva generación y deja un adelanto clave

La Promo de Verano de AliExpress arranca con descuentos muy potentes en móviles, tablets y más dispositivos

Tras Shein, China tiene entre manos una nueva arma para devorar la industria de la moda: una IA que predice tendencias

Finlandia ha encontrado una forma barata de almacenar energía todo el invierno: una torre de 2.000 toneladas de arena

Llevamos décadas creyendo que Irán está a "cinco años" de la bomba nuclear. En realidad solo sabemos cuánto uranio enriquece

Así será la caja fuerte de tu iPhone para guardar y gestionar todas las contraseñas

El papa León XIV alerta sobre el peligro de la IA: &quot;La dignidad humana corre el riesgo de ser aniquilada&quot;

Google estrena en Europa una tecnología para demostrar tu edad sin revelar quién eres: así funciona

El error más común en WhatsApp tiene solución: cómo recuperar tus mensajes eliminados

Se suponía que Bitcoin venía a salvarnos de la descentralización. Un tercio ya está en manos de unos pocos grandes actores

Una misteriosa señal terrestre está desafiando la física conocida: viene de las profundidades de la Antártida

China ha dado el siguiente paso para dominar la industria del coche eléctrico: apostar por los chips propios

En 1969, la misión Apolo XI encontró 'cuentas de vidrio naranja' en la Luna: por fin sabemos qué son

Rusia vuelve a usar los bombarderos nucleares soviéticos más poderosos contra Ucrania

El 'tesoro' nuclear de Irán que Israel quiere destruir se llama Fordow y es (casi) inexpugnable

Las eléctricas están culpando al apagón de la subida de la luz. FACUA y el Código Civil no están de acuerdo

Hemos hallado en Filipinas los restos de una avanzada cultura de navegantes de unos 35.000 años de antigüedad

Hace 23 años China dio a EEUU una lección. Gracias a ella hoy domina la industria de las baterías de forma aplastante

La cúpula de Hierro tiene una debilidad que Irán está explotando con sus drones shahed: La respuesta de Israel se llama Saraf