Cluster de GPUs em data center refrigerado

Cluster de GPUs em data center refrigerado mostra infraestrutura essencial para treinamento de modelos de IA.

Sobre o tema

Clusters de GPUs são o coração do treinamento de modelos de inteligência artificial. Em data centers modernos, dezenas ou centenas de GPUs trabalham em paralelo para processar enormes volumes de dados, reduzindo o tempo de treinamento de semanas para horas. A refrigeração é crítica: GPUs de alto desempenho como NVIDIA A100 ou H100 podem dissipar centenas de watts cada, exigindo sistemas de resfriamento líquido ou ar condicionado de precisão para evitar superaquecimento.

Data centers que hospedam esses clusters consomem quantidades massivas de energia. Um rack de GPUs pode demandar 10-40 kW, muito acima dos 5-10 kW de racks tradicionais de servidores. Por isso, a eficiência energética é prioridade, com uso de energias renováveis e designs de resfriamento inovadores, como imersão em líquido dielétrico.

A localização desses data centers é estratégica: próxima a fontes de energia barata, redes de fibra óptica e climas frios para reduzir custos de refrigeração. Países como Islândia, Canadá e Noruega atraem investimentos por oferecerem energia geotérmica ou hidrelétrica e temperaturas baixas.

Curiosidade: o maior cluster de GPUs do mundo, o Frontier, no Oak Ridge National Laboratory (EUA), possui mais de 37.000 GPUs AMD e consome 21 MW. Já o Summit, também nos EUA, usa 27.648 GPUs NVIDIA e foi usado para simulações de COVID-19. Esses clusters são tão demandados que empresas como a NVIDIA vendem sistemas completos, como o DGX SuperPOD, que integra 1.000 GPUs em um único cluster.

Perguntas frequentes

Por que GPUs são usadas para treinar modelos de IA?

GPUs possuem milhares de núcleos que processam operações matemáticas em paralelo, ideais para o treinamento de redes neurais. CPUs, com menos núcleos, são mais lentas para esse tipo de carga.

Qual a diferença entre refrigeração a ar e líquida em data centers?

Refrigeração a ar usa ventiladores e ar condicionado; é mais simples, mas menos eficiente para altas densidades. A líquida, por imersão ou cold plates, remove calor de forma mais eficaz, permitindo maior densidade de GPUs.

Quanto custa operar um cluster de GPUs?

O custo varia conforme tamanho e localização. Um cluster com 1.000 GPUs pode consumir ~1 MW, resultando em contas de energia de centenas de milhares de dólares por mês. Além disso, há custos de hardware, refrigeração e manutenção.