O que é um centro de dados de IA?

Um centro de dados de IA é uma instalação especializada que aloja o equipamento informático necessário para criar, implementar e operar sistemas de inteligência artificial. Pode dar suporte ao treino de modelos, à inferência, ao processamento de dados, a assistentes de pesquisa, à geração de imagens, a sistemas de recomendação ou a aplicações empresariais de IA.

A expressão «centro de dados» pode fazer com que a infraestrutura pareça abstrata, mas trata-se de edifícios físicos ligados a redes elétricas, redes de fibra ótica, sistemas de refrigeração e infraestruturas de dissipação de água ou calor. A IA pode parecer apenas software, mas depende de máquinas reais em locais reais.

Um centro de dados na nuvem convencional pode executar vários tipos de cargas de trabalho. Um centro de dados de IA está normalmente otimizado para cálculos de elevada densidade, especialmente clusters de GPU ou aceleradores que realizam um número enorme de operações matemáticas paralelas.

O núcleo visível é constituído por racks de servidores. Nas instalações de IA, muitos desses servidores contêm GPUs, aceleradores de IA, memória de elevada largura de banda e placas de rede especializadas. Estas máquinas foram concebidas para transferir dados rapidamente e realizar cálculos matriciais de forma eficiente.

À volta do hardware de computação existe um sistema de apoio mais vasto: armazenamento para conjuntos de dados e pontos de verificação de modelos, comutadores de rede, ligações de fibra ótica, equipamento de conversão de energia, sistemas de backup, monitorização, sistemas de extinção de incêndios e segurança física.

A refrigeração é tão importante quanto o processamento. O hardware de IA de alta densidade produz calor continuamente, pelo que as instalações recorrem à refrigeração por ar, à refrigeração líquida, a refrigeradores, bombas, torres de refrigeração ou permutadores de calor, dependendo do projeto e das condições locais.

A principal diferença reside na densidade e na natureza da carga de trabalho. O treino de IA pode manter milhares de aceleradores ocupados durante longos períodos, enquanto os sistemas de inferência têm de responder rapidamente aos comandos dos utilizadores, às chamadas de API, às recomendações ou às imagens geradas.

Os clusters de IA também necessitam de uma comunicação extremamente rápida entre máquinas. Durante o treino, as GPUs trocam constantemente gradientes e dados do modelo. Durante a inferência, os servidores têm de carregar os pesos do modelo, processar o contexto e devolver resultados com baixa latência.

Esta combinação de chips de alta densidade, elevado consumo de energia, redes de alta velocidade e gestão térmica torna a infraestrutura de IA mais exigente do que muitas cargas de trabalho tradicionais da Web ou empresariais.

O treino é a fase em que um modelo aprende a partir dos dados. Pode exigir grandes conjuntos de dados, execuções demoradas, cálculos repetidos e grupos de GPUs a trabalhar em conjunto. Este é frequentemente o tipo de computação de IA mais visível, uma vez que gera uma procura elevada e concentrada em termos de infraestrutura.

A inferência é a fase em que um modelo treinado é utilizado. Cada resposta de um chatbot, geração de imagens, resposta de um assistente de pesquisa ou pedido de classificação envolve a execução da inferência. Um pedido pode ser pequeno, mas a utilização a nível global gera uma procura contínua.

Muitos centros de dados de IA suportam ambas as fases, embora nem sempre da mesma forma. O treino privilegia grandes clusters sincronizados, enquanto a inferência dá grande importância à latência, à disponibilidade, ao encaminhamento, ao processamento em lotes e ao custo por pedido.

O hardware de IA necessita de eletricidade e, quase toda essa eletricidade, acaba por se transformar em calor. Por conseguinte, uma instalação necessita de um fornecimento de energia suficiente para fazer funcionar o equipamento e de capacidade de refrigeração suficiente para remover o calor de forma fiável.

É por isso que os centros de dados de IA são frequentemente referidos em megawatts ou gigawatts, e não apenas em metros quadrados. O fator limitante pode ser a ligação à rede, os transformadores, a geração de energia de reserva, a água de refrigeração, a dissipação de calor ou as licenças locais, e não apenas o terreno em si.

Chips mais avançados, refrigeração líquida e um design mais eficiente dos centros de dados podem reduzir o consumo de energia por tarefa, mas a procura total pode ainda assim aumentar se a utilização da IA crescer mais rapidamente do que as melhorias em termos de eficiência.

Os centros de dados de IA são construídos em locais onde os operadores podem combinar energia, terrenos, conectividade por fibra ótica, opções de refrigeração, condições fiscais e de licenciamento, disponibilidade de mão-de-obra e proximidade em relação aos utilizadores ou às regiões de nuvem.

Algumas localizações são identificadas publicamente como supercomputadores de IA ou instalações de infraestrutura de IA. Outras são regiões de nuvem em hiperescala gerais que podem executar cargas de trabalho de IA, mas não estão publicamente associadas a um modelo ou produto específico.

Para uma visão geral cautelosa, consulte a lista complementar: Onde se situam os centros de dados de IA?.

Os centros de dados de IA são importantes porque ligam a utilização quotidiana da IA à infraestrutura física. Um comando num portátil ou telemóvel pode desencadear cálculos em servidores com GPU, que dependem de eletricidade, refrigeração, água, chips, terrenos e redes.

São também importantes para as comunidades locais. As grandes instalações podem trazer investimento e postos de trabalho, mas podem suscitar questões relacionadas com a capacidade da rede elétrica, o consumo de água, o uso do solo, o ruído, as emissões, a transparência e quem paga pelas infraestruturas de apoio.

Uma discussão séria sobre o impacto da IA tem, portanto, de ir além da capacidade abstrata dos modelos. Tem de incluir onde a infraestrutura funciona, como é alimentada, com que eficiência é arrefecida e com que transparência os seus operadores comunicam a utilização dos recursos.