Resposta curta
Uma única consulta ChatGPT pode consumir significativamente mais eletricidade do que uma pesquisa tradicional na Web, dependendo do tamanho do modelo, da duração da resposta e da eficiência da infraestrutura. Os números exactos continuam a ser difíceis de medir publicamente.
A inferência de IA requer computação GPU
Cada resposta do ChatGPT requer inferência de IA: o modelo processa tokens em grandes clusters de GPU para gerar texto em tempo real. Ao contrário das bases de dados estáticas, os modelos linguísticos modernos executam milhares de milhões de operações matemáticas para cada interação.
A pequena energia por consulta torna-se maciça à escala
Uma consulta individual pode parecer insignificante, mas centenas de milhões ou milhares de milhões de pedidos por dia traduzem-se numa procura substancial de eletricidade nos centros de dados em todo o mundo.
A eficiência das infra-estruturas é importante
A pegada energética depende da geração de hardware, da utilização da GPU, dos sistemas de arrefecimento, da eficiência do centro de dados (PUE) e das técnicas de otimização do modelo, como a quantização ou o agrupamento.
As estimativas públicas continuam a ser aproximadas
A maioria dos números públicos são estimativas porque as empresas raramente divulgam dados detalhados de consumo de eletricidade por consulta. TheAIMeters utiliza investigação pública agregada e pressupostos de infra-estruturas para estimar a atividade de IA em grande escala. Metodologia.