什么是人工智能数据中心？

人工智能数据中心是一种专门设施，内部配备了构建、部署和运行人工智能系统所需的计算设备。它可支持模型训练、推理、数据处理、搜索助手、图像生成、推荐系统或企业级人工智能应用。

“数据中心”这个词可能会让人觉得这种基础设施很抽象，但实际上它们是与电网、光纤网络、冷却系统以及供水或散热基础设施相连的实体建筑。人工智能虽然给人一种软件的感觉，但它依赖于真实地点中的真实机器。

传统的云数据中心可以运行多种类型的工作负载。而人工智能数据中心通常针对高密度计算进行了优化，尤其是那些执行大量并行数学运算的GPU或加速器集群。

其核心部分是成排的服务器机架。在人工智能设施中，其中许多服务器配备了GPU、人工智能加速器、高带宽内存以及专用网络卡。这些机器旨在快速传输数据并高效执行矩阵运算。

围绕计算硬件的，是一个更庞大的支持系统：用于存储数据集和模型检查点的存储设备、网络交换机、光纤连接、电源转换设备、备份系统、监控系统、消防系统以及物理安防系统。

散热与计算同样重要。高密度人工智能硬件会持续产生热量，因此数据中心会根据设计和当地条件，采用风冷、液冷、冷水机组、水泵、冷却塔或热交换器等散热方式。

主要区别在于密度和工作负载的形态。AI训练可以让数千个加速器长时间保持满负荷运行，而推理系统则必须快速响应用户请求、API调用、推荐或生成的图像。

AI 集群还需要机器之间进行极高速的通信。在训练过程中，GPU 会不断交换梯度和模型数据。在推理过程中，服务器必须以低延迟的方式加载模型权重、处理上下文并返回输出结果。

密集的芯片布局、高功耗、高速网络以及散热管理等因素相结合，使得人工智能基础设施的要求比许多传统的Web或企业工作负载更为严苛。

训练是模型从数据中学习的过程。这一过程可能需要海量的数据集、长时间的运行、反复的计算，以及多块GPU协同工作。这通常是最引人注目的AI计算类型，因为它会产生大规模且集中的基础设施需求。

推理是使用已训练模型的阶段。每次聊天机器人的回答、图像生成、搜索助手的响应或分类请求都会执行推理。单次请求可能规模不大，但全球范围内的使用会产生持续的需求。

许多人工智能数据中心同时支持这两个阶段，尽管实现方式并不总是相同。训练阶段侧重于大型同步集群，而推理阶段则高度关注延迟、可用性、路由、批处理以及每次请求的成本。

人工智能硬件需要电力，而这些电力几乎全部最终都会转化为热量。因此，数据中心既需要足够的供电能力来运行设备，也需要足够的制冷能力来可靠地散热。

正因如此，讨论人工智能数据中心时，通常以兆瓦或吉瓦为单位，而不仅仅是平方米。限制因素可能包括电网接入、变压器、备用发电机组、冷却水、热量排放或当地许可，而不仅仅是土地本身。

更先进的芯片、液冷技术以及更高效的数据中心设计可以降低每项任务的能耗，但如果人工智能的使用增速超过能效提升的速度，总能耗仍可能增加。

AI数据中心的选址需综合考虑以下因素：电力供应、土地资源、光纤连接、制冷方案、税收及许可条件、劳动力供应，以及与用户或云区域的距离。

有些地点被公开标识为人工智能超级计算机或人工智能基础设施站点。另一些则是通用超大规模云区域，虽然能够运行人工智能工作负载，但并未公开与任何特定模型或产品挂钩。

如需一份审慎的公众概述，请参阅配套列表： 人工智能数据中心位于哪里？.

AI数据中心之所以重要，是因为它们将日常的AI应用与物理基础设施联系在一起。笔记本电脑或手机上的一条提示，可能会触发GPU服务器内部的计算，而这些服务器依赖于电力、制冷、水、芯片、土地和网络。

这些项目对当地社区也至关重要。大型设施虽能带来投资和就业机会，但也可能引发关于电网容量、用水、土地使用、噪音、排放、透明度以及谁来承担配套基础设施建设费用的问题。

因此，对人工智能影响的严肃讨论必须超越抽象的模型能力，还必须考虑基础设施的运行地点、其能源供应方式、散热效率以及运营商对资源使用情况的披露透明度。