专题 专题

AI 数据中心液冷专题

围绕高密度 GPU 服务器、GB200/B200 级平台和企业 AI 机房改造,梳理液冷方案的事实依据、适用边界、工程评估方法和相关条目。

topicai-datacenterliquid-coolingpower-coolinggpu-serverblackwell
Slug
topic-ai-datacenter-liquid-cooling
更新
2026-05-03
来源
3
关系
6

概览

AI 数据中心液冷专题用于回答一个核心问题:当企业从少量 GPU 服务器走向 H100/H200/B200、HGX、DGX 或 GB200 级平台时,机房冷却能力是否还能支撑算力密度增长。

液冷不是单台服务器的配件选择,而是机柜、电力、冷源、管路、CDU、漏液检测、维护流程和容量规划共同决定的基础设施问题。对 赋创 知识库来说,本专题负责把硬件条目、方案条目和 FAQ 串起来,形成可查询的工程判断框架。

官方可确认的信息

根据 NVIDIA 和 Open Compute Project 的公开资料,可以确认以下事实:

  • NVIDIA GB200 NVL72 是机架级、液冷设计,官方页面描述其连接 36 个 Grace CPU 与 72 个 Blackwell GPU;
  • NVIDIA DGX GB 机架级系统文档描述了 compute trays、NVLink switch trays、power shelves、bus bar 和 liquid cooling manifolds 等组成;
  • Open Compute Project 的 Cold Plate 项目面向直接液冷应用的标准化和开放生态,覆盖冷板到 CDU 等技术冷却系统相关要求、规范和最佳实践;
  • NVIDIA H200、DGX B200 和 GB200 等平台资料都体现出 GPU 显存、互联和功耗密度提升后,冷却方案需要与整机和机柜平台一起评估。

这些事实说明:进入高密度 AI 平台后,液冷评估必须前置到采购和机房设计阶段,不能等服务器到货后再补救。

什么时候需要重点评估液冷

1. 新建高密度训练集群

如果目标是 8-GPU 训练服务器、HGX/DGX 节点或多机训练集群,单柜功率和热密度会显著高于传统 CPU 机柜。此时液冷不是“是否高端”的问题,而是机房是否能稳定运行的问题。

2. 规划 Blackwell 或 GB200 级平台

B200、DGX B200、GB200 NVL72 等平台应放在整机和机架级视角下评估。尤其是 GB200 NVL72 这类机架级系统,官方已经明确为液冷设计,不能套用传统风冷机房的经验。

3. 既有机房电力和冷却余量不足

如果机柜功率、制冷能力、冷通道组织、楼板承重、供配电和运维人员能力不足,即使 GPU 预算充足,也可能无法安全上线。

不一定需要液冷的场景

  • 少量 PCIe 推理服务器;
  • 低并发、低利用率的研发测试环境;
  • 以 L40S、RTX 6000 Ada 等 PCIe 卡为主的工作站或小规模服务器;
  • 已有机房风冷能力充足,且单柜功率没有接近上限的场景。

这类场景应先做功率和热量核算,而不是直接把液冷作为默认方案。

工程估算说明

以下不是官方固定规格,而是工程规划口径:

  • 液冷评估至少要同时看单节点功耗、单柜功率、冷却冗余、供电冗余、维护窗口和备件策略;
  • 冷板液冷通常仍需要风冷或空气侧管理来处理非液冷部件散热;
  • CDU、管路、接头、漏液检测、过滤、冷却液维护和运维培训都应计入 TCO;
  • 采购 GPU 服务器前,应要求供应商给出目标机柜功率、进出水温度、流量、压降、维护流程和故障处置方案;
  • 对企业私有化部署,液冷项目周期通常受机房改造影响,比单纯采购服务器更容易成为关键路径。

建议检查清单

检查项需要确认的问题
机柜功率单柜是否能承载目标 GPU 密度
冷源能力是否支持目标热负载和冗余要求
管路与 CDU是否具备 CDU、供回水、过滤和维护能力
漏液风险是否有传感器、告警、隔离和应急流程
运维流程是否有上架、换件、排液、补液和巡检规范
供应商边界服务器厂商、机房方和液冷厂商责任是否清晰

选型支持

需要基于实际项目做选型判断?

结合模型、数据、预算和机房条件,形成更具体的采购与部署建议。

获取选型建议查看 AI 解决方案