AI服务器采购需求信息表：模型、并发、数据与机房条件怎么梳理
采购AI服务器前先明确模型版本、精度、上下文、并发、数据规模、网络存储和机房条件。本文提供可直接用于需求沟通的企业AI服务器需求信息表，适用于GPU服务器与集群采购前期梳理。
AI服务器采购AI服务器需求表GPU服务器选型大模型部署
AI Infrastructure Knowledge Hub
指南 / AI 服务器
12 个条目
AI服务器机柜功率怎么估算？从整机功耗到PDU与散热规划
高密度GPU服务器上架前如何估算机柜功率？本文从整机最大功耗、供电冗余、PDU/回路、电压、热负载与扩容空间说明机房侧规划方法，并给出上架前核验清单。
AI服务器功率GPU服务器功耗机柜功率PDU
AI服务器PoC与验收指标怎么定？从功能、性能到稳定性的企业验收指南
AI服务器PoC不应只跑一次模型或只看GPU峰值性能。本文给出从业务任务、TTFT/TPOT、吞吐、并发、稳定性到软件环境和故障恢复的可复用验收框架。
AI服务器PoCAI服务器验收GPU服务器测试大模型部署
TTFT、TPOT、吞吐与并发：大模型推理服务怎么验收？
解释TTFT、TPOT/ITL、吞吐、并发、P95/P99等大模型推理指标的含义与关系，并给出企业推理服务从单请求基线到SLA容量边界的验收方法。
TTFTTPOTITL大模型推理
多GPU服务器、GPU集群与超节点怎么选？企业AI算力选型指南
从业务负载、显存并发、互连网络、软件生态、机房条件和三年TCO出发，判断企业应该选择多GPU服务器、多节点集群还是Scale-up超节点
AI服务器GPU服务器GPU集群超节点
全闪NVMe存储如何与GPU服务器匹配
全闪NVMe不能只按峰值带宽匹配GPU服务器。本文从工作集、I/O形态、并发、元数据、网络和PCIe拓扑建立需求模型，并给出端到端联调清单。
全闪NVMeGPU服务器存储GPUDirect StorageAI存储
GPU服务器监控哪些指标：显存、功耗、温度与利用率
GPU监控不能只看利用率。本文按容量、活动、热功耗、互联与错误五组信号组织指标，并说明如何用基线、持续时间和业务指标设计告警。
GPU服务器监控GPU显存监控GPU功耗温度DCGM
8卡GPU服务器CPU、内存与PCIe配置指南
8卡GPU服务器配置需要同时考虑CPU、内存、PCIe或NVSwitch、网卡、NVMe和NUMA。本文给出PCIe八卡与HGX平台的配置与验收重点。
8卡GPU服务器CPU内存PCIe
AI服务器CPU怎么选：核心数、频率与PCIe通道
AI服务器CPU选型不能只看核心数，还要综合频率、内存通道、PCIe资源、NUMA拓扑和GPU数量。本文给出面向训练、推理和多卡服务器的判断方法。
AI服务器CPU选型PCIeNUMA
GLM-5.2本地部署配置推荐：FP8、1M上下文与Q4方案
GLM-5.2需要多少GPU？本文给出8×H200、8×H20、8×B200及Q4量化配置，并说明1M上下文、内存、存储、框架和上线验收。
GLM-5.2H200B200pro 6000
GPU服务器CPU与GPU数量如何匹配？
GPU服务器CPU与GPU数量的匹配取决于PCIe通道、NUMA、内存、网络和存储，而不是固定比例。本文给出1卡、4卡和8卡服务器的配置判断逻辑。
GPU服务器CPU多GPUPCIe
AMD Instinct 八卡服务器部署要注意什么?
AMD Instinct 八卡服务器通常采用 OAM 与 UBB 平台，部署需要同时规划 Infinity Fabric、CPU与NUMA、主机内存、400G网络、ROCm、供电散热和系统验收。本文给出可执行的节点与集群检查框架。
AMD 八卡服务器AMD Instinct 8 GPUMI300X 八卡服务器MI325X 八卡服务器