NVIDIA Rubin GPU
Rubin GPU面向大规模Agent与推理负载，重点升级HBM4带宽、低精度计算、MoE数据移动、长上下文注意力和GPU间通信。
NVIDIA RubinRubin GPUHBM4NVLink 6
AI Infrastructure Knowledge Hub
硬件
43 个硬件条目
配置建议
不确定该硬件是否适合您的模型?
可结合模型规模、显存、并发、网络、存储和机房条件，评估 AI 服务器与 GPU 集群配置。
NVIDIA Vera CPU
Vera CPU采用88个NVIDIA自研Olympus核心、176线程和高带宽SOCAMM2 LPDDR5X，面向Agent沙箱、RL、数据处理与CPU—GPU一致性执行。
NVIDIA VeraVera CPUOlympusSOCAMM2
飞腾腾云S5000C-E
飞腾腾云S5000C-E集成80个处理器核心，支持DDR5与PCIe 5.0，面向AI服务器和智算平台。本文说明其应用方向、生态适配和项目验证边界。
飞腾S5000C-E国产CPUAI服务器
鲲鹏920
鲲鹏920是国产Arm服务器处理器，常见32核、48核和64核版本，广泛用于TaiShan服务器。本文说明其平台定位、生态和AI部署边界。
鲲鹏920Arm服务器国产CPUTaiShan
Intel Xeon 6 E-core
Intel Xeon 6 E-core 是面向高密度和能效型服务器工作负载的 Intel Xeon 6 CPU 路线。
cpuserver-cpuai-serverintel
Intel Xeon 6 P-core
Intel Xeon 6 P-core 是面向高性能服务器工作负载的 Intel Xeon 6 CPU 路线。
cpuserver-cpuai-serverintel
NVIDIA Grace CPU
NVIDIA Grace CPU基于Arm Neoverse V2，强调LPDDR5X高带宽内存、能效和NVLink-C2C协同。本文说明Grace与Grace CPU Superchip的定位及软件迁移边界。
NVIDIA GraceArm服务器NVLink-C2CHPC
AMD EPYC 9005
AMD EPYC 9005系列基于Zen 5与Zen 5c，提供高核心数、12通道DDR5和128条PCIe 5.0。本文说明其在AI、HPC、云计算和多GPU服务器中的适用边界。
AMD EPYC 9005TurinPCIe 5.0DDR5
AMD EPYC 9575F
AMD EPYC 9575F是64核高频服务器CPU，最高加速频率5GHz，提供12通道DDR5和128条PCIe 5.0。本文分析其在GPU服务器、EDA和HPC中的适用边界。
EPYC 9575FAI服务器GPU服务器高频CPU
Intel Xeon 6
Intel Xeon 6同时提供P-core和E-core路线，分别面向高单核与计算密集型负载、以及高核心密度和云原生场景。本文说明其平台能力和AI服务器选型边界。
Intel Xeon 6P-coreE-coreAI服务器
AMD Instinct MI325X
AMD Instinct MI325X 是 AMD Instinct 系列数据中心 GPU，面向大模型推理、训练和高显存场景。
gpuai-trainingai-inferencerocm
AMD Instinct MI350X
AMD Instinct MI350X 基于 CDNA 4 架构，配备 288GB HBM3E、8TB/s 显存带宽和 1000W TBP，面向大模型训练、推理和 HPC。本文说明参数、八卡平台、ROCm 适配及部署边界。
GPUAMDinstinctllm-inference
AMD Instinct MI355X
AMD Instinct MI355X 基于 CDNA 4，配备 288GB HBM3E、8TB/s 显存带宽和 1400W TBP，面向高密度 AI 与 HPC。本文说明其参数、液冷基础设施、八卡平台及适用边界。
AMD Instinct MI355XMI350XAMD加速卡模型训练
NVIDIA A100
NVIDIA A100 是基于 Ampere 架构的数据中心 GPU，仍是大量企业 AI 平台和存量训练集群的重要基线。
gpuai-trainingai-inferenceampere
NVIDIA H100
NVIDIAH100是基于Hopper架构的数据中心GPU，面向大模型训练、高吞吐推理和HPC。选型时必须区分SXM与NVL/PCIe形态，并同时评估显存、互联、服务器平台和软件版本。
gpuai-trainingai-inferencehbm3
NVIDIA H200
NVIDIA H200 基于Hopper架构，提供141GBHBM3e显存和4.8TB/s显存带宽。它的核心价值在于为模型权重、KVCache、长上下文和多模型服务提供更大空间，而不是简单等同于“所有任务都更快”。
gpuai-trainingai-inferencehbm3e
NVIDIA L40S
NVIDIAL40S是基于AdaLovelace架构的数据中心GPU，兼顾AI、图形、视频和渲染。它更适合企业推理、多模态和视觉计算，而不是作为H100/H200级多卡训练平台的直接替代。
gpuai-inferenceada-lovelacecuda
NVIDIA RTX 5090
GeForce RTX 5090基于Blackwell架构，配备32GBGDDR7显存。它适合本地开发、量化验证、PoC和轻量内部服务，但消费级定位决定了它不能被无条件写成生产级数据中心GPU。
NVIDIA RTX 5090RTX 4090Blackwell 架构大模型部署
RTX PRO 5000 Blackwell
RTXPRO5000Blackwell面向专业工作站的数据科学、AI、工程和视觉计算。NVIDIA官方页面列出48GB或72GBGPU显存，具体容量取决于实际型号与版本，选型时必须先确认产品形态。
RTX PRO 5000 BlackwellRTX PRO 6000RTX PRO 4000专业卡
RTX PRO 6000 Blackwell
RTX PRO 6000 参数, RTX PRO 6000 三个版本区别, RTX PRO 6000 服务器版, RTX PRO 6000 工作站版, RTX PRO 6000 Max-Q, RTX PRO 6000D 区别, RTX PRO 6000 大模型推理
RTX PRO 6000RTX PRO 6000 Server EditionRTX PRO 6000 Workstation EditionRTX PRO 6000 Max-Q
摩尔线程 MTT S4000
摩尔线程MTTS4000是基于“曲院”架构的训推一体全功能GPU智算卡，配备48GBGDDR6显存和768GB/s显存带宽，面向大模型训练、微调和推理。
摩尔线程MTT S4000MUSAAI模型部署
天数智芯 天垓150
天数智芯天垓150是面向人工智能训练、微调、推理及通用计算的国产通用GPU。本文基于官方公开资料说明64GB HBM、350W板级功耗、软件生态、模型显存边界及服务器部署注意事项。
天数智芯天垓150BI-V150大模型训练
天数智芯 智铠100
数智芯智铠100（MR-V100）是面向云端AI推理和视频分析的国产通用GPU，配备32GB HBM2E、150W功耗和PCIe 4.0 x16接口。本文整理参数、软件生态、大模型适配边界、视频能力及服务器部署建议。
智铠100MR-V100大模型推理天垓150
摩尔线程 MTT S5000
摩尔线程MTTS5000是基于第四代MUSA“平湖”架构的训推一体全功能GPU智算卡，面向生成式AI、大模型训练、推理和HPC。
MTT S5000摩尔线程GPU大模型训练AI训练
NVIDIA RTX 6000 Ada
NVIDIA RTX 6000 Ada 是基于 Ada Lovelace 架构的专业工作站 GPU，常用于本地推理、图形渲染、视频生成和开发验证场景。
gpunvidiaada-lovelaceworkstation
AMD Instinct MI300X
AMDInstinctMI300X基于CDNA3架构，配备192GBHBM3，面向大模型训练、推理和显存密集型HPC。其价值不仅在显存，还取决于ROCm、目标框架和模型适配。
gpuamdinstinctmi300x
2U 4-GPU Inference Server
2U 4-GPU Inference Server 是面向企业推理、RAG 和多模型服务的常见服务器形态。
server-platformgpu-serverai-inference
4U 8-GPU Training Server
4U 8-GPU Training Server 是面向大模型训练、微调和高性能计算的常见整机形态。
server-platformgpu-serverai-trainingcluster
Air Cooling
Air Cooling 是 AI 服务器最常见的散热方式之一，但在高密度 GPU 节点中需要严格核对热密度边界。
power-coolingair-coolingai-server
AMD Instinct MI250X
AMD Instinct MI250X 是面向 HPC 与 AI 训练的 AMD Instinct 数据中心加速器。
gpuai-trainingai-inferencehpc
HBM3e
HBM3e 是高带宽显存的增强代际，常与 H200、B200、MI325X 等新 GPU 平台一起讨论。
memoryhbmgpu-memory
NVIDIA BlueField-3
NVIDIA BlueField-3 是 NVIDIA DPU 平台，面向高性能网络、安全和基础设施卸载。
dpu-smartnicnetworkingstorage-offloadsecurity
NVMe SSD
NVMe SSD 通过 PCIe 接口提供低时延和高并发存储性能，是 AI 服务器和数据平台的重要组件。本文介绍其协议特点、性能指标、形态及选型要点。
storagenvmepcieai-server
PCIe Gen4
PCIe Gen4 是 AI 服务器中连接 CPU、GPU、网卡和 NVMe 设备的重要主机 I/O 代际。
interconnectpciehost-io
RDMA
RDMA 是远程直接内存访问能力，是 InfiniBand、RoCE 等高性能网络场景中的关键概念。
networkingai-clusterrdmainfiniband
RoCEv2
RoCEv2 通过以太网实现 RDMA 低时延传输，是 AI 集群常见互联方案。本文介绍其协议机制、拥塞控制、网络配置要求，以及与 InfiniBand 的差异。
networkingai-clusterrocerdma
8-GPU 训练服务器
8-GPU 训练服务器是大模型训练和高端微调的典型节点形态，通常需要高带宽 GPU 互联、高速网络、充足供电和强散热能力。
hardwareservertraining8-gpu
InfiniBand
InfiniBand 是高性能低时延网络技术，常用于大规模 AI 训练集群和高性能计算环境。
networkinginfinibandrdmaai-training
NVIDIA HGX
NVIDIA HGX 是面向服务器厂商和数据中心系统的 GPU 基板平台，常作为 4-GPU、8-GPU 训练服务器和高端 AI 节点的底层平台。
hardwareservernvidiahgx
4-GPU 推理服务器
4-GPU 推理服务器是企业大模型服务、RAG 生成层、多模型部署和中高并发推理的常见节点形态。
hardwareserverinference4-gpu
AMD EPYC 9004
AMD EPYC 9004 是第 4 代 AMD EPYC 服务器处理器系列，是许多 AI GPU 服务器的主机 CPU 和 I/O 平台基础。
cpuamdepycserver-platform
NVIDIA B200
NVIDIA B200 是面向 Blackwell 代际训练与推理平台的核心 GPU，可作为 DGX B200 与 HGX B200 系统的事实锚点。
gpuai-trainingai-inferenceblackwell
AMD EPYC
AMD EPYC 是数据中心服务器 CPU 产品线，常用于 AI GPU 服务器的主机侧计算、I/O 和调度。
cpuserver-platformpciecluster