NVIDIA Rubin GPU
Rubin GPU面向大规模Agent与推理负载，重点升级HBM4带宽、低精度计算、MoE数据移动、长上下文注意力和GPU间通信。
NVIDIA RubinRubin GPUHBM4NVLink 6
AI Infrastructure Knowledge Hub
硬件 / GPU
20 个条目
配置建议
不确定该硬件是否适合您的模型?
可结合模型规模、显存、并发、网络、存储和机房条件，评估 AI 服务器与 GPU 集群配置。
NVIDIA Grace CPU
NVIDIA Grace CPU基于Arm Neoverse V2，强调LPDDR5X高带宽内存、能效和NVLink-C2C协同。本文说明Grace与Grace CPU Superchip的定位及软件迁移边界。
NVIDIA GraceArm服务器NVLink-C2CHPC
AMD Instinct MI325X
AMD Instinct MI325X 是 AMD Instinct 系列数据中心 GPU，面向大模型推理、训练和高显存场景。
gpuai-trainingai-inferencerocm
AMD Instinct MI350X
AMD Instinct MI350X 基于 CDNA 4 架构，配备 288GB HBM3E、8TB/s 显存带宽和 1000W TBP，面向大模型训练、推理和 HPC。本文说明参数、八卡平台、ROCm 适配及部署边界。
GPUAMDinstinctllm-inference
AMD Instinct MI355X
AMD Instinct MI355X 基于 CDNA 4，配备 288GB HBM3E、8TB/s 显存带宽和 1400W TBP，面向高密度 AI 与 HPC。本文说明其参数、液冷基础设施、八卡平台及适用边界。
AMD Instinct MI355XMI350XAMD加速卡模型训练
NVIDIA A100
NVIDIA A100 是基于 Ampere 架构的数据中心 GPU，仍是大量企业 AI 平台和存量训练集群的重要基线。
gpuai-trainingai-inferenceampere
NVIDIA H100
NVIDIAH100是基于Hopper架构的数据中心GPU，面向大模型训练、高吞吐推理和HPC。选型时必须区分SXM与NVL/PCIe形态，并同时评估显存、互联、服务器平台和软件版本。
gpuai-trainingai-inferencehbm3
NVIDIA H200
NVIDIA H200 基于Hopper架构，提供141GBHBM3e显存和4.8TB/s显存带宽。它的核心价值在于为模型权重、KVCache、长上下文和多模型服务提供更大空间，而不是简单等同于“所有任务都更快”。
gpuai-trainingai-inferencehbm3e
NVIDIA L40S
NVIDIAL40S是基于AdaLovelace架构的数据中心GPU，兼顾AI、图形、视频和渲染。它更适合企业推理、多模态和视觉计算，而不是作为H100/H200级多卡训练平台的直接替代。
gpuai-inferenceada-lovelacecuda
NVIDIA RTX 5090
GeForce RTX 5090基于Blackwell架构，配备32GBGDDR7显存。它适合本地开发、量化验证、PoC和轻量内部服务，但消费级定位决定了它不能被无条件写成生产级数据中心GPU。
NVIDIA RTX 5090RTX 4090Blackwell 架构大模型部署
RTX PRO 5000 Blackwell
RTXPRO5000Blackwell面向专业工作站的数据科学、AI、工程和视觉计算。NVIDIA官方页面列出48GB或72GBGPU显存，具体容量取决于实际型号与版本，选型时必须先确认产品形态。
RTX PRO 5000 BlackwellRTX PRO 6000RTX PRO 4000专业卡
RTX PRO 6000 Blackwell
RTX PRO 6000 参数, RTX PRO 6000 三个版本区别, RTX PRO 6000 服务器版, RTX PRO 6000 工作站版, RTX PRO 6000 Max-Q, RTX PRO 6000D 区别, RTX PRO 6000 大模型推理
RTX PRO 6000RTX PRO 6000 Server EditionRTX PRO 6000 Workstation EditionRTX PRO 6000 Max-Q
摩尔线程 MTT S4000
摩尔线程MTTS4000是基于“曲院”架构的训推一体全功能GPU智算卡，配备48GBGDDR6显存和768GB/s显存带宽，面向大模型训练、微调和推理。
摩尔线程MTT S4000MUSAAI模型部署
天数智芯 天垓150
天数智芯天垓150是面向人工智能训练、微调、推理及通用计算的国产通用GPU。本文基于官方公开资料说明64GB HBM、350W板级功耗、软件生态、模型显存边界及服务器部署注意事项。
天数智芯天垓150BI-V150大模型训练
天数智芯 智铠100
数智芯智铠100（MR-V100）是面向云端AI推理和视频分析的国产通用GPU，配备32GB HBM2E、150W功耗和PCIe 4.0 x16接口。本文整理参数、软件生态、大模型适配边界、视频能力及服务器部署建议。
智铠100MR-V100大模型推理天垓150
摩尔线程 MTT S5000
摩尔线程MTTS5000是基于第四代MUSA“平湖”架构的训推一体全功能GPU智算卡，面向生成式AI、大模型训练、推理和HPC。
MTT S5000摩尔线程GPU大模型训练AI训练
NVIDIA RTX 6000 Ada
NVIDIA RTX 6000 Ada 是基于 Ada Lovelace 架构的专业工作站 GPU，常用于本地推理、图形渲染、视频生成和开发验证场景。
gpunvidiaada-lovelaceworkstation
AMD Instinct MI300X
AMDInstinctMI300X基于CDNA3架构，配备192GBHBM3，面向大模型训练、推理和显存密集型HPC。其价值不仅在显存，还取决于ROCm、目标框架和模型适配。
gpuamdinstinctmi300x
AMD Instinct MI250X
AMD Instinct MI250X 是面向 HPC 与 AI 训练的 AMD Instinct 数据中心加速器。
gpuai-trainingai-inferencehpc
NVIDIA B200
NVIDIA B200 是面向 Blackwell 代际训练与推理平台的核心 GPU，可作为 DGX B200 与 HGX B200 系统的事实锚点。
gpuai-trainingai-inferenceblackwell