AI Infrastructure Knowledge Hub

指南

70 个指南条目

对比2 方案11 行业方案1 训练 / 微调1 指南14 专题2 AI 服务器15 AI 软件3 AI 硬件3 CPU3 FAQ2 GPU3 inference3 use-case7
指南

DGX Spark 64GB与128GB怎么选?本地AI设备内存选型指南

DGX Spark新增64GB统一内存配置后,本地AI设备开始形成更清晰的容量分层。本文从Memory Budget、上下文、Agent、多模型和多节点扩展出发,说明64GB与128GB分别适合什么工作负载,以及什么时候应进一步考虑工作站、AI Box或GPU服务器。

AI 硬件 2026-10-08
DGX SparkNVIDIA GB10本地AI统一内存
指南

两张48GB能不能当96GB用?单卡大显存与多卡部署怎么选

两张 48GB GPU 的物理显存总量确实是 96GB,但并不等于一张拥有 96GB 统一显存的 GPU。模型是否能跨卡运行,取决于 Tensor Parallel、Pipeline Parallel、FSDP 等并行方式,以及模型、框架和 GPU 间通信能力。本文从显存容量、模型切分、KV Cache、通信开销、并发与部署复杂度解释两张 48GB 和单张 96GB 分别适合什么场景。

GPU 2026-09-28
48GB GPU96GB GPU多GPU多卡显存
指南

AMD EPYC 9006完整型号与SP7/SP8选型指南

AMD EPYC 9006 当前公开 31 款 SP7 / SP8 型号,覆盖 8–256 核、高频 F 系列与单路 P 系列。本文不仅汇总完整 SKU 参数,还从核心密度、频率、内存带宽、PCIe、单/双路与 AI/HPC/EDA 等实际工作负载说明选型方法。

CPU 2026-09-28
AMD EPYC 9006 型号EPYC 9006 SKUSP7SP8
指南

RTX PRO 6000 AI服务器整机怎么配?CPU、内存、存储与网络配置方法

多张 RTX PRO 6000 并不意味着只增加 GPU 即可。4卡或8卡 AI 服务器还需要匹配 CPU PCIe 资源、系统内存、NVMe 数据通路、网络带宽、电源和散热。本文从整机架构出发说明多卡服务器的配置逻辑。

AI 服务器 2026-09-28
RTX PRO 6000 AI服务器多GPU服务器4卡GPU服务器8卡GPU服务器
指南

赋创 FR50D 支持哪些大模型?本地模型适配说明

FR50D 面向边缘端与桌面端的大模型本地部署设计,支持 Qwen3.6-35B、Qwen3.6-27B 及 35B 以下系列模型,并支持 Qwen3.8-27B 本地推理运行。针对不同模型规模、量化方式和上下文需求,可在 FR50D 上完成模型加载、推理和 API 应用部署。

AI 硬件 2026-09-22
赋创FR50DQwen3.6-35BQwen3.8-27BQwen3.6-27B
指南

赋创 FR50D AI BOX:320 TOPS 本地 AI 部署与应用指南

赋创 FR50D AI BOX 面向边缘端与桌面端本地 AI 部署,采用 RK3588 与 LQ50(Duo)协同架构,最高提供 320 TOPS@INT8 算力,支持 LLM、VLM、本地知识库与多模态推理,并已完成多款 Qwen 模型的本地运行验证。

方案 2026-09-22
赋创FR50 AI BOXAI BOX本地模型部署边缘AI
指南

一台 AI 服务器的参数到底怎么看?GPU、CPU、内存、互联与网络选型指南

看 AI 服务器配置不能只看 GPU 型号和数量。本文从 GPU 显存与带宽、CPU、系统内存、PCIe 拓扑、NVLink/NVSwitch、网络、存储、电源散热和软件栈出发,解释一台 AI 服务器的关键参数分别解决什么问题,以及训练、推理和科研场景应该怎样判断配置是否合理。

AI 服务器 2026-09-02
AI服务器GPU服务器GPU显存PCIe拓扑
指南

数字孪生+AI算力怎么规划:四类负载与平台选择

数字孪生项目不能按软件名称直接套配置。本指南从建模、仿真、合成数据和AI推理四类负载出发,说明CPU、GPU、显存、内存、存储和网络的判断方法,并给出工作站、服务器及集群的升级条件。

业务场景 2026-08-26
数字孪生工业AIGPU服务器仿真计算
指南

GPU服务器怎么验收?高端AI服务器交付测试与验收指南

GPU服务器到货后怎么验收?从配置核验、GPU健康与压力测试,到PCIe/NUMA、P2P、NCCL、存储、多节点RDMA和业务负载,梳理单机、多GPU及AI集群的交付验收方法。

AI 服务器 2026-08-26
GPU服务器AI服务器服务器验收多GPU
指南

机器人仿真性能瓶颈排查:并行环境、传感器与数据I/O指南

机器人仿真运行慢、GPU利用率低或并行环境扩展不理想,应从物理求解、渲染与传感器、CPU调度、显存、内存及数据I/O逐层排查。本文提供测试顺序、指标和常见误区。

业务场景 2026-08-20
机器人仿真性能具身智能训练仿真性能瓶颈并行环境
指南

机器人算力PoC怎么做?测试任务、性能指标与验收清单

机器人算力PoC应使用可复现的代表任务,覆盖数据处理、仿真、训练和推理,并记录吞吐、时延、显存、I/O、多GPU扩展与稳定性。本文提供测试步骤、指标和验收清单。

方案 2026-08-20
机器人算力PoCGPU服务器测试机器人仿真测试训练服务器验收
指南

机器人训练数据平台怎么规划?视频、状态数据与Episode存储指南

机器人训练数据平台需要同时管理多路视频、状态、动作、任务描述和Episode元数据。本文提供容量估算、文件组织、热数据与归档分层、训练读取、网络吞吐及数据治理方法。

业务场景 2026-08-20
机器人训练数据平台Episode存储机器人视频数据LeRobotDataset
指南

DeepSeek V4 Pro正式版上线:API、开源权重与本地部署怎么选?

DeepSeek V4 Pro正式版同时提供API与开放权重,企业可以选择API、本地部署或混合部署。选型时应综合评估数据边界、调用规模、Agent任务长度、并发目标、基础设施和运维能力,并通过PoC校正实际资源需求。

方案 2026-08-14
DeepSeek V4 ProDeepSeek开源大模型私有化部署
指南

AI服务器采购需求信息表:模型、并发、数据与机房条件怎么梳理

采购AI服务器前先明确模型版本、精度、上下文、并发、数据规模、网络存储和机房条件。本文提供可直接用于需求沟通的企业AI服务器需求信息表,适用于GPU服务器与集群采购前期梳理。

AI 服务器 2026-08-06
AI服务器采购AI服务器需求表GPU服务器选型大模型部署
指南

AI服务器机柜功率怎么估算?从整机功耗到PDU与散热规划

高密度GPU服务器上架前如何估算机柜功率?本文从整机最大功耗、供电冗余、PDU/回路、电压、热负载与扩容空间说明机房侧规划方法,并给出上架前核验清单。

AI 服务器 2026-08-06
AI服务器功率GPU服务器功耗机柜功率PDU
指南

Kimi K3部署指南:2.8T MoE、API、自托管与GPU集群规划

Kimi K3采用2.8T总参数、104B激活参数、MXFP4权重与1M上下文。基于2026年8月5日官方资料,详解Kimi K3 API、自托管、vLLM/SGLang/TokenSpeed、GPU集群、长上下文与企业PoC规划。

指南 2026-08-05
Kimi K3Kimi K3部署Kimi K3私有化部署MoE
指南

大模型训练Checkpoint存储与恢复怎么设计

Checkpoint设计的目标不是多存文件,而是在故障后按约定时间恢复正确状态。本文覆盖状态范围、分布式格式、写入提交、分层存储、保留和恢复演练。

训练 / 微调 2026-07-20
大模型Checkpoint训练恢复分布式Checkpoint模型训练
指南

多模型并发部署如何做GPU资源隔离

多模型并发部署需要同时约束显存、计算、故障域和服务等级。本文用隔离等级、准入台账和干扰测试说明整卡、MIG与共享调度的选择方法。

推理框架 2026-07-20
GPU资源隔离多模型并发部署MIGGPU共享
指南

多组学与分子模拟为什么同时需要CPU、GPU和高速存储

多组学与分子模拟是异构、多阶段工作流:CPU负责数据准备与部分算法,GPU加速适配计算核,高速存储连接数据、临时空间和结果。本文给出工作流映射与验收方法。

业务场景 2026-07-20
多组学计算分子模拟生命科学HPCCPU GPU存储
指南

全闪NVMe存储如何与GPU服务器匹配

全闪NVMe不能只按峰值带宽匹配GPU服务器。本文从工作集、I/O形态、并发、元数据、网络和PCIe拓扑建立需求模型,并给出端到端联调清单。

AI 服务器 2026-07-20
全闪NVMeGPU服务器存储GPUDirect StorageAI存储
指南

EDA算力平台如何做性能基线与验收

EDA平台验收应以真实任务完成时间和并发能力为主,以CPU、内存、存储和网络微基准定位原因。本文给出测试合同、分层基线和变更复测方法。

业务场景 2026-07-20
EDA算力平台EDA验收HPC基准EDA
指南

大模型推理精度与量化怎么选:BF16、FP8、INT8与INT4

本文从数值格式、量化方式、GPU与推理框架支持、理论权重容量、KV Cache、性能压测和质量回归等维度,说明BF16、FP8、INT8与INT4的适用边界,并给出企业大模型推理部署的选型与验收方法。

推理框架 2026-07-17
大模型量化BF16FP16FP8
指南

NVIDIA H200 企业选型知识库|赋创 FUCHUANG

面向企业架构、采购、运维与业务负责人的 NVIDIA H200 选型知识库,覆盖规格形态、显存估算、多卡互联、整机瓶颈、业务决策、PoC 验收、FAQ 与官方来源。

专题 2026-07-16
NVIDIA H200AI 服务器GPU 选型大模型部署
指南

科研计算工作站、服务器与HPC集群如何选择?

从软件并行能力、单任务规模、并发数量、内存、GPU、存储、网络和运维方式出发,判断科研计算应选择工作站、服务器还是HPC集群。

方案 2026-07-07
科研计算HPC计算工作站计算服务器
指南

芯片设计企业如何建设EDA算力平台?

EDA算力平台不能只采购计算节点,还要统一规划异构CPU节点、共享存储、调度、许可证、权限、安全和运维。本文给出分阶段建设方法。

方案 2026-07-07
EDA算力平台芯片设计HPC集群作业调度
指南

Ansys Fluent流体仿真服务器如何配置?

从网格规模、物理模型、稳态与瞬态、CPU或GPU求解、内存、网络和存储出发,说明Ansys Fluent服务器与集群的配置方法。

AI 软件 2026-07-07
Ansys FluentCFD流体仿真CPU服务器
指南

CPU NUMA如何影响多GPU服务器性能?

NUMA会影响多GPU服务器中的CPU、内存、GPU、网卡和NVMe访问路径。本文说明常见性能问题、检查工具和进程绑定方法。

CPU 2026-07-07
NUMA多GPUGPU服务器PCIe拓扑
指南

MATLAB科学计算应选高频CPU、GPU还是集群?

MATLAB能否从高频CPU、GPU或集群受益,取决于函数支持、代码结构、数据规模和任务并发。本文给出分场景选型与验证方法。

AI 软件 2026-07-07
MATLABParallel Computing ToolboxGPU计算并行计算
指南

8卡GPU服务器CPU、内存与PCIe配置指南

8卡GPU服务器配置需要同时考虑CPU、内存、PCIe或NVSwitch、网卡、NVMe和NUMA。本文给出PCIe八卡与HGX平台的配置与验收重点。

AI 服务器 2026-07-06
8卡GPU服务器CPU内存PCIe
指南

单路还是双路CPU更适合AI服务器

AI服务器选择单路还是双路,取决于GPU数量、PCIe资源、内存容量、NUMA和整机成本。本文对比两种架构的适用场景、优势与部署边界

CPU 2026-07-06
单路CPU双路CPUAI服务器NUMA
指南

AI服务器CPU怎么选:核心数、频率与PCIe通道

AI服务器CPU选型不能只看核心数,还要综合频率、内存通道、PCIe资源、NUMA拓扑和GPU数量。本文给出面向训练、推理和多卡服务器的判断方法。

AI 服务器 2026-07-06
AI服务器CPU选型PCIeNUMA
指南

GPU服务器CPU与GPU数量如何匹配?

GPU服务器CPU与GPU数量的匹配取决于PCIe通道、NUMA、内存、网络和存储,而不是固定比例。本文给出1卡、4卡和8卡服务器的配置判断逻辑。

AI 服务器 2026-07-06
GPU服务器CPU多GPUPCIe
指南

AMD Instinct 八卡服务器部署要注意什么?

AMD Instinct 八卡服务器通常采用 OAM 与 UBB 平台,部署需要同时规划 Infinity Fabric、CPU与NUMA、主机内存、400G网络、ROCm、供电散热和系统验收。本文给出可执行的节点与集群检查框架。

AI 服务器 2026-07-03
AMD 八卡服务器AMD Instinct 8 GPUMI300X 八卡服务器MI325X 八卡服务器
指南

CUDA 应用迁移到 AMD ROCm 需要做什么

CUDA应用迁移到AMD ROCm不是简单替换驱动,需要盘点框架和依赖库,使用HIP/HIPIFY转换自定义代码,将NCCL迁移到RCCL,并完成容器、正确性、性能与多卡回归。

AI 软件 2026-07-03
CUDA迁移ROCmCUDA转HIPNVIDIA迁移AMD GPUHIPIFY
指南

国产芯片训练万亿参数模型之后,企业信创AI项目该怎么看?

国产芯片已开始支撑万亿参数模型训练,但企业信创AI项目不能只看模型规模和芯片参数。本文从模型适配、软件生态、性能测试、迁移成本、供应服务和实施路径等维度,说明企业应如何评估国产算力方案

专题 2026-07-01
国产AI芯片信创AI国产算力大模型部署
指南

企业AI Agent进入生产环境,需要怎样的运行底座?

企业AI Agent进入生产环境,需要模型推理、任务编排、知识与记忆、工具连接、安全隔离、AgentOps和算力基础设施共同支撑。本文给出架构分层、算力规划、安全边界和分阶段部署方法。

指南 2026-06-25
企业AI AgentAgent生产环境AgentOps私有化部署
指南

金融行业国产AI基础设施规划指南

金融行业建设国产AI基础设施,需综合考虑GPU、服务器、网络、存储、AI平台和软件环境。本文提供从选型到分阶段实施的系统规划指南,帮助技术决策者构建稳定可扩展的金融AI系统。

行业方案 2026-06-22
国产GPU金融AIAI算力平台国产GPU
指南

高校科研算力中心建设指南

面向高校、科研院所和实验室的科研算力中心建设指南,覆盖 AI/HPC 资源池、教学实训、科研训练、RAG 平台、网络存储、调度和运维治理。

指南 2026-05-01
guideresearch-computingeducationhpc
指南

行业知识库项目落地指南

面向企业和行业客户的知识库项目落地指南,覆盖文档盘点、RAG 架构、权限隔离、引用溯源、评测集、上线验收和持续运营。

指南 2026-05-01
guideenterprise-knowledge-baseragprivate-llm
指南

医疗 AI 算力规划指南

面向医院、影像中心、药企和医疗科研机构的 AI 算力规划指南,覆盖医学影像、临床文档、药物研发、多模态医疗大模型和私有化部署边界。

指南 2026-05-01
guidehealthcaremedical-imagingclinical-ai
指南

自动驾驶算力规划指南

面向自动驾驶感知训练、仿真、数据闭环、端到端模型和车端推理验证的算力规划指南,强调训练集群、仿真渲染、存储吞吐和多节点网络。

指南 2026-05-01
guideautonomous-drivingai-trainingsimulation
指南

推理服务器选型指南

面向企业大模型和 RAG 推理服务,给出按模型规模、上下文长度、并发、显存、框架和服务化方式选择推理服务器的方法。

指南 2026-04-26
guideinferenceserverllm-serving
指南

训练服务器选型指南

面向大模型训练、微调和科研计算,梳理训练服务器在 GPU、NVLink/NVSwitch、InfiniBand、CPU、存储、供电散热和调度系统上的选型方法。

指南 2026-04-26
guidetrainingserver8-gpu
指南

AI 服务器采购避坑指南

面向企业 AI 服务器采购,梳理从业务场景、GPU、CPU、网络、存储、供电散热、软件栈到交付验收的关键检查项,避免只按单卡型号采购。

指南 2026-04-26
guideprocurementai-servergpu-server
指南

私有化 RAG 实施指南

面向企业私有化知识库项目,给出 RAG 从数据边界、文档处理、Embedding、向量库、重排、生成、权限和运维到上线节奏的实施路径。

指南 2026-04-25
guideragprivate-deploymententerprise-knowledge-base
指南

企业级大模型部署规格指南

基于 NVIDIA AI Enterprise 等官方资料,给出企业私有化和生产级大模型部署时的规格设计方法,包括业务目标、数据边界、并发、系统分层和演进路径。

指南 2026-04-20
guideenterprise-llmprivate-deploymentsizing
指南

Qwen 系列模型部署规格指南

基于 Qwen 官方模型页与 Qwen2.5-72B 模型卡,给出 Qwen 系列模型按参数规模、上下文长度、并发目标和部署阶段进行资源规划的方法。

指南 2026-04-20
guideqwendeploymentsizing
指南

DeepSeek-R1-32B 选型指南

围绕 DeepSeek-R1-32B 的模型特征、GPU 组合、量化路线与典型业务场景进行系统化选型说明。

指南 2026-04-18
guidedeepseek32bmodel-sizing