AI GPU参数怎么看？算力、显存和显存带宽如何影响训练与推理
从算力、显存容量、显存带宽三个核心参数解释AI GPU规格表，并扩展到GPU互联、PCIe、功耗散热与软件生态，帮助训练和大模型推理项目建立完整选型框架。
GPU参数GPU算力GPU显存显存带宽
AI Infrastructure Knowledge Hub
指南 / 指南
14 个条目
Kimi K3部署指南：2.8T MoE、API、自托管与GPU集群规划
Kimi K3采用2.8T总参数、104B激活参数、MXFP4权重与1M上下文。基于2026年8月5日官方资料，详解Kimi K3 API、自托管、vLLM/SGLang/TokenSpeed、GPU集群、长上下文与企业PoC规划。
Kimi K3Kimi K3部署Kimi K3私有化部署MoE
企业AI Agent进入生产环境，需要怎样的运行底座？
企业AI Agent进入生产环境，需要模型推理、任务编排、知识与记忆、工具连接、安全隔离、AgentOps和算力基础设施共同支撑。本文给出架构分层、算力规划、安全边界和分阶段部署方法。
企业AI AgentAgent生产环境AgentOps私有化部署
高校科研算力中心建设指南
面向高校、科研院所和实验室的科研算力中心建设指南，覆盖 AI/HPC 资源池、教学实训、科研训练、RAG 平台、网络存储、调度和运维治理。
guideresearch-computingeducationhpc
行业知识库项目落地指南
面向企业和行业客户的知识库项目落地指南，覆盖文档盘点、RAG 架构、权限隔离、引用溯源、评测集、上线验收和持续运营。
guideenterprise-knowledge-baseragprivate-llm
医疗 AI 算力规划指南
面向医院、影像中心、药企和医疗科研机构的 AI 算力规划指南，覆盖医学影像、临床文档、药物研发、多模态医疗大模型和私有化部署边界。
guidehealthcaremedical-imagingclinical-ai
自动驾驶算力规划指南
面向自动驾驶感知训练、仿真、数据闭环、端到端模型和车端推理验证的算力规划指南，强调训练集群、仿真渲染、存储吞吐和多节点网络。
guideautonomous-drivingai-trainingsimulation
推理服务器选型指南
面向企业大模型和 RAG 推理服务，给出按模型规模、上下文长度、并发、显存、框架和服务化方式选择推理服务器的方法。
guideinferenceserverllm-serving
训练服务器选型指南
面向大模型训练、微调和科研计算，梳理训练服务器在 GPU、NVLink/NVSwitch、InfiniBand、CPU、存储、供电散热和调度系统上的选型方法。
guidetrainingserver8-gpu
AI 服务器采购避坑指南
面向企业 AI 服务器采购，梳理从业务场景、GPU、CPU、网络、存储、供电散热、软件栈到交付验收的关键检查项，避免只按单卡型号采购。
guideprocurementai-servergpu-server
私有化 RAG 实施指南
面向企业私有化知识库项目，给出 RAG 从数据边界、文档处理、Embedding、向量库、重排、生成、权限和运维到上线节奏的实施路径。
guideragprivate-deploymententerprise-knowledge-base
企业级大模型部署规格指南
基于 NVIDIA AI Enterprise 等官方资料，给出企业私有化和生产级大模型部署时的规格设计方法，包括业务目标、数据边界、并发、系统分层和演进路径。
guideenterprise-llmprivate-deploymentsizing
Qwen 系列模型部署规格指南
基于 Qwen 官方模型页与 Qwen2.5-72B 模型卡，给出 Qwen 系列模型按参数规模、上下文长度、并发目标和部署阶段进行资源规划的方法。
guideqwendeploymentsizing
DeepSeek-R1-32B 选型指南
围绕 DeepSeek-R1-32B 的模型特征、GPU 组合、量化路线与典型业务场景进行系统化选型说明。
guidedeepseek32bmodel-sizing