大模型推理服务器CPU重要吗？
大模型推理主要依赖GPU，但CPU仍负责Tokenization、请求调度、RAG检索、网络和存储I/O。本文说明CPU何时会成为推理瓶颈
大模型推理CPUGPU服务器RAG
AI Infrastructure Knowledge Hub
FAQ / CPU
3 个条目
国产CPU能否搭配NVIDIA GPU
国产CPU可以在部分服务器中搭配NVIDIA GPU，但必须满足PCIe、服务器认证、操作系统、驱动、CUDA和软件生态条件。本文给出项目核验清单。
国产CPUNVIDIA GPUAI服务器驱动
GPU利用率低是否可能是CPU瓶颈？
GPU利用率低可能与CPU、数据加载、NUMA、存储、网络或框架同步有关。本文提供从主机资源到GPU拓扑的排查顺序。
GPU利用率CPU瓶颈性能排查NUMA