AI Infrastructure Knowledge Hub

指南 / GPU

3 个条目

GPU3
指南

两张48GB能不能当96GB用?单卡大显存与多卡部署怎么选

两张 48GB GPU 的物理显存总量确实是 96GB,但并不等于一张拥有 96GB 统一显存的 GPU。模型是否能跨卡运行,取决于 Tensor Parallel、Pipeline Parallel、FSDP 等并行方式,以及模型、框架和 GPU 间通信能力。本文从显存容量、模型切分、KV Cache、通信开销、并发与部署复杂度解释两张 48GB 和单张 96GB 分别适合什么场景。

GPU 2026-09-28
48GB GPU96GB GPU多GPU多卡显存