AI Infrastructure Knowledge Hub

概念 / ai-concept

2 个条目

ai-concept2
概念

智能体架构(Agent Architecture)

LLM智能体架构定义模型、工具、状态、记忆和控制循环的组织方式。本文说明单Agent与多Agent模式、顺序、并行、交接和动态编排,以及企业部署中的安全、成本、评估和基础设施要求。

AI 概念 2026-07-23
智能体架构Agent ArchitectureAI AgentLLM Agent
概念

AI计算中的数值精度怎么选:FP64、TF32、BF16、FP8、INT4与NVFP4解析

本文从动态范围、有效精度、存储格式、计算格式、累加精度、缩放方式和硬件支持出发,说明FP64、FP32、TF32、BF16、FP16、FP8、INT8、INT4与NVFP4的区别,并给出科学计算、大模型训练和推理部署中的判断方法。帮助AI服务器、科学计算和大模型部署人员理解不同数值精度的结构、计算路径及适用边界,避免仅按位宽判断显存、性能和模型质量。

AI 概念 2026-07-17
AI计算精度FP64FP32TF32