AI Infrastructure Knowledge Hub

概念 / ai-concept

3 个条目

ai-concept3
概念

GLM-5 系列模型是什么?从 744B MoE、稀疏注意力到长时程 Agentic Engineering

GLM-5 系列不只是一次参数规模升级。本文从 744B-A40B MoE、DeepSeek Sparse Attention、异步强化学习,到 GLM-5.1 的长时程 Agent 能力和 GLM-5.2 的 1M Context、IndexShare 与 MTP,解释这一系列技术变化如何把模型能力从单轮生成进一步推向 Agentic Engineering。

AI 概念 2026-09-02
GLM-5744B MoE混合专家模型DeepSeek Sparse Attention
概念

智能体架构(Agent Architecture)

LLM智能体架构定义模型、工具、状态、记忆和控制循环的组织方式。本文说明单Agent与多Agent模式、顺序、并行、交接和动态编排,以及企业部署中的安全、成本、评估和基础设施要求。

AI 概念 2026-07-23
智能体架构Agent ArchitectureAI AgentLLM Agent
概念

AI计算中的数值精度怎么选:FP64、TF32、BF16、FP8、INT4与NVFP4解析

本文从动态范围、有效精度、存储格式、计算格式、累加精度、缩放方式和硬件支持出发,说明FP64、FP32、TF32、BF16、FP16、FP8、INT8、INT4与NVFP4的区别,并给出科学计算、大模型训练和推理部署中的判断方法。帮助AI服务器、科学计算和大模型部署人员理解不同数值精度的结构、计算路径及适用边界,避免仅按位宽判断显存、性能和模型质量。

AI 概念 2026-07-17
AI计算精度FP64FP32TF32