大模型训练Checkpoint存储与恢复怎么设计
Checkpoint设计的目标不是多存文件,而是在故障后按约定时间恢复正确状态。本文覆盖状态范围、分布式格式、写入提交、分层存储、保留和恢复演练。
大模型Checkpoint训练恢复分布式Checkpoint模型训练
赋创 AI 知识平台FUCHUANG AI Infrastructure Platform
AI Infrastructure Knowledge Hub
1 个条目
Checkpoint设计的目标不是多存文件,而是在故障后按约定时间恢复正确状态。本文覆盖状态范围、分布式格式、写入提交、分层存储、保留和恢复演练。