PyTorch Monarch 登陆 AMD ROCm:实现单控制器分布式训练与弹性故障恢复
PyTorch 官方宣布将 Monarch 分布式训练框架移植至 AMD Instinct GPU 及 ROCm 生态,实现了跨硬件平台的单控制器(Single-Controller)训练能力。此次更新解决了大规模训练中的可靠性痛点,通过异步恢复机制替代传统检查点,确保在节点故障时健康节点继续运行。工程上通过 hipify_torch 和 Rust 兼容性 shim 完成了从 CUDA 到 HIP 的无缝迁移,显著提升了 AI 基础设施的弹性与稳定性。