AWS Machine Learning Blog· Ashvin Nihalani·· 5 天前AI 评分41
在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 推出结合 Amazon EKS、EFA 与 DeepEP 扩展大规模 MoE 模型强化学习（RL）训练的架构方案，将训练吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等后训练流程，协调分布式 rollout 推理与策略训练的异构计算负载。同时利用 DeepEP 优化跨节点的专家并行（EP）all-to-all 通信，缓解大规模扩展时的网络带宽瓶颈。
来源：AWS Machine Learning Blog · aws.amazon.com