1月8日，摩爾線程近日發(fā)布開源大模型分布式訓(xùn)練仿真工具SimuMax的1.1版本。該版本從單一仿真工具升級(jí)為一體化全棧工作流平臺(tái)，新增可視化配置界面、智能并行策略搜索及系統(tǒng)配置生成流水線等功能。

SimuMax v1.1繼續(xù)支持從單卡到萬卡集群的分布式訓(xùn)練仿真，可模擬顯存使用與訓(xùn)練性能。新版本增強(qiáng)了對(duì)訓(xùn)練框架Megatron-LM的兼容性，并優(yōu)化了混合并行訓(xùn)練中節(jié)點(diǎn)間網(wǎng)絡(luò)帶寬競(jìng)爭(zhēng)的建模精度。該工具旨在幫助用戶在無需實(shí)際執(zhí)行完整訓(xùn)練的情況下，評(píng)估與優(yōu)化訓(xùn)練效率。