微軟更新DeepSpeed深度學習函式庫,現可高效訓練數兆參數AI模型

微軟更新了之前釋出的開源深度學習訓練最佳化函式庫DeepSpeed,該函式庫現在能夠使用新方法,訓練擁有數兆參數的機器學習模型,官方提到,DeepSpeed使用了被稱為3D平行技術的新方法,可以自動適應工作負載的需求,在平衡擴展效率的情況下,支援超大型模型。

臉書留言

胡 自文

(這個頁面共進入 2 次, 今天進入 1 次)