DeepSeek宣布開源優化并行策略
發布時間:2025-02-27 10:33 作者:清風不語
【DeepSeek宣布開源優化并行策略】八六軟件園報道,Deepseek于開源周第四天宣布開源優化并行策略,其中DualPipe——包括一種用于V3/R1訓練中計算-通信重疊的雙向管道并行算法;EPLB——一種用于V3/R1的專家并行負載平衡器;以及分析V3/R1中的計算-通信重疊。(金十)
本分分類: 7*24快訊
版權聲明:本文由八六軟件園用戶發布,不代表八六軟件園立場,轉載聯系作者并注明出處:http://m.ilovecl.com/post/22387.html

