11月10日消息，來自微軟 Azure 和微軟研究院的一組研究人員推出了一個高效的 FP8 混合精度框架，專為大型語言模型訓練量身定制。
經過測試，與廣泛采用的 BF16 混合精度方法相比，FP8 混合精度框架內存占用減少 27% 至 42%，權重梯度通信開銷顯著降低 63% 至 65%。
運行速度比廣泛采用的 BF16 框架(例如 Megatron-LM)快了 64%，比英偉達 Transformer Engine 的速度快了 17%。
在訓練 GPT-175B 模型時，混合 FP8 精度框架在 *** GPU 平臺上節省 21% 的內存，而且相比較 TE(Transformer Engine)，訓練時間減少 17%。
文章內容僅供閱讀，不構成投資建議，請謹慎對待。投資者據此操作，風險自擔。
海報生成中...
海藝AI的模型系統在國際市場上廣受好評，目前站內累計模型數超過80萬個，涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景，基本覆蓋所有主流創作風格。
IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告，2025年第二季度》顯示，上半年全球智能家居清潔機器人市場出貨1,2萬臺，同比增長33%，顯示出品類強勁的市場需求。
京公網安備 11010502041587號