英偉達日前發(fā)布了全新的 NVIDIA L40S GPU，以及搭載該加速卡的 NVIDIA OVX 服務(wù)器系統(tǒng)。

　　據(jù)介紹，這款全新的 GPU 和 OVX 服務(wù)器適用于人工智能大模型訓(xùn)練和推理、三維設(shè)計和可視化、視頻處理、工業(yè)數(shù)字化等多種用途。它們能夠增強生成式 AI、圖形和視頻處理能力，滿足不斷增長的算力需求。

　　L40S GPU 是 L40 的升級版本，配備 48GB GDDR6 ECC 顯存。它基于 Ada Lovelace 架構(gòu)，包含第四代 Tensor Core 和 FP8 轉(zhuǎn)換引擎，運算速度是上一代 GPU 的 5 倍。但是需要注意的是，L40S 與上一代一樣不支持 NVLink。

　　據(jù)官方表示，對于具有數(shù)十億個參數(shù)和多種數(shù)據(jù)模式(文本、視頻)的復(fù)雜 AI 工作負載，L40S 的生成式 AI 推理性能比 A100 高 1.2 倍，訓(xùn)練性能高 1.7 倍。

　　每臺英偉達 OVX 服務(wù)器系統(tǒng)最多可搭載 8 個 L40S 加速卡。其中，CoreWeave 是首批提供 L40S 計算平臺的云服務(wù)商之一。此外，英偉達還提供了多種軟件，用于輔助 AI 模型訓(xùn)練、數(shù)據(jù)分析和生成式人工智能等應(yīng)用。

　　據(jù)官方介紹，英偉達 L40S GPU 將在今年秋季上市。廠商包括華碩、戴爾、技嘉、HPE、聯(lián)想、QCT 和美超微等，將很快推出搭載 L40S GPU 的 OVX 系統(tǒng)。這些服務(wù)器將有助于推動人工智能的發(fā)展和應(yīng)用。