谷歌在推出其張量處理單元Cloud TPU v5p和具有突破性的超級計(jì)算機(jī)架構(gòu)AI Hypercomputer時(shí)掀起了軒然大波。這些創(chuàng)新的發(fā)布，再加上資源管理工具Dynamic Workload Scheduler，標(biāo)志著在處理組織的人工智能任務(wù)方面邁出了重要的一步。

　　Cloud TPU v5p，繼去年11月發(fā)布的v5e之后，成為谷歌最強(qiáng)大的TPU。與其前身不同，v5p以性能為驅(qū)動設(shè)計(jì)，承諾在處理能力方面取得顯著的改進(jìn)。每個pod配備8，960個芯片，芯片之間的互聯(lián)速度達(dá)到4，800Gbps，這一版本在浮點(diǎn)運(yùn)算每秒(FLOPS)方面提供了兩倍的性能，并在高帶寬內(nèi)存(HBM)方面比前代TPU v4增加了三倍。

　　在性能方面的聚焦取得了顯著的成果，Cloud TPU v5p在訓(xùn)練大型LLM模型時(shí)的速度比TPU v4提高了驚人的2.8倍。此外，利用第二代SparseCores，v5p展示了在嵌入式密集模型方面的訓(xùn)練速度，比其前身快了1.9倍。

　　與此同時(shí)，AI Hypercomputer**作為超級計(jì)算機(jī)架構(gòu)的一場革命性變革。它融合了優(yōu)化的性能硬件、開源軟件、主要機(jī)器學(xué)習(xí)框架和可調(diào)整的消耗模型。AI Hypercomputer放棄了強(qiáng)化離散組件的傳統(tǒng)方法，而是利用協(xié)同系統(tǒng)設(shè)計(jì)，提高了在培訓(xùn)、微調(diào)和服務(wù)領(lǐng)域的人工智能效率和生產(chǎn)力。

　　這一先進(jìn)的架構(gòu)基于超大規(guī)模數(shù)據(jù)中心基礎(chǔ)設(shè)施的精心優(yōu)化的計(jì)算、存儲和網(wǎng)絡(luò)設(shè)計(jì)。此外，它通過開源軟件為開發(fā)人員提供了對相關(guān)硬件的訪問，支持諸如JAX、TensorFlow和PyTorch等機(jī)器學(xué)習(xí)框架。這種集成擴(kuò)展到Multislice Training和Multihost Inferencing等軟件，同時(shí)深度集成了Google Kubernetes Engine(GKE)和Google Compute Engine。

　　AI Hypercomputer的真正獨(dú)特之處在于其靈活的消耗模型，專門滿足人工智能任務(wù)的需求。它引入了創(chuàng)新的Dynamic Workload Scheduler和像承諾使用折扣(CUD)、按需和Spot等傳統(tǒng)消耗模型的平臺。這個資源管理和任務(wù)調(diào)度平臺支持Cloud TPU和Nvidia GPU，簡化了調(diào)度所有所需加速器以優(yōu)化用戶支出。

　　在這個模型下，F(xiàn)lex Start選項(xiàng)非常適合模型微調(diào)、實(shí)驗(yàn)、較短的培訓(xùn)會話、離線推理和批處理任務(wù)。它提供了一種經(jīng)濟(jì)有效的方式，在執(zhí)行前請求GPU和TPU容量。相反，Calendar模式允許預(yù)訂特定的啟動時(shí)間，滿足對培訓(xùn)和實(shí)驗(yàn)任務(wù)需要精確啟動時(shí)間和持續(xù)時(shí)間的要求，可提前8周購買，持續(xù)7或14天。

　　谷歌發(fā)布Cloud TPU v5p、AI Hypercomputer和Dynamic Workload Scheduler代表了人工智能處理能力的一大飛躍，引領(lǐng)著性能增強(qiáng)、優(yōu)化架構(gòu)和靈活的消耗模型的新時(shí)代。這些創(chuàng)新有望重新定義人工智能計(jì)算的格局，并為各行各業(yè)的突破性進(jìn)展鋪平道路。