高通和 Meta 兩家公司今天宣布，將從 2024 年開(kāi)始，這家社交網(wǎng)絡(luò)公司的新大型語(yǔ)言模型 Llama 2 可以在手機(jī)和 PC 上的高通芯片上運(yùn)行。

　　迄今為止，大型語(yǔ)言模型主要在大型服務(wù)器機(jī)房上運(yùn)行，使用英偉達(dá)圖形處理器，這是由于該技術(shù)對(duì)計(jì)算能力和數(shù)據(jù)的巨大需求，推動(dòng)了英偉達(dá)股價(jià)的上漲，今年已上漲超過(guò) 220%。但是，對(duì)于像高通這樣的手機(jī)和個(gè)人電腦領(lǐng)先芯片制造商來(lái)說(shuō)，人工智能熱潮的收益相對(duì)較少。高通股價(jià)今年迄今上漲約 10%，落后于納斯達(dá)克指數(shù)的 36% 的漲幅。

　　周二的宣布表明，高通希望將其處理器定位為非常適合人工智能的「邊緣」設(shè)備，而不是「云端」。如果大型語(yǔ)言模型可以在手機(jī)上運(yùn)行而不是在大型數(shù)據(jù)中心中，這可能會(huì)降低運(yùn)行人工智能模型的顯著成本，并可能帶來(lái)更好、更快的語(yǔ)音助手和其他應(yīng)用程序。

　　高通將在其設(shè)備上提供 Meta 的開(kāi)源 Llama 2 模型，相信這將實(shí)現(xiàn)智能虛擬助手等應(yīng)用程序。Meta 的 Llama 2 可以執(zhí)行與 ChatGPT 類似的許多功能，但可以以更小的程序打包，使其能夠在手機(jī)上運(yùn)行。

　　高通的芯片包括適用于人工智能模型所需計(jì)算的「張量處理器單元」(TPU)。然而，與備有尖端 GPU 的數(shù)據(jù)中心相比，移動(dòng)設(shè)備上可用的處理能力相形見(jiàn)絀。

　　Meta 的 Llama 引人注目之處在于，Meta 公開(kāi)了其模型的「權(quán)重」，這是一組幫助指導(dǎo)特定人工智能模型運(yùn)作的數(shù)字。通過(guò)這樣做，研究人員甚至商業(yè)企業(yè)可以在自己的計(jì)算機(jī)上使用這些人工智能模型，無(wú)需請(qǐng)求或支付許可費(fèi)用。而其他知名的大型語(yǔ)言模型，如 OpenAI 的 GPT-4 或 Google 的 Bard，是封閉源代碼的，其權(quán)重是嚴(yán)格保密的。

　　高通此前與 Meta 密切合作，特別是在其 Quest 虛擬現(xiàn)實(shí)設(shè)備的芯片上。高通還演示了一些在其芯片上運(yùn)行較慢的人工智能模型，例如開(kāi)源圖像生成器 Stable Diffusion。