国产无遮挡免费视频_热久久99这里有精品_无码内射中文字幕岛国片_4hu四虎永久在线影院成人_国产精品麻豆一区_欧美成人亚洲成人_亚洲黄色在线免费观看_精品久久久久久中文字幕动漫_中文字幕久久午夜不卡_日韩中文字幕在线视频播放_五月激情五月婷婷_日本美女视频一区二区

卓世科技榮膺甲子光年“2025中國(guó)AI Agent領(lǐng)域最具商業(yè)潛力榜”CFCA數(shù)字證書應(yīng)用綜合解決方案,讓財(cái)務(wù)公司數(shù)字化轉(zhuǎn)型更安全CFCA亮相銀聯(lián)全球合作伙伴大會(huì) 以安全基石鑄就信任橋梁直擊網(wǎng)絡(luò)支付潛在風(fēng)險(xiǎn),CFCA第三方支付安全解決方案賦能行業(yè)安全合規(guī)發(fā)展消息稱 realme 真我 16 Pro 系列手機(jī)有望明年1月6日發(fā)布,Pro+ 版本預(yù)計(jì)配備潛望長(zhǎng)焦豆包踢開(kāi)Agent大門,但微信說(shuō)不定先進(jìn)門聯(lián)想想幫幫AI服務(wù)智能體:舊手機(jī)去哪里以舊換新現(xiàn)在有答案了摩爾線程:將發(fā)布新一代GPU架構(gòu),并設(shè)立“摩爾學(xué)院”2025數(shù)智科技生態(tài)大會(huì):亞信科技與中國(guó)電信“數(shù)智同行、智惠共榮”上海交大發(fā)布全球首個(gè)光子芯片垂直大模型 LightSeek,研發(fā)效率提升7倍消息稱華為2012實(shí)驗(yàn)室成立基礎(chǔ)大模型部,加速布局AI底層技術(shù)無(wú)需眼鏡,未來(lái)已來(lái)!這項(xiàng)中國(guó)黑科技實(shí)現(xiàn)了裸眼 3D 顯示首發(fā)即售罄!“豆包手機(jī)” 引發(fā)二手市場(chǎng)熱潮,價(jià)格翻倍!OPPO A6l發(fā)布:售價(jià)1799元 搭載六年長(zhǎng)壽大電池余承東官宣:鴻蒙智行首款MPV命名為智界V9一家外企的向善力量2025企業(yè)家博鰲論壇丨數(shù)字金融安全發(fā)展大會(huì)暨數(shù)字金融聯(lián)合宣傳年年度活動(dòng)成功舉行羅愛(ài)華:以智能風(fēng)控筑牢數(shù)字金融安全閉環(huán)李肇寧:筑牢金融安全防線 守護(hù)金融安全與便捷服務(wù)徐曉群:創(chuàng)新安全管理實(shí)踐 保障數(shù)字金融高質(zhì)量發(fā)展
  • 首頁(yè) > 云計(jì)算頻道 > 大模型

    開(kāi)源大世界,誰(shuí)來(lái)打好大模型的地基?

    2023年11月29日 18:16:37 來(lái)源:數(shù)智前線

      通用大模型猶如大模型產(chǎn)業(yè)的地基,而地基的深度和強(qiáng)度將決定大廈的高度。

      文|周享玥

      編|趙艷秋

      11月29日,第四屆人工智能計(jì)算大會(huì)(AICC 2023)在北京長(zhǎng)安街中央商務(wù)區(qū)的一家酒店內(nèi)召開(kāi)。

      今年異常熱鬧,包括百度、智譜AI、百川智能、網(wǎng)易伏羲、吉利汽車等在內(nèi)的多家大模型企業(yè)和科技企業(yè)匯聚一堂,共同探討AI計(jì)算技術(shù)風(fēng)向、AIGC創(chuàng)新成果等。國(guó)際數(shù)據(jù)公司IDC和浪潮信息還在會(huì)上聯(lián)合發(fā)布了一份《2023-2024年中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》。

      報(bào)告顯示,67%的中國(guó)企業(yè)都已開(kāi)始探索生成式人工智能在企業(yè)內(nèi)的應(yīng)用機(jī)會(huì)或進(jìn)行相關(guān)資金投入。其中,中國(guó)企業(yè)尤其認(rèn)可生成式AI對(duì)于加速?zèng)Q策、提高效率、優(yōu)化用戶和員工體驗(yàn)等維度帶來(lái)的價(jià)值,并將在未來(lái)三年持續(xù)提高投入力度,超七成企業(yè)增幅在20%-40%之間。

      隨著越來(lái)越多企業(yè)對(duì)生成式AI及大模型進(jìn)行探索和投入,通用大模型的能力也在不斷被強(qiáng)調(diào)。一個(gè)共識(shí)是,通用大模型猶如大模型產(chǎn)業(yè)的地基,地基的深度和強(qiáng)度將決定大廈的高度。

      底層的大模型廠商們正為此做出努力。就在這次會(huì)議召開(kāi)前兩天,浪潮信息剛剛發(fā)布“源2.0”基礎(chǔ)大模型,并全面開(kāi)源1026億、518億、21億三種參數(shù)規(guī)模的模型。

      據(jù)悉,這是業(yè)界首個(gè)完全開(kāi)源可商用的千億大模型,也是目前國(guó)內(nèi)尺寸最大的全面開(kāi)源大模型。而上一個(gè)在國(guó)內(nèi)“最大參數(shù)開(kāi)源大模型”記錄中留下過(guò)名字的是阿里。彼時(shí),阿里巴巴集團(tuán)CEO吳泳銘在2023年世界互聯(lián)網(wǎng)大會(huì)上宣布,阿里將開(kāi)源720億參數(shù)大模型。

      在通往大模型的未來(lái)之路上,持續(xù)拓寬行業(yè)落地的同時(shí),打好地基,依然是重中之重。

      01

      大模型在路上,發(fā)展路徑百家爭(zhēng)鳴

      大模型雖然今年才真正爆發(fā),但業(yè)界對(duì)于這塊兒的探索,其實(shí)已經(jīng)經(jīng)過(guò)幾輪思考沉淀和總結(jié)。一位資深業(yè)內(nèi)人士向數(shù)智前線描述了大模型發(fā)展的幾個(gè)階段:

      以2018年谷歌發(fā)布擁有3億參數(shù)的BERT預(yù)訓(xùn)練模型作為起點(diǎn),AI的大模型時(shí)代就已開(kāi)啟,包括OpenAI、谷歌、微軟、英偉達(dá)等國(guó)外玩家,浪潮信息、百度、阿里、騰訊等國(guó)內(nèi)巨頭,都紛紛重兵投入,進(jìn)行相關(guān)探索。

      起初幾年,大家的焦點(diǎn)是拼參數(shù),“每家都是奔著吉尼斯去的,你做千億,它就做萬(wàn)億”。尤其是2020年5月OpenAI發(fā)布擁有1750億參數(shù)的GPT-3,首次將大模型參數(shù)規(guī)模提升到千億級(jí)后,各種千億、萬(wàn)億大模型層出不窮,看得人眼花繚亂。對(duì)外宣傳口徑上,各家的提法也很統(tǒng)一,都在強(qiáng)調(diào)自己的“最大”。

      這期間,更大參數(shù)量所帶來(lái)的智能涌現(xiàn)和泛化能力,讓不少人感到驚喜,但同時(shí),也暴露出一些問(wèn)題,比如當(dāng)大模型要真正落到智算中心做工程化時(shí),往往會(huì)遇到算力支撐上的巨大考驗(yàn)。再加上正常的技術(shù)商業(yè)化路徑,大家普遍開(kāi)始走入第二階段:探索在什么樣的場(chǎng)景里去應(yīng)用。

      “有的面向知識(shí)領(lǐng)域去做技能模型,有的面向行業(yè)直接去做行業(yè)的場(chǎng)景模型。”大模型走向行業(yè)、走向領(lǐng)域應(yīng)用的路徑是什么,大家都在思考。

      比如百度,在2022年5月一口氣發(fā)布了十款大模型,其中既包括與產(chǎn)業(yè)場(chǎng)景相結(jié)合的行業(yè)大模型,也包括做了知識(shí)增強(qiáng)的任務(wù)大模型。

      浪潮信息也在2022年年中,推出了基于“源1.0”基礎(chǔ)大模型的4個(gè)技能大模型——對(duì)話模型“源曉問(wèn)”、問(wèn)答模型“源曉搜”、翻譯模型“源曉譯”,以及古文模型“源曉文”。

      但這些探索和嘗試都還只能算是“小打小鬧”的中間態(tài)產(chǎn)品,尚未能在外界引起轟動(dòng),有人士后來(lái)反思,過(guò)早地進(jìn)行領(lǐng)域模型和場(chǎng)景模型的應(yīng)用,實(shí)際是犧牲了部分泛化能力的。直到ChatGPT的橫空出世,這場(chǎng)大模型熱潮才真正被引爆。業(yè)界的各種思潮開(kāi)始迅速活躍起來(lái)。

      IDC的報(bào)告顯示,目前,67%的中國(guó)企業(yè)都已開(kāi)始探索生成式AI在企業(yè)內(nèi)的應(yīng)用機(jī)會(huì)或進(jìn)行相關(guān)資金投入。具體到應(yīng)用場(chǎng)景上,知識(shí)管理、對(duì)話式應(yīng)用、銷售和營(yíng)銷、代碼生成等是全球企業(yè)應(yīng)用生成式人工智能的主要場(chǎng)景。

      過(guò)去幾個(gè)月里,一些大模型的先行先鋒用戶們,也已基于自身實(shí)踐形成了各自獨(dú)有的路線和方向,大模型還是一個(gè)新鮮事物,大家的觀點(diǎn)各不相同。

      不少企業(yè)通過(guò)對(duì)行業(yè)大模型的微調(diào),在某些場(chǎng)景下嘗試落地大模型。不過(guò),也有一些企業(yè)不認(rèn)同行業(yè)大模型。

      航旅領(lǐng)域里,中國(guó)航信一位工程師告訴數(shù)智前線,他們希望基于基礎(chǔ)大模型來(lái)做民航智能服務(wù)平臺(tái),而不是經(jīng)過(guò)剪裁了知識(shí)面的行業(yè)大模型。這背后的思考是,通用大模型的能力會(huì)隨著參數(shù)擴(kuò)大而升級(jí),但行業(yè)模型是基于某個(gè)版本的通用模型,投喂相應(yīng)的專業(yè)數(shù)據(jù)訓(xùn)練而成。通常,基礎(chǔ)大模型會(huì)做參數(shù)升級(jí),而行業(yè)模型很難同步,這不利于模型的智能水平。

      有企業(yè)則在不斷反思,行業(yè)落地與基礎(chǔ)模型性能提升如何齊頭并進(jìn)的問(wèn)題。一家大模型產(chǎn)業(yè)鏈企業(yè)告訴數(shù)智前線,大模型在行業(yè)內(nèi)的落地速度,實(shí)際落后于他們年初預(yù)期,其中很大一部分原因,是因?yàn)閲?guó)內(nèi)的基礎(chǔ)大模型還不夠成熟,性能仍有待提升。

      11月初,GPT-4 Turbo的炸街式發(fā)布,更加深了業(yè)界對(duì)大模型基礎(chǔ)能力提升的迫切性。“現(xiàn)在最可怕的事情是,OpenAI在開(kāi)發(fā)者大會(huì)上展現(xiàn)出來(lái)的能力,又把我們跟GPT-4之間的差距拉大了。”浪潮信息高級(jí)副總裁劉軍表示,如何持續(xù)不斷地去縮小這種差距,甚至再往后實(shí)現(xiàn)超越,是目前國(guó)內(nèi)大模型行業(yè)面臨的核心問(wèn)題。

      劉軍認(rèn)為,AI產(chǎn)業(yè)一定會(huì)快速增長(zhǎng),但只有當(dāng)產(chǎn)業(yè)足夠壯大時(shí),每個(gè)參與者從中切到的蛋糕才會(huì)越大。因此,國(guó)內(nèi)大模型從業(yè)者首先要做的,是讓蛋糕做大。而這其中的一大核心,就是讓基礎(chǔ)大模型的能力提升上去。這就好比人才的教育過(guò)程,絕大多數(shù)情況下,首先有了較強(qiáng)的基本能力和素質(zhì),才能在不同專業(yè)、行業(yè)里干得更好。否則,客戶體驗(yàn)很差,用不起來(lái),也就難以轉(zhuǎn)動(dòng)商業(yè)模式。這也是浪潮信息選擇全面開(kāi)源“源2.0”基礎(chǔ)大模型的原因之一。

      02

      基礎(chǔ)大模型正百花齊放

      浪潮信息人工智能軟件研發(fā)總監(jiān)吳韶華告訴數(shù)智前線,去年11月ChatGPT發(fā)布后,其展現(xiàn)出的全新的能力雖然對(duì)業(yè)界震撼很大,但方法上有跡可循。“通過(guò)源1.0+強(qiáng)化學(xué)習(xí),我們很快趕上,也做出了類似ChatGPT這樣一套系統(tǒng),在內(nèi)部持續(xù)迭代和改進(jìn)。”

      “GPT-4發(fā)布后,我們重新審視了原來(lái)的方案,一直在思考一個(gè)問(wèn)題,它到底通過(guò)什么樣的技術(shù)實(shí)現(xiàn)了非常強(qiáng)的基礎(chǔ)模型能力。”而這些思考都落在了11月27日浪潮信息最新發(fā)布的源2.0上。

      “源2.0”不僅在數(shù)理邏輯、代碼生成、知識(shí)問(wèn)答、中英文翻譯、理解和生成等方面有顯著的能力提升,還針對(duì)行業(yè)在算法、數(shù)據(jù)、算力方面的普遍痛點(diǎn),提出了三項(xiàng)創(chuàng)新。

      算法方面,源2.0提出并采用了一種新型的注意力算法結(jié)構(gòu):局部注意力過(guò)濾增強(qiáng)機(jī)制(LFA:Localized Filtering-based Attention)。

      有別于傳統(tǒng) Transformer“捕捉全局信息和長(zhǎng)依賴信息能力”,LFA 具備“捕捉局部信息和短依賴信息能力”,使得模型更精準(zhǔn)地掌握上下文之間的強(qiáng)語(yǔ)義關(guān)聯(lián),學(xué)習(xí)到人類語(yǔ)言范式本質(zhì)。

      比如,“我想吃中國(guó)菜”這樣一句話輸入到模型中時(shí),首先會(huì)進(jìn)行分詞——我/想/吃/中國(guó)/菜/,而傳統(tǒng)Attention對(duì)這6個(gè)token將同等對(duì)待。但在自然語(yǔ)言中,“中國(guó)”和“菜”實(shí)際是有著更強(qiáng)的關(guān)系和局部依賴性的,LFA正是通過(guò)先學(xué)習(xí)相鄰詞之間的關(guān)聯(lián)性,再計(jì)算全局關(guān)聯(lián)性的方法,學(xué)到自然語(yǔ)言的這種局部和全局的語(yǔ)言特征,進(jìn)而提升模型精度。

      “我們對(duì)大模型結(jié)構(gòu)的有效性進(jìn)行了消融實(shí)驗(yàn),相比傳統(tǒng)注意力結(jié)構(gòu),LFA模型精度提高了3.53%。”吳韶華表示。在最終的模型訓(xùn)練上,最大參數(shù)只有1026億的源2.0,在LFA算法的加持下,也能比用2457億參數(shù)的源1.0,訓(xùn)練同樣大小Token數(shù)的Train Loss降低28%。而訓(xùn)練的損失曲線越小,意味著大模型對(duì)于訓(xùn)練集的特征學(xué)習(xí)得越好。

      數(shù)據(jù)是另一個(gè)被重點(diǎn)提升的方面。劉軍告訴數(shù)智前線,原來(lái)大家粗放式經(jīng)營(yíng)的特征比較明顯,"好像給它足夠的數(shù)據(jù),只要用算力不停去訓(xùn)它,最后就能煉出金子來(lái)。”但煉金術(shù)其實(shí)也是需要有高品質(zhì)的金礦才能練出純度更高的金子。

      后來(lái),大家都重視起了數(shù)據(jù)的清洗工作,但想要獲得高質(zhì)量的數(shù)據(jù)集并不容易。比如源1.0,使用的數(shù)據(jù)絕大部分都來(lái)自于互聯(lián)網(wǎng),浪潮信息為此采用了很多手段提純,才在800多TB數(shù)據(jù)中清洗出了一個(gè)5TB的高質(zhì)量數(shù)據(jù)集。

      尤其是高質(zhì)量數(shù)學(xué)、代碼等數(shù)據(jù)的獲得上,難度還要更大。吳韶華透露,為了獲取中文數(shù)學(xué)數(shù)據(jù),他們清洗了從2018年至今約12PB的互聯(lián)網(wǎng)數(shù)據(jù),但僅獲取到約10GB的數(shù)學(xué)數(shù)據(jù),且質(zhì)量分析后依然不夠高,投入巨大,收益較小。

      于是,此次推出的源2.0,在訓(xùn)練數(shù)據(jù)來(lái)源、數(shù)據(jù)增強(qiáng)和合成方法方面都進(jìn)行了創(chuàng)新。一方面,通過(guò)引入大量中英文書籍、百科、論文等高質(zhì)量中英文資料,降低了互聯(lián)網(wǎng)語(yǔ)料內(nèi)容占比;另一方面,用大型語(yǔ)言模型作為訓(xùn)練數(shù)據(jù)生成器,在每個(gè)類別上提升數(shù)據(jù)質(zhì)量,獲取了一批高質(zhì)量的數(shù)學(xué)與代碼預(yù)訓(xùn)練數(shù)據(jù)。

      而在算力方面,源2.0采用非均勻流水并行的方法,綜合運(yùn)用流水線并行+優(yōu)化器參數(shù)并行+數(shù)據(jù)并行的策略,讓模型在流水并行各階段的顯存占用量分布更均衡,避免出現(xiàn)顯存瓶頸導(dǎo)致的訓(xùn)練效率降低的問(wèn)題,以此降低了大模型對(duì)節(jié)點(diǎn)內(nèi)芯片間通信帶寬的需求,讓其在硬件差異較大的訓(xùn)練環(huán)境中也能實(shí)現(xiàn)高性能訓(xùn)練。

      “相當(dāng)于給你一條高速公路時(shí),能跑到每公里200公里的時(shí)速,但給你一條羊腸小道,也能跑起來(lái),并把最終的結(jié)果跑到。”劉軍解釋說(shuō)。

      浪潮信息在算法、數(shù)據(jù)、算力上的創(chuàng)新,直接推動(dòng)了源2.0在代碼、數(shù)學(xué)、事實(shí)問(wèn)答方面的能力提升。據(jù)介紹,后續(xù)的源2.5、源3.0等,依然還將從算法、數(shù)據(jù)幾個(gè)角度入手。

      實(shí)際是,不僅僅是浪潮信息,其他一些底層大模型廠商們,也都在持續(xù)迭代和升級(jí)自己的基礎(chǔ)大模型能力。

      10月,百度發(fā)布文心大模型4.0,宣布實(shí)現(xiàn)了基礎(chǔ)模型的全面升級(jí)。而后不久,阿里透露,即將開(kāi)源 720 億參數(shù)大模型。

      這在不少業(yè)內(nèi)人士看來(lái),是一種好的發(fā)展趨勢(shì)。畢竟,產(chǎn)業(yè)要健康發(fā)展,不能只有一家公司擁有領(lǐng)先的能力,而是需要整個(gè)產(chǎn)業(yè)能百花齊放。

      “對(duì)于用戶來(lái)說(shuō),是不是最后就變成只有一家贏呢?其實(shí)不是這樣的,我們認(rèn)為,未來(lái)的生成式AI,會(huì)是一個(gè)多元化的生態(tài),每個(gè)模型可能都有它最擅長(zhǎng)的能力,那么大家加起來(lái)就是一個(gè)非常棒的能力集合。”劉軍告訴數(shù)智前線,將來(lái)行業(yè)用戶最終去部署的時(shí)候,可能會(huì)有不同的模型在后面在做支撐,而這些都是基礎(chǔ)大模型的力量。

      03

      從硬件到更大市場(chǎng)

      隨著大模型在各行各業(yè)的持續(xù)滲透和深入,企業(yè)對(duì)大模型廠商提出的需求,已經(jīng)不僅僅局限于大模型本身的能力,也在迅速擴(kuò)展到模型訓(xùn)練經(jīng)驗(yàn)、優(yōu)質(zhì)數(shù)據(jù)集,以及如何解決算力效率、存儲(chǔ)、網(wǎng)絡(luò)等方方面面的問(wèn)題。

      “我們的算法工程師和實(shí)施工程師比我們的服務(wù)器還搶手,他們出差去跟各家的交流,都排得非常滿。”一位浪潮信息的人士告訴數(shù)智前線。作為國(guó)內(nèi)最大的AI服務(wù)器提供商,同時(shí)也是國(guó)內(nèi)最早進(jìn)行基礎(chǔ)大模型建設(shè)的廠商之一,浪潮信息在今年大模型的風(fēng)潮起來(lái)后,接到了大量客戶關(guān)于模型預(yù)訓(xùn)練、數(shù)據(jù)處理、架構(gòu)調(diào)優(yōu)等方面的需求。

      比如浪潮信息從866TB海量數(shù)據(jù)中清洗出了5TB的高質(zhì)量中文共享數(shù)據(jù)集。劉軍透露,據(jù)不完全統(tǒng)計(jì),目前國(guó)內(nèi)大模型中,已有超過(guò)50家使用了浪潮信息的開(kāi)源數(shù)據(jù)集。另外,浪潮信息在模型快速收斂、效率提高上的經(jīng)驗(yàn)和方法,也受到廣泛關(guān)注。

      模型訓(xùn)練效率的提升則是更大的一個(gè)話題,直接關(guān)系到巨大的成本問(wèn)題。尤其是在GPU短缺的大背景下,如何將有效地將算力用好,是每家企業(yè)都要面臨的挑戰(zhàn)。

      在今年8月那場(chǎng)集結(jié)了20多位國(guó)內(nèi)大模型“頂流”創(chuàng)業(yè)者的西溪論道閉門會(huì)上,李開(kāi)復(fù)就曾表示,很快大家就會(huì)發(fā)現(xiàn),做過(guò)大模型 Infra (硬件底層)的人比做大模型的人還要貴、更稀缺,而會(huì)做 Scaling Law(擴(kuò)展定律,模型能力隨著訓(xùn)練計(jì)算量增加而提升)的人比會(huì)做大模型 Infra 的人更稀缺。

      客戶愈加復(fù)雜的需求,正在促使大量的大模型廠商,尤其是實(shí)力雄厚的大廠們,開(kāi)始不斷在角色和業(yè)務(wù)上加速轉(zhuǎn)變和拓展。人工智能產(chǎn)業(yè)鏈上,各種跨界動(dòng)作也愈發(fā)頻繁,業(yè)界有著“軟件企業(yè)向下,硬件企業(yè)向上”的現(xiàn)象。

      可以看到,此前,百度、騰訊、阿里等多家大模型廠商,都向用戶提供了大模型相關(guān)的工具鏈。一些大廠,也在加快切入用戶更新的一些需求。比如,騰訊云面向大模型時(shí)代的新需求,在今年7月發(fā)布了AI原生向量庫(kù),最近又宣布將向量數(shù)據(jù)庫(kù)檢索規(guī)模從十億升級(jí)至千億級(jí)別。京東云則看到了大模型用戶在存儲(chǔ)方面遇到的新挑戰(zhàn),正在加大相關(guān)的業(yè)務(wù)投入。

      浪潮信息對(duì)自己的角色定位也在發(fā)生改變。劉軍坦言,“我們?cè)絹?lái)越不認(rèn)為自己是個(gè)硬件廠商,如何把硬件這個(gè)生意轉(zhuǎn)化成更大的生產(chǎn)力,我們必須去理解客戶的應(yīng)用需求和痛點(diǎn),這也要求浪潮信息不僅僅是硬件,在系統(tǒng)、軟件、算法上,也都要非常強(qiáng)的團(tuán)隊(duì)和能力。”

      劉軍表示,浪潮信息目前在大模型上的核心思路是,要發(fā)揮自身的優(yōu)勢(shì)和對(duì)產(chǎn)業(yè)的理解,建立一個(gè)強(qiáng)大的基礎(chǔ)大模型,然后通過(guò)開(kāi)源的方式,將做應(yīng)用、做行業(yè)、做專業(yè)、做技能的工作,交給生態(tài)伙伴、行業(yè)客戶和開(kāi)發(fā)者去完成,共同推動(dòng)大模型的創(chuàng)新、使用和落地,而不是和大模型企業(yè)、軟件廠商去競(jìng)爭(zhēng)。

      為此,8月24日,浪潮信息正式發(fā)布了大模型智算軟件棧OGAI (Open GenAI Infra) “元腦生智”。這是一套基于浪潮信息過(guò)往積累的大模型的工程經(jīng)驗(yàn)、服務(wù)客戶的經(jīng)驗(yàn)等,打造的面向生成式AI開(kāi)發(fā)與應(yīng)用場(chǎng)景的全棧軟件,涉及從集群系統(tǒng)環(huán)境部署到算力調(diào)度保障再到大模型開(kāi)發(fā)管理。

      OGAI一共分為五層,各層對(duì)應(yīng)不同的應(yīng)用場(chǎng)景,每層間是解耦的,用戶需要哪些工具,就可以調(diào)用哪些。其中,從 L0 到 L2主要針對(duì)的是大模型基礎(chǔ)算力環(huán)境的效率提升。L3和L4則分別為大模型訓(xùn)練層和多模型納管層,提供的功能類似互聯(lián)網(wǎng)企業(yè)的工具鏈,不同的是,OGAI可以為企業(yè)提供本地化和私有化部署。

      數(shù)智前線獲悉,目前,浪潮信息在幫助合作伙伴和客戶更好地進(jìn)行大模型的訓(xùn)練和應(yīng)用上,已經(jīng)有了不少實(shí)踐。

      比如,某互聯(lián)網(wǎng)企業(yè)在使用AI集群,對(duì)面向推薦場(chǎng)景的大模型進(jìn)行訓(xùn)練時(shí),遇到了模型數(shù)據(jù)不能及時(shí)從存儲(chǔ)讀取,導(dǎo)致GPU空閑和訓(xùn)練性能低下的問(wèn)題,企業(yè)內(nèi)的算法團(tuán)隊(duì)用了幾個(gè)月也沒(méi)能攻克。

      浪潮信息的AI團(tuán)隊(duì)介入后,發(fā)現(xiàn)在其場(chǎng)景中,大模型對(duì)數(shù)據(jù)讀取IO的需求遠(yuǎn)超一般的AI模型訓(xùn)練情況,從而導(dǎo)致針對(duì)普通模型訓(xùn)練的服務(wù)器配置在推薦場(chǎng)景中出現(xiàn)了不適配的情況。針對(duì)這一特殊需求,浪潮信息團(tuán)隊(duì)最終基于自身經(jīng)驗(yàn),通過(guò)對(duì)CPU BIOS中的mps等多個(gè)選項(xiàng)配置進(jìn)行對(duì)性的的修改優(yōu)化,解決了這一問(wèn)題。

      網(wǎng)易伏羲則在浪潮信息提供的AI算力服務(wù)、高質(zhì)量共享數(shù)據(jù)集等助力下,訓(xùn)練出了110億參數(shù)的中文預(yù)訓(xùn)練大模型“玉言”,并登頂中文語(yǔ)言理解權(quán)威測(cè)評(píng)基準(zhǔn)CLUE分類任務(wù)榜單。

      “未來(lái),我們將重點(diǎn)圍繞開(kāi)源社區(qū)來(lái)做建設(shè),通過(guò)持續(xù)開(kāi)源基礎(chǔ)大模型的形式,盡可能廣泛地賦能更多的用戶場(chǎng)景,擴(kuò)展基礎(chǔ)模型的能力邊界。”吳韶華說(shuō)。浪潮信息也將通過(guò)元腦生態(tài),聯(lián)合國(guó)內(nèi)眾多做大模型的左手伙伴,和面向行業(yè)的右手伙伴,一起推進(jìn)大模型落地行業(yè)。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    海報(bào)生成中...

    最新新聞

    熱門新聞

    即時(shí)

    全球頂級(jí)AI創(chuàng)作社區(qū)回歸!海藝AI國(guó)內(nèi)首發(fā)“全民娛樂(lè)化創(chuàng)作

    海藝AI的模型系統(tǒng)在國(guó)際市場(chǎng)上廣受好評(píng),目前站內(nèi)累計(jì)模型數(shù)超過(guò)80萬(wàn)個(gè),涵蓋寫實(shí)、二次元、插畫、設(shè)計(jì)、攝影、風(fēng)格化圖像等多類型應(yīng)用場(chǎng)景,基本覆蓋所有主流創(chuàng)作風(fēng)格。

    新聞

    市場(chǎng)占比高達(dá)35.8%,阿里云引領(lǐng)中國(guó)AI云增長(zhǎng)

    9月9日,國(guó)際權(quán)威市場(chǎng)調(diào)研機(jī)構(gòu)英富曼(Omdia)發(fā)布了《中國(guó)AI云市場(chǎng),1H25》報(bào)告。中國(guó)AI云市場(chǎng)阿里云占比8%位列第一。

    企業(yè)IT

    華為坤靈發(fā)布IdeaHub千行百業(yè)體驗(yàn)官計(jì)劃,助力中小企

    9月24日,華為坤靈召開(kāi)“智能體驗(yàn),一屏到位”華為IdeaHub千行百業(yè)體驗(yàn)官計(jì)劃發(fā)布會(huì)。

    3C消費(fèi)

    雅馬哈推出兩款高端頭戴耳機(jī)YH-4000與YH-C3000

    雅馬哈昨日宣布推出兩款頭戴式耳機(jī),分別是平板振膜的YH-4000和動(dòng)圈原理的YH-C3000。

    研究

    IDC:2025上半年全球智能家居清潔機(jī)器人出貨量同比暴

    IDC今日發(fā)布的《全球智能家居清潔機(jī)器人設(shè)備市場(chǎng)季度跟蹤報(bào)告,2025年第二季度》顯示,上半年全球智能家居清潔機(jī)器人市場(chǎng)出貨1,2萬(wàn)臺(tái),同比增長(zhǎng)33%,顯示出品類強(qiáng)勁的市場(chǎng)需求。

    久久伊99综合婷婷久久伊| 色综合视频一区中文字幕| 一本色道久久99精品综合| 国产传媒一区| 国产日本欧美一区| 欧美多人爱爱视频网站| 欧美日韩一区视频| www.97av| 日本熟女一区二区| 国产av人人夜夜澡人人爽麻豆 | 中文日韩在线观看| 亚洲欧洲在线观看av| 国产91丝袜在线观看| a级片在线免费看| 黄色免费网址大全| 91精品国产一区二区三区动漫| 91精品国产91久久久| 国产精品99久久久久久久vr| 精品国产xxx| 一级片视频免费观看| 在线观看国产精品视频| 亚洲欧美视频在线播放| 亚洲图片在区色| 日韩av网址在线| 国产日韩欧美综合在线| 中文字幕一区在线观看| 色综合色狠狠天天综合色| 在线播放一区二区三区| 在线精品国产欧美| 国产精品视频一区国模私拍 | 日本不卡久久| 黄色高清无遮挡| 国产偷人妻精品一区| 久久青青草视频| 香蕉视频成人在线| 国产精品色眯眯| 欧美精品国产精品| 久久久伊人日本| 欧美日韩在线不卡一区| 视频二区在线播放| 91免费公开视频| 人成网站在线观看| 中文av一区特黄| 欧美一级夜夜爽| 97视频在线观看免费| 日本一区二区不卡高清更新| gogogo高清免费观看在线视频| 永久免费看片直接| 亚洲免费成人在线| 国产精品色婷婷| 亚洲精品99999| 国产精品久久久久久影视| 不卡中文字幕在线| 91精品国产自产| 亚洲综合网av| 中文字幕不卡在线观看| 91精品国产免费| 国产精品video| 国产免费黄色av| 免费三片在线播放| 国产主播一区二区三区| 欧美日韩一区二区在线视频| 51精品国产黑色丝袜高跟鞋| 阿v天堂2018| 欧美人妻精品一区二区免费看| 麻豆精品在线观看| 色呦呦国产精品| 久久精品电影网站| 欧美男人的天堂| 少妇久久久久久被弄到高潮| 久久国产精品亚洲va麻豆| 国产精品激情自拍| 日韩视频免费看| 国内精品**久久毛片app| 亚洲天堂一区二区在线观看| 91亚洲国产成人久久精品麻豆| 国产日韩欧美电影| 中文在线资源观看视频网站免费不卡| 蜜桃999成人看片在线观看| 人妻av一区二区三区| 高潮一区二区三区乱码| 欧美日韩亚洲网| 日本电影亚洲天堂| 波多野结衣家庭教师视频 | 精品国产一区二区三区四区精华 | 久久亚洲综合国产精品99麻豆精品福利 | 久草中文综合在线| 色婷婷av久久久久久久| 日韩一区av在线| 亚洲国产一区二区三区在线| 欧美三级理论片| 手机看片久久久| 亚洲婷婷在线视频| 97碰碰碰免费色视频| 成人精品小视频| 国产日韩一级片| 亚洲国产美女搞黄色| 国产精品6699| 国产熟女高潮一区二区三区| 久久成人综合网| 日韩理论片久久| 国产制服91一区二区三区制服| 福利网址在线观看| 亚洲国产精品精华液网站| 国产精品视频区| 91精品人妻一区二区三区| 国产精品一区在线观看你懂的| 亚洲日韩欧美视频| 久久美女福利视频| 久久激情中文| 国产一区二区精品丝袜| 亚洲 高清 成人 动漫| 亚洲av综合色区无码一二三区| 欧美日韩精品欧美日韩精品| 欧洲一区二区日韩在线视频观看免费 | 国产欧美日韩专区发布| 国内精品卡一卡二卡三| 国产偷国产偷亚洲高清人白洁| 97久久国产精品| 国产精品九九九九九| 久久久国产午夜精品| 国产精品久久久久7777婷婷| 国产伦精品一区二区三区视频女| 国产精品进线69影院| 成人欧美一区二区三区在线湿哒哒| 91麻豆精品国产91久久综合| 亚洲免费观看高清完整版在线观看 | 韩国欧美国产1区| 欧美国产日韩在线| 黄色aaa视频| 亚洲靠逼com| 精品蜜桃一区二区三区| 亚洲天堂视频在线播放| 亚洲性生活大片| 国产一区二区三区黄视频 | 国产l精品国产亚洲区久久| 欧美亚洲日本在线观看| 在哪里可以看毛片| 亚洲av无码不卡| 91欧美一区二区| 日韩欧美成人激情| 国产精品久久久999| 国产玉足脚交久久欧美| 色一情一乱一伦| 国产91精品露脸国语对白| 亚洲午夜一区二区三区| 亚洲天堂av女优| 亚洲影院色无极综合| 妺妺窝人体色777777| 香蕉视频在线网址| 亚洲熟妇无码av| 日本美女一区二区三区视频| 久久精品亚洲精品| 精品视频久久久久久久| 免费看涩涩视频| 91丨porny丨国产入口| 51国偷自产一区二区三区| 日韩黄色片网站| 一本色道久久综合亚洲精品小说| 国产日本欧洲亚洲| 91麻豆天美传媒在线| 国产精品99久| 91精品国产综合久久精品麻豆| www.好吊操| 久久99精品久久久久久水蜜桃| 一区二区三区入口| 最新热久久免费视频| 91麻豆成人精品国产免费网站| 欧美日韩国产综合一区二区| 久久九九电影| 午夜精品蜜臀一区二区三区免费| www.xxxx日本| 日韩高清有码在线| 免费看黄色的视频| 日韩一区二区三| 中文字幕av观看| 欧美精品日韩一区| 日本人添下边视频免费| 色综合久久久久网| 亚洲免费一级视频| 午夜国产精品影院在线观看| 国产综合av在线| 亚洲三级在线看| 国产精品又粗又长| 国产精品传媒在线| 免费在线观看的av网站| 中文字幕日本不卡| 国产又黄又猛视频| 性做久久久久久久久| 国产福利在线免费| 综合激情成人伊人| 美女福利视频在线| 依依成人精品视频| 亚洲精品永久视频| 欧美日韩一区不卡| aa一级黄色片| 日韩av在线最新| 欧美成人精品激情在线视频| 在线视频欧美性高潮| 欧美三级韩国三级日本三斤在线观看| www.色视频| 日韩成人手机在线| 日韩欧美国产午夜精品| 久久国产日韩欧美精品| 久久国产欧美精品| 色偷偷888欧美精品久久久| 午夜69成人做爰视频| 色偷偷偷综合中文字幕;dd| 日本黄色片视频| 精品影视av免费| 日韩美女在线观看| 国产高清第一页| 日本妇乱大交xxxxx| 国产91综合网| 国产精品自拍首页| 久久亚洲一区| 欧美大片在线看免费观看| 亚洲GV成人无码久久精品| 亚洲精品视频自拍| 亚洲男人天堂av在线| 91精品国产一区二区人妖| 黄色一级片在线| 9.1国产丝袜在线观看| 午夜视频免费看| 一区二区三区免费看| 亚洲欧美日韩电影| 美女又爽又黄视频毛茸茸| 中文字幕日韩精品在线| 精品人妻一区二区三区四区不卡 | 久久久99久久| 免费一区二区三区在线观看 | 在线国产99| 天天免费综合色| 韩国一级黄色录像| 97色在线视频| 99久久伊人精品| 无套内谢丰满少妇中文字幕| 亚洲全黄一级网站| 亚洲黄色片视频| 中文字幕第2页| 麻豆一区区三区四区产品精品蜜桃| 99re亚洲国产精品| 亚洲国产综合av| 日韩在线观看免费网站 | 日韩一区二区a片免费观看| 久久久国产精彩视频美女艺术照福利| 少妇av在线播放| 六月婷婷在线视频| 精品免费一区二区三区| 91中文字幕在线视频| 日韩一区不卡| 欧美亚洲国产bt| 7799精品视频天天看| 久久久精品动漫| 色综合中文字幕国产| 91国产丝袜播放在线| 麻豆精品传媒视频| 色综合天天性综合| 国产真人无遮挡作爱免费视频| 久久综合婷婷综合| 欧美性大战久久久久久久| 精产国品一区二区| 亚洲一区三区| 日韩午夜三级在线| 丰满人妻一区二区三区免费| 蜜臀av性久久久久蜜臀av| 精品黑人一区二区三区久久| 99久久精品日本一区二区免费| www.国产亚洲| 亚洲欧美日韩另类| 美腿丝袜在线亚洲一区| 亚洲精品在线视频播放| 国内精品久久久久久影视8| 久久免费视频一区| 国产一区二区播放| 欧美久久久久久| 精品久久久久久最新网址| 中文字幕第80页| 亚洲三级视频网站| 91久久精品美女| 欧美日本在线看| 国产精品无码一区二区桃花视频| 在线不卡视频一区二区| 亚洲精品成人久久| 国产九色精品成人porny| 狠狠做深爱婷婷久久综合一区| 99国产精品久| 一个色的综合| 午夜精品久久久久久99热| 91在线高清观看| 久久97超碰色| 日本污视频在线观看| 正义之心1992免费观看全集完整版| 久久午夜a级毛片| 国产欧美一区二区精品性色超碰| 欧美久久久久久久久久久久| 日韩精品一区二区三区色欲av| 亚洲在线观看视频网站| 欧美精品videosex牲欧美| 庆余年2免费日韩剧观看大牛| 五月婷婷激情视频| www.日本xxxx| 国产原创中文在线观看| 亚洲最大成人网色| 久久久国产成人精品| 日韩欧美成人午夜| 亚洲欧洲日韩女同| 久久国产日本精品| 久久免费视频精品| 超碰超碰在线观看| 免费观看亚洲视频| 成人国产精品一区| 欧美大片网站在线观看| 成人在线资源网址| 日本阿v视频在线观看| 看全色黄大色大片| 精品国产一区二区三区四区精华| 日韩高清人体午夜| 狠狠躁夜夜躁人人爽超碰91| 六月婷婷综合网| 日韩久久久久久久久| 亚洲36d大奶网| 日韩视频在线视频| 亚洲日本精品一区| 亚洲精品在线免费播放| 日韩视频一区在线观看| eeuss一区二区三区| 免费人成自慰网站| 国产福利精品一区二区三区| 一区二区三区日韩视频| 国产精品美女免费视频| 久久久久日韩精品久久久男男| 日韩一区二区三| 在线综合视频播放| 欧美伊人精品成人久久综合97| 国产亚洲精品中文字幕| 国产激情视频一区二区在线观看| 人妻无码一区二区三区久久99| 亚洲免费黄色网址| 三级全黄做爰视频| 黄色a级片在线观看| 中文字幕人妻一区| 中文字幕永久免费| 人妻在线日韩免费视频| 免费激情视频在线观看| 日本午夜激情视频| 国产精品一线二线三线| 加勒比海盗1在线观看免费国语版| 国内精品二区| 日韩avxxx| 韩国三级hd两男一女| 中文字幕无人区二| 男女做暖暖视频| 久热re这里精品视频在线6| 免费精品一区二区| 秋霞av一区二区三区| 日本在线不卡视频一二三区| 一级特黄色大片| 无码人妻丰满熟妇精品 | 超碰在线免费观看97| 一级一片免费播放| 亚洲黄色a v| 人妻无码一区二区三区| 久草国产在线观看| 国产成人a v| 久久综合资源网| 午夜伊人狠狠久久| 亚洲一线二线三线久久久| 亚洲一区二区三区影院| 51久久精品夜色国产麻豆| 久久6免费高清热精品| 91国在线精品国内播放| 国产精品视频1区| 精品一区二区不卡| 波多野结衣激情| 粉色视频免费看| 乱老熟女一区二区三区| 国产又粗又猛又爽又黄的| 久久久精品日韩| 国产情人综合久久777777| 一道本成人在线| 在线视频欧美性高潮| 国产成人激情视频| 中文字幕成人一区| 无码人妻一区二区三区免费n鬼沢| av中文字幕在线免费观看| 久久久亚洲欧洲日产国码αv| 亚洲欧美日韩系列| 尤物九九久久国产精品的分类| 国产成人精品一区二区| 日韩免费在线免费观看| av网站大全免费| 夜夜春很很躁夜夜躁| 精品国产av 无码一区二区三区| 国产性色一区二区| 欧美精品久久一区二区三区| 97色在线观看| 欧美日韩亚洲第一| 色一情一乱一伦| 国产精品911| 欧美一区二区高清| 国产美女高潮久久白浆| 免费毛片小视频| 国产伦精品一区二区三区视频我| 国产资源精品在线观看| 在线一区二区三区| 91黑丝在线观看| www.污网站| 亚洲天天做日日做天天谢日日欢| 亚洲第一av网站|