ChatGPT、百度文心一言、Bard等大語言模型展現(xiàn)出了超強的創(chuàng)造能力，加速了生成式AI的應用進程。但AI模型只能基于訓練數(shù)據(jù)執(zhí)行各種任務，無法像人類一樣利用生活知識、過往經驗用于復雜的推理和決策。

　　例如，在玩游戲時，人類可以利用各種線索、常識、經驗以及對游戲規(guī)則的理解做出最佳決策。而AI只能通過大量訓練學習游戲的模式，不具備人性化理解功能。一旦游戲規(guī)則或環(huán)境發(fā)生變化，AI就很難做出正確的選擇。

　　為了解決這些難題，克萊姆森大學AI實驗室提出了自主認知技術框(Autonomous Cognitive Entity，簡稱“ACE”)。通過道德、全局戰(zhàn)略、代理模型、執(zhí)行、認知控制和任務執(zhí)行6大分層設計，使AI模型可以實現(xiàn)“自主決策”和道德推理的認知架構。

　　長期以來，讓AI模型具備“常識推理”的能力一直是科研界的重中之重。而ACE框架被視為解決這個難題的創(chuàng)新性突破研究。

　　其實ACE概念與前不久中國科學院自動化研究所和耶魯大學提出的“思維傳播”技術框架類似，都是讓大模型學會利用過往經驗增強復雜推理能力來處理全新的問題，只不過推理分層更加具體化，并加入了道德規(guī)范的限制保證輸出內容的安全性。

　　ACE技術框架得到了業(yè)界眾多技術大牛的認可。斯坦福大學計算機科學系教授John Etchemendy表示，ACE框架標志著人工智能研究的新范式，其分層抽象和信息反饋的設計對實現(xiàn)人工常識推理大有幫助。

　　麻省理工AI實驗室主任Daniela Rus認為，ACE框架構建了一個集成倫理、認知和計算原理的完整結構，為人工常識推理提供了新的研究方向。

　　ACE框架的總目標是實現(xiàn)一種既高能又倫理的人工智能系統(tǒng)。其核心創(chuàng)新在于融合了頂層的抽象倫理推理與底層的具體任務實現(xiàn)，構建一個閉環(huán)完整的認知體系。

　　ACE主要由道德、全局戰(zhàn)略、代理模型、執(zhí)行、認知控制和任務執(zhí)行6大層組成，每一層集中處理不同的功能，高層處理抽象推理，低層負責具體任務執(zhí)行。

　　道德層

　　最高的道德層確定了整個系統(tǒng)的方向和原則， 其功能是定義一個自治代理的核心價值觀和倫理原則，包含3部分。

　　(1)基本倫理準則:這是直觀的道德準則，為系統(tǒng)提供基本遵循。

　　(2)次要原則:諸如人權義務等提供具體指導。

　　(3)使命宣言:定義代理的核心目標和意圖。

　　全局戰(zhàn)略層

　　在接收到來自道德層的抽象使命后，全局戰(zhàn)略層會結合具體情境，制定實現(xiàn)這些使命的長期計劃，包含2部分。

　　(1)情境融合:吸收環(huán)境信息，理解代理面臨的具體情境。

　　(2)戰(zhàn)略文件:產出指導性文件，為下層提供行動指南。

　　代理模型層

　　致力于理解一個代理在給定環(huán)境下的能力參數(shù)、系統(tǒng)結構、限制條件等，構建一個“自我模型”為決策提供依據(jù)，包含4部分。

　　(1)運行參數(shù):通過監(jiān)測獲得的遙測數(shù)據(jù)。

　　(2)配置信息:軟硬件架構、版本等。

　　(3)能力范圍:可以完成和不能完成的事項。

　　(4)局限性:只能在特定條件下工作的約束。

　　執(zhí)行功能層

　　執(zhí)行功能層扮演“項目經理”的角色，將來自高層的戰(zhàn)略使命轉化為明確的計劃路線圖。路線圖提供所有具體的執(zhí)行步驟，同時考慮資源分配和風險管理，使戰(zhàn)略落地，包含4部分。

　　(1)定義任務步驟:將戰(zhàn)略任務分解為細粒度操作。

　　(2)設置檢查點:定義重要的中間結果以驗收進展。

　　(3)分配資源:優(yōu)化資源使用以保證計劃順利執(zhí)行。

　　(4)評估風險:預測可能的問題并提前規(guī)劃應對措施。

　　認知控制層

　　認知控制層扮演“任務管理”的角色，會根據(jù)當前環(huán)境和反饋動態(tài)選擇和調度合適的任務，包含4部分。

　　(1)任務選擇:根據(jù)優(yōu)先級、環(huán)境等選擇下一個任務。

　　(2)任務切換:在任務間流暢切換以優(yōu)化訂單。

　　(3)挫折感知:如果任務重復失敗會產生主動變更。

　　(4)內部調節(jié):思考不同選擇的利弊。

　　任務執(zhí)行層

　　最后的任務執(zhí)行層直接與環(huán)境交互，執(zhí)行由認知控制層下達的特定任務。根據(jù)任務類型，可以調用API接口、控制機械裝置、進行對話等，包含3部分。

　　(1)數(shù)字通信:使用編程語言和接口調用實現(xiàn)數(shù)字任務

　　(2)物理協(xié)同:控制機器人和傳感器完成物理任務

　　(3)結果監(jiān)測:比較結果與預期，發(fā)送成功或失敗反饋

　　這種分工明確的多層設計有諸多好處:第一，不同層級可以同時并行工作，提升了效率;第二，分層的封裝和信息隱藏增強了系統(tǒng)的安全性和可解釋性;

　　第三，分層使系統(tǒng)可以模塊化迭代升級，而不需要全重構;第四，高層可以監(jiān)控低層的運行， 當Einmal出現(xiàn)偏差可以進行修正，保證系統(tǒng)的可控性。

　　此外，ACE框架的另一個創(chuàng)新在于巧妙利用了當前熱門的大語言模型，例如，ChatGPT、Bard等。

　　這些模型通過學習海量文本數(shù)據(jù)，已經展現(xiàn)了接近人類的語言理解和語言生成能力。ACE框架將語言層面融入每個層級，使語言模型不再單獨運行，而是成為支撐整個認知架構的關鍵組件。

　　從道德層到任務層，語言模型幫助理解抽象概念，進行策略推理，建立自我模型，甚至最終控制機器人執(zhí)任務的方式都是語言化的。

　　這種融合為語言模型提供了明確的上下文和指導，讓其生成的輸出更加準確，避免了“自說自話”的問題。

　　這也表明，大語言模型也可以在系統(tǒng)級扮演重要角色，而不僅僅是完成單個語言任務。ACE框架展示了如何更好地利用大語言模型的潛力，將其打造為推動認知發(fā)展的核心引擎，為人工常識推理提供動力。