本文來自于微信公眾號 量子位(ID:QbitAI)，作者:Jiaxi。

　　北大團隊新作，讓大模型擁有個性!

　　而且還是自定義那種，16種MBTI都能選。

　　圖源備注：圖片由AI生成，圖片授權服務商Midjourney

　　這樣一來，即便是同一個大模型，不同性格下的回答都不一樣。

　　比如提問:你周末喜歡干什么?

　　ENFP的大模型會說:喜歡參加社交活動，結識新朋友。

　　INFJ的大模型則回答:喜歡獨自讀過。

　　這樣能干啥呢?北大的童鞋們列出來了一些情景:

　　在特殊節日，給你的男/女朋友尋找心儀的禮物。

　　了解你關注的那個Ta在不同情境下的反應。

　　深入理解大模型的定制化、個性化的方式及可能性。

　　在做出重大決策時，考慮不同情境下的個性特征。

　　通過深入了解人性的復雜性，促進個人成長和相互理解。

　　這項工作由FarReel AI Lab(前身是ChatLaw項目)和北大深研院合作研發，支持給開源模型賦予性格。

　　目前已開源32個模型和數據集。

　　具體如何實現?一起來看原理~已開放32個有個性模型

　　在此之前，想讓大模型具備一定個性，最常用的方法是利用提示工程。

　　比如Character.ai上不同性格的對話bot，就是用戶通過提示工程調教出來的。

　　不過這種方式帶來的效果不完全穩定。

　　所以北大團隊提出了一種方法，他們自主構建了十萬條大規模MBTI數據，然后通過多階段預訓練、微調、DPO訓練方法為它注入性格。

　　數據集方面，主要分為兩種，行為數據集和自我意識數據集。

　　行為數據集的目的是為了讓大模型可以表現出不同性格的回應，這部分是對Alpaca數據集進行個性化修改實現。

　　行為數據集中MBTI四個維度的比例如下:

　　自我意識數據集是為了讓大模型能夠意識到自己的個性特征。

　　通過一個兩階段的有監督訓練微調過程，最后可以得到對應人格的大模型。

　　以訓練一個INFP大模型為例，在第一階段的有監督微調中利用行為數據集中“I”、“N”、“F”、“P”四個數據集，在第二階段的有監督微調中，再使用一個額外的自我意識數據集。

　　研究團隊表示，這種方法成功使Baichuan、Qwen、LLaMA、Mistral等模型完成不同MBTI類型的性格對齊任務。

　　首先開放的是基于Baichuan-7b-chat的16個中文模型以及基于LLaMA2-7b的16個英文模型。后續還將做更多補充。

　　最后得到的訓練結果如下。 ENFP問答結果

　　數據集方面，團隊開源了MBTI訓練數據集。

　　數據集涵蓋了豐富多樣的場景，旨在幫助研究者和開發者訓練出能夠理解和模擬不同 MBTI 性格的基座模型。這些模型不僅能夠提供更加人性化的互動體驗，還能夠在多種情境下提供精準的心理學洞察。

　　對于這項工作的思考，研究團隊認為人類的思維就像從出生就擁有的一個預訓練模型，每個人的參數、訓練數據可能不盡相同，這也導致我們的一些抽象思維和能力不同，長大后有人擅長數理邏輯、有人擅長情感演繹。

　　而之后從小到大的學習、環境、經歷的事情都相當于是在對我們的預訓練大腦進行微調和人類反饋對齊，這樣來看，所謂的MBTI性格基本都是后天環境因素影響下形成的，這也導致每個人都獨具特色。

　　也就是說可以嘗試用微調和人類反饋對齊(DPO)，去對各種預訓練的基座LLM進行分階段的訓練，從而讓模型擁有不同的MBTI屬性。

　　團隊的目標不僅是使這些模型擁有不同的MBTI屬性，還要模擬人類形成不同MBTI性格的過程。

　　他們相信，這一獨特的方法將為我們在人格心理學領域理解和利用大語言模型開辟新的途徑。請繼續關注更多的發展，因為我們繼續探索語言模型和人類個性的令人著迷的交匯點。