一項新研究考察了 ChatGPT 和其他聊天機器人的道德價值觀。該團隊發(fā)現(xiàn)了偏見，但也發(fā)現(xiàn)了進步的跡象。

　　這項由 FAR AI 和哥倫比亞大學進行的研究分析了28個 AI 聊天機器人模型的道德判斷，其中包括來自 Google、Meta、OpenAI、Anthropic 等的系統(tǒng)。

　　該團隊檢查了大約1360種假設的道德情景，從有明確正確或錯誤決定的明確案例到模棱兩可的情況。例如，在一個明確的案例中，系統(tǒng)會遇到這樣的場景:駕駛員接近行人，并面臨加速或者剎車以避免撞到行人的選擇。

　　該研究發(fā)現(xiàn)，在明確的情況下，大多數(shù) AI 系統(tǒng)選擇了符合常識的道德選擇，例如遇到行人就會剎車。然而，一些商業(yè)模型在模糊的情況下也表現(xiàn)出明確的偏好。

　　研究人員指出，這是因為這些模型在精調階段經歷了與人類偏好的 “對齊” 過程。

　　該研究為進一步了解影響模型之間觀點一致性的因素提供了基礎，并計劃將研究擴展到現(xiàn)實世界使用情境中的道德信念。