為應對大模型幻覺帶來的潛在風險，中國信息通信研究院人工智能所基于AI Safety Benchmark測評工作，正式開展大模型幻覺測試。大模型幻覺指生成內容看似合理但與事實或用戶輸入不符的現象，尤其在醫療、金融等領域廣泛應用時，其風險不容忽視。

　　本次測試聚焦大語言模型，涵蓋事實性幻覺和忠實性幻覺兩種類型，采用7000余條中文樣本，涉及人文、社會、自然、應用及形式科學五大維度。測試形式包括信息抽取、知識推理和事實判別等題型，旨在全面評估模型表現。