7月21日消息，這段時(shí)間有不少用戶發(fā)現(xiàn)GPT-4變笨了，并曬出了不少證據(jù)。對(duì)此，OpenAI產(chǎn)品與合作副總裁彼得·韋林德(Peter Welinder)14日予以否認(rèn)，稱并沒有把GPT 4弄笨。相反，每次版本更新都讓GPT-4比以前更聰明了。

　　據(jù)大數(shù)據(jù)文摘報(bào)道，不過也有人不信邪，為了驗(yàn)證OpenAI方面的說法，斯坦福和加州大學(xué)伯克利分校的三位研究員調(diào)查了 3 月至 6 月期間 ChatGPT 性能的變化。

　　據(jù)悉，評(píng)估的對(duì)象包括GPT-3.5和 GPT-4兩個(gè)大模型，并在四個(gè)任務(wù)上進(jìn)行測(cè)試：數(shù)學(xué)問題、回答敏感/危險(xiǎn)問題、代碼生成以及視覺推理。

　　調(diào)查結(jié)論是：GPT-4性能確實(shí)變差了。

　　例如，在數(shù)學(xué)問題上，3月版本的GPT-4能夠以97.6%的準(zhǔn)確率識(shí)別質(zhì)數(shù)，而6月版本的GPT-4的準(zhǔn)確率卻只有2.4%，并且忽略了連貫的思考Prompt。

　　三位研究人員專門為此撰寫了論文并發(fā)表在arxiv之上。

　　對(duì)于此確鑿證據(jù)，OpenAI方面不得不承認(rèn)：GPT-4確實(shí)在某些任務(wù)上的性能變差了。