OpenAI 的聯合創始人 John Schulman 近在 Dwarkesh Patel 的播客節目中分享了他對 GPT-4性能的見解，并提到了由于有限的練數據而可能面臨的挑戰。Schulman 在2022年11月 ChatGPT 的推出中扮演了重要角色。

　　被問及人工智能社區是否接近 “數據壁壘”，即記憶大量預訓練數據的好處可能不會導致比 PT-4更智能的模型時，Schulman 承認在這方面確實存在一些挑戰，但 OpenAI 和公司將不得不改變他們的訓練方法以克服這些挑戰。

　　他說:“由于有限的數據量，確實一些挑戰，但我不指望我們會立即碰到數據壁壘。然而，隨著我們接近數據壁壘，我計預訓練的性質會有所改變。”

　　Schulman 還討論了在不同類型的預訓練數據上的泛化挑戰如代碼和語言推理，以及特定訓練數據解鎖的能力可能存在的限制。

　　他還表示，與 GPT - 等之前的模型相比，像 GPT-4這樣的更大型號的模型更具 “樣本效率”- 這意著這些更大的模型可以使用更少的數據進行訓練達到相同水平的智能。

　　雖然他沒有這里的擴展規律給出一個合理的解釋，但他指出，增加的處理能力最終是這個結果的原。

　　Sam Altman 也表達了對人工通用智能(AGI)發展的強烈承諾，無論財務成本何。他對 AI 驅動的 iPhone 的愿景與公司對 AI 發展的雄心勃勃目標一致。

　　OpenAI 的創始人 John Schulman 對 GPT-4性能進行了評估，并指出其面臨的挑戰。同時，OpenAI 的 CEO Sam Altman 對公司的人工智能模型未的發展也表達了雄心勃勃的愿景，致力于實現人工通用智能(AGI)的目標。