盡管Meta的新型Llama3迅速成為使用最廣泛和定制程度最高的巨型語言模型(LLMs)排行榜榜首，但率先開啟生成式人工智能時代的競爭對手OpenAI卻通過為其GPT-4Turbo LLM和其他模型之上構建和編程引入新的企業級功能來擺脫競爭。

　　OpenAI今天宣布了其面向API客戶的企業級功能的擴展，進一步豐富了其助手API，并引入了一些旨在增強安全性和管理控制權以及更有效地控制成本的新工具。

　　Private Link 和增強的安全功能

　　重大安全升級之一是引入 Private Link，這是一種安全方法，可以使 Microsoft 的 Azure 云服務與 OpenAI 之間進行直接通信，OpenAI 表示這有助于“減少通過 API 發送的客戶數據和查詢暴露給開放互聯網”。

　　此舉補充了現有的安全堆棧，該堆棧包括 SOC2Type II 認證、單點登錄 (SSO)、靜止狀態下的 AES-256數據加密、傳輸中的 TLS1.2加密和基于角色的訪問控制。

　　此外，OpenAI 還引入了原生多因素身份驗證 (MFA) 來加強訪問控制，以符合不斷增長的合規性需求。

　　對于需要 HIPAA 合規的醫療保健公司，OpenAI 繼續提供商業伙伴協議以及針對符合條件的 API 客戶的零數據保留政策。

　　升級后的助手API 可處理500倍以上的文件

　　OpenAI 最不為人知但最重要的企業產品之一是其助手 API，它允許企業部署他們訓練過的自定義微調模型，并通過檢索增強型生成 (RAG) 調用特定文檔，以便在其自己的應用程序中提供對話式助理。

　　例如，電子商務公司 Klarna 今年早些時候吹噓其由 OpenAI 助手 API 制作的 AI 助手如何能夠完成700名全職人類代理的工作，重復查詢減少了25%，解決時間幾乎減少了82%(從11分鐘減少到2分鐘)。

　　OpenAI 現在已升級助手 API，包括增強的文件檢索功能，其中包含新的“file_search”功能，該功能可以每個助手處理多達10，000個文件。

　　這代表比以前的20個文件限制增加了500倍，并增加了并行查詢、改進的重新排序和查詢重寫等附加功能。

　　此外，API 現在支持實時對話響應的流式傳輸，這意味著諸如 GPT-4Turbo 或 GPT-3.5Turbo 之類的 AI 模型將盡所能生成令牌，而無需等待完整響應。

　　它進一步集成了用于更好文件管理的新“vector_store”對象，并提供了對令牌使用的更細粒度控制，以幫助有效控制成本。

　　Projects使企業能夠控制和劃分對特定任務和分配的訪問權限

　　名為“Projects”的新功能通過允許組織在項目級別管理角色和 API 密鑰，從而改善了管理監督。

　　此功能允許企業客戶設置權限范圍、控制可用模型并設置基于使用量的限制以避免意外成本 - 這些改進承諾將大大簡化項目管理。

　　基本上，他們可以將 AI 模型的微調版本甚至普通版本隔離到一組特定的任務或文檔，并允許特定的人員處理其中每一個。

　　因此，如果您公司的一個團隊使用一套面向公眾的文檔，另一個團隊使用一套機密或內部文檔，那么您可以在 OpenAI 的 API 中為每個團隊分配一個單獨的項目，并且這兩個團隊都可以使用 AI 模型來處理這些文檔，而不會混合或危及后者。