ChatGPT 等生成式人工智能服務(wù)的流行激發(fā)了人們將這些新工具應(yīng)用于實(shí)際企業(yè)應(yīng)用程序的興趣。如今，幾乎每個(gè)企業(yè)應(yīng)用程序都通過生成式人工智能功能得到增強(qiáng)。

　　大多數(shù)人工智能、數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)開發(fā)、部署和運(yùn)營工具都支持生成式人工智能用例。這些工具的各種風(fēng)格有助于管理人工智能開發(fā)生命周期、管理人工智能開發(fā)的數(shù)據(jù)并降低安全和隱私風(fēng)險(xiǎn)。盡管這些功能也可用于改進(jìn)生成式 AI 開發(fā)，但本文重點(diǎn)介紹生成式 AI 專用工具。

　　還有許多新興類型的生成式 AI 不使用如此大型的語言模型 (LLM) 來執(zhí)行生成等任務(wù)圖像、視頻、音頻、合成數(shù)據(jù)以及跨語言翻譯。這包括使用生成對(duì)抗網(wǎng)絡(luò)、擴(kuò)散、變分自動(dòng)編碼器和多模態(tài)技術(shù)構(gòu)建的模型。

　　考慮到這一點(diǎn)，以下是有關(guān)生成式 AI 開發(fā)工具的頂級(jí)類別及其與一些領(lǐng)先供應(yīng)商或開源實(shí)現(xiàn)的功能的更多詳細(xì)信息。還值得注意的是，許多領(lǐng)先的供應(yīng)商開始通過收購或開發(fā)來擴(kuò)展其核心產(chǎn)品以支持多個(gè)類別。雖然許多現(xiàn)有工具支持特定類別，但企業(yè)在規(guī)劃其生成式 AI 策略時(shí)可能希望探索直接或通過集成市場支持這些功能的頂級(jí)平臺(tái)功能.

　　1. 基金會(huì)模型和服務(wù)

　　新的生成式 AI 工具在很大程度上側(cè)重于簡化開發(fā)和負(fù)責(zé)任地使用使用 Google 首創(chuàng)的 Transformer 方法構(gòu)建的 LLM2017年的研究人員。基于LLM構(gòu)建的新基礎(chǔ)模型通常可以直接開箱即用，以增強(qiáng)現(xiàn)有應(yīng)用程序。在其他情況下，供應(yīng)商正在為各個(gè)行業(yè)和用例開發(fā)特定于領(lǐng)域的模型。

　　頂級(jí)基礎(chǔ)模型和服務(wù)的例子包括Anthropic的Claude、百度研究院的文心一言、Cohere的Generate、Facebook的Llama系列、Google的Palm、微軟的Palm Orca、OpenAI 的 GPT 系列和技術(shù)創(chuàng)新學(xué)院的 Falcon LLM。頂級(jí)特定領(lǐng)域LLM包括 C3AI;DeepMind 的 AlphaCode;谷歌的 Med-Palm; Nvidia的NeMo、BioNeMo和Picasso;和 OpenAI 的 Codex。

　　2.云生成AI平臺(tái)

　　各大云平臺(tái)也推出了一套生成式 AI 功能，幫助企業(yè)開發(fā)、部署和管理生成式 AI 模型和功能。云提供商生成式 AI 平臺(tái)包括 AWS Generative AI、Google Generative AI、IBM Watsonx 和 Microsoft Azure AI Fundamentals。用于在云中開發(fā)生成式 AI 的熱門第三方生成式 AI 開發(fā)平臺(tái)包括 Hugging Face 和 Nvidia 的產(chǎn)品。

　　3.用例優(yōu)化工具

　　通用基礎(chǔ)模型可以生成聽起來權(quán)威且清晰的文本。他們還傾向于產(chǎn)生幻覺并產(chǎn)生不準(zhǔn)確的信息。生成式人工智能專用開發(fā)工具還可以幫助企業(yè)推出自己的法學(xué)碩士，根據(jù)其獨(dú)特的需求和專業(yè)知識(shí)進(jìn)行調(diào)整。檢索增強(qiáng)生成 (RAG) 可以啟動(dòng)基礎(chǔ)模型以提高準(zhǔn)確性。微調(diào)工具幫助企業(yè)校準(zhǔn)基礎(chǔ)模型。 RAG 和微調(diào)工具有時(shí)會(huì)一起使用，以平衡每種方法的收益。

　　頂級(jí) RAG 工具包括 ChatGPT 檢索插件、Hugging Face Transformers 插件以及 Farm、Haystack 和 Realm 等開源工具。微調(diào)功能已融入到服務(wù)中，以訪問大多數(shù)商業(yè)基礎(chǔ)模型。其他第三方微調(diào)工具包括 Entry Point 和 SynthFlow(以前稱為 Fine-Tuner)，以及來自 Hugging Face 的可與開源模型配合使用的產(chǎn)品。

　　4. 質(zhì)量保證和減輕幻覺工具

　　新的幻覺檢測工具可以幫助識(shí)別和減少各種用例的幻覺發(fā)生率。頂級(jí)的幻覺緩解工具包括伽利略實(shí)驗(yàn)室的LLM Studio、Helix3實(shí)驗(yàn)室Glen、TruEra 的 TruLens 和 Vectara 的 Vectara 平臺(tái)。

　　啄木鳥算法等新的研究技術(shù)可以幫助有興趣開發(fā)自己的幻覺緩解工作流程的企業(yè)。許多供應(yīng)商已經(jīng)發(fā)布了這些的開源變體，包括 Galileo Labs 的開源版本。 ChainPoll、TruEra 的 TruLens 和 Vectara 的 Hughes 幻覺評(píng)估模型。

　　5. 快捷的工程工具

　　及時(shí)的工程工具有助于管理與LLM的互動(dòng)以及法學(xué)碩士的測試。這些工具的面向用戶的變體使得開發(fā)和管理有用提示庫變得更加容易。以工程為導(dǎo)向的變化有助于自動(dòng)化測試流程，以識(shí)別偏差、毒性或幻覺。

　　頂級(jí)提示工程工具包括 BetterPrompt、OpenPrompt、PromptAppGPT、Prompt Engine 和 Promptimize。

　　6. 數(shù)據(jù)聚合工具

　　早期基礎(chǔ)模型支持有限的上下文窗口，這些窗口描述了 LLM 在一次查詢中可以處理的數(shù)據(jù)量。盡管這些模型在處理更大的上下文窗口方面做得越來越好，但開發(fā)人員已經(jīng)制作了各種類型的工具來處理更大的數(shù)據(jù)集。

　　LangChain 和 Dust 等數(shù)據(jù)鏈工具可以自動(dòng)化將多個(gè)文檔輸入到法學(xué)碩士的過程。矢量數(shù)據(jù)庫以中間格式存儲(chǔ)數(shù)據(jù)，稱為嵌入空間，以便與法學(xué)碩士一起使用。值得考慮的頂級(jí)載體數(shù)據(jù)庫包括 Chroma、Faiss、Pinecone Systems 等。 Pinecone、Qdrant 和 Weaviate。

　　7. 代理和自主人工智能工具

　　開發(fā)人員還在探索如何在一個(gè)或多個(gè)基礎(chǔ)模型以及它們可能涉及的后端服務(wù)之間實(shí)現(xiàn)自動(dòng)化交互。從長遠(yuǎn)來看，這可能有助于推動(dòng)代理人工智能或自主人工智能的發(fā)展。自主和代理人工智能工具包括 AgentGPT、AutoGPT、BabyAGI 和 OthersideAI 的自運(yùn)行計(jì)算機(jī)框架等開源工具。平臺(tái)供應(yīng)商還推出了新服務(wù)，以集成跨多個(gè) LLM 模型和服務(wù)的工作流程。

　　8. 生成式人工智能成本優(yōu)化工具

　　AI成本優(yōu)化工具有助于在性能、準(zhǔn)確性和成本之間取得最佳平衡。這些工具仍處于開發(fā)早期，但早期的一個(gè)例子是 Martian 的模型路由器。從長遠(yuǎn)來看，現(xiàn)有的云成本優(yōu)化領(lǐng)導(dǎo)者可能會(huì)開發(fā)相關(guān)產(chǎn)品。