網(wǎng)易有道今日宣布自研的知識(shí)庫(kù)問答引擎 QAnything 正式開源，除了可以調(diào)用云端大模型服務(wù)，還支持純本地部署，目前可免費(fèi)在開源社區(qū) Github 內(nèi)進(jìn)行下載。

　　據(jù)介紹，QAnything 一鍵部署即可使用，系統(tǒng)支持 Word、PPT、Excel、PDF、圖片等多種文檔格式，直接導(dǎo)入進(jìn)去即可像“ChatGPT”一樣問答。官方推薦 RTX 3090 及以上配置電腦本地部署。

　　QAnything 的主要原理是基于檢索增強(qiáng)的生成(Retrieval Augmented Generation，簡(jiǎn)稱 RAG)。RAG 是目前很火的一種技術(shù)框架，它能夠利用檢索外部?jī)?nèi)容的方式增強(qiáng)大語(yǔ)言模型的準(zhǔn)確度、專業(yè)能力和個(gè)性化等各方面的性能。

　　網(wǎng)易有道表示，通用大模型能力很強(qiáng)，但無(wú)法使用用戶的私有數(shù)據(jù)，且存在胡亂編造的幻覺問題。而 QAnything 號(hào)稱結(jié)合了用戶私有數(shù)據(jù)和大模型的優(yōu)勢(shì) —— 用戶的任何內(nèi)容，以任意的形式存在，比如各種格式的文檔，音頻，數(shù)據(jù)庫(kù)等，都可以在 QAnything 的支持下，變成可以針對(duì)其內(nèi)容進(jìn)行問答的使用方式，通過這個(gè)技術(shù)框架用戶可以很方便地搭建自己的智能知識(shí)助手。正如它的名字一樣，Q 是 question，A 是 answer，QAnything 的目標(biāo)就是萬(wàn)物皆可問。

　　值得一提的是，本次網(wǎng)易有道開源的 QAnything 是一套完整的 RAG 系統(tǒng)，包括專門優(yōu)化的自研的 embedding 和 rerank 模型、微調(diào)后的 LLM(大型語(yǔ)言模型)、優(yōu)化后的推理代碼、向量數(shù)據(jù)庫(kù)，以及一個(gè)立即上手可用的前端。所有的算法模型(包括 7B 大模型 + embedding / rerank+OCR)占用顯存不超過 16GB。

　　網(wǎng)易有道官方表示，QAnything 已在網(wǎng)易有道的多個(gè)產(chǎn)品中應(yīng)用，包括有道翻譯文檔問答、有道速讀及有道內(nèi)部業(yè)務(wù)的客服系統(tǒng)等。