开源、可本地部署的AI知识问答库来了！有道出品：QAnything

如今AI火热，想不想本地部署一个自己的AI驱动的知识库？！

今天，给大家介绍一个国内、开源、可本地部署的知识问答AI：QAnything

QAnything是什么？

QAnything是近日网易有道开发的，一个基于人工智能的本地知识库问答系统。可支持本地部署，也可支持调用云端大模型服务。

QAnything可以让你简单地把任何本地存储的文件拖放到QAnything，就可以得到准确、快速、可靠的答案。

测试了一下，效果还不错

QAnything支持的格式？

QAnything目前支持的文件格式包括：PDF，Word（doc/docx），PPT，Markdown，Eml，TXT，图片（jpg，png等）。

未来还会支持网页链接等方式，让你你无需转换或导入你的文件，QAnything会自动识别和处理你的文件，让你可以直接提问和获取答案。

QAnything使用的技术

QAnything的问答引擎采用了最先进的人工智能技术，它可以理解你的自然语言问题，从你的文件中检索和排名相关的信息，生成简洁和完整的答案。

QAnything还支持中英文双语问答，让你无论你的文件是中文还是英文，都可以用你喜欢的语言提问和获取答案。

QAnything的技术实现主要基于两个组件：BCEmbedding和LLM。

BCEmbedding是一个双语和跨语的语义表示模型，它可以将任意格式的文件转换为向量，然后通过近似最近邻搜索（ANN）快速检索出与问题相关的文档。

LLM是一个基于检索增强的生成（Retrieval Augmented Generation，简称 RAG）的生成式问答模型，它可以根据检索到的文档生成准确和流畅的答案。

QAnything如何使用？

QAnything 是一套完整的 RAG 系统，所有的算法模型（包括 7B 大模型 + embedding / rerank+OCR）占用显存不超过 16GB。

官方开放了一个体验平台，可以去官方体验。如果你想本地部署，需要看一下硬件是否满足条件。

硬件要求：

CPU：至少4核

内存：至少16GB

硬盘：至少100GB

GPU：至少一张NVIDIA显卡，支持CUDA 10.2或以上（3090以上）

QAnything优势和展望

QAnything的优势不仅仅是支持多种文件格式和双语问答，它还有以下几个特点：

- 数据安全，QAnything的模型数据都是本地的，可以脱网使用，保证你对数据的控制和隐私保护。

- 跨领域知识，QAnything不仅可以处理你的本地文件，还可以连接到云端的大模型服务，让你可以查询更广泛的领域知识，比如百科，新闻，科技等。

- 用户友好，QAnything无需繁琐的配置，一键安装和部署，即装即用。QAnything还提供了简洁和美观的界面，让你可以轻松地管理和浏览你的文件，提问和获取答案。

我十分看好本地部署的知识库系统，这对个人和企业都有广阔的用途。

代码地址：

https://githu‍b.com/netease-youdao/Qanything