试用了一下效果还是不错的,前提是要先搭一个本地大模型,官方使用的是阿里通义千。
官方在线试用地址 https://qanything.ai/
https://www.modelscope.cn/models/netease-youdao/QAnything/summary
什么是QAnything?
QAnything (Question and Answer based on Anything) 是致力于支持任意格式文件或数据库的本地知识库问答系统,可断网安装使用。
您的任何格式的本地文件都可以往里扔,即可获得准确、快速、靠谱的问答体验。
目前已支持格式: PDF,Word(doc/docx),PPT,Markdown,Eml,TXT,图片(jpg,png等),网页链接,更多格式,敬请期待…
特点
数据安全,支持全程拔网线安装使用。
支持跨语种问答,中英文问答随意切换,无所谓文件是什么语种。
支持海量数据问答,两阶段向量排序,解决了大规模数据检索退化的问题,数据越多,效果越好。
高性能生产级系统,可直接部署企业应用。
易用性,无需繁琐的配置,一键安装部署,拿来就用。
支持选择多知识库问答。
架构
qanything_system
为什么是两阶段检索?
知识库数据量大的场景下两阶段优势非常明显,如果只用一阶段embedding检索,随着数据量增大会出现检索退化的问题,如下图中绿线所示,二阶段rerank重排后能实现准确率稳定增长,即数据越多,效果越好。
two stage retrievaal
QAnything使用的检索组件BCEmbedding有非常强悍的双语和跨语种能力,能消除语义检索里面的中英语言之间的差异,从而实现:
强大的双语和跨语种语义表征能力【基于MTEB的语义表征评测指标】。
基于LlamaIndex的RAG评测,表现SOTA【基于LlamaIndex的RAG评测指标】。
一阶段检索(embedding)
模型名称