项目地址
功能介绍
一个完全免费、私密且在本地运行的搜索聚合器和答案生成器,使用LLM,无需 GPU。用户可以提出问题,系统将使用 searxng 进行多引擎搜索,并将搜索结果与 ChatGPT3.5 LLM结合,基于搜索结果生成答案。所有过程在本地运行,无需 GPU、OpenAI 或 Google API 密钥。
亮点
- 🈚️ 完全免费(无需任何 API 密钥)
- 💻 完全本地化(无需 GPU,任何计算机都可以运行)
- 🔐 完全私密(所有事情在本地运行,使用自定义llm)
- 👻 在没有LLM硬件的情况下运行(无需 GPU!)
- 🤩 使用免费的 ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) API(无需 API 密钥!感谢 OpenAI)
- 🐵 自定义LLM(ollama,llama.cpp)支持,是的,我们喜欢 ollama!
- 🚀 使用 Docker Compose 快速部署和简便易行
- 🌐 网页和移动友好界面,专为 Web 搜索增强 AI 聊天而设计,可轻松从任何设备访问。
- 更多内容可以访问我的博客 https://ai.tmqcjr.com