一个喜欢什么都研究一下的小小后端程序员

打造一个只需要在浏览器上运行的AI智能机器人，因为作者本人比较崇尚于简单好用，代码可读性强，故而比奇堡凯伦这个项目，已比较简单的形式展现给大家，初学者也可以简单运行。

直接安装cuda版torch时，发现问题已经解决

源码安装Langchain-Chatchat-V0.3

使用conda在线安装Langchain-Chatchat-V0.3

针对Langchain-Chatchat-V0.3版本，对配置文件与模型使用说明，本文建议使用Ollama配合Chatchat使用。使用模型时，Ollama会自动运行该模型，无需单独启动模型。最后，我们询问可以访问知识库的模型，可以得到如下结果。之后就可看到，知识库中已经拥有了这一段记忆。在支持Agent模型中添加你想要的新模型。配置好LLM模型，即可使用基础的对话。Ollama安装方式查看以往教程。

Milvus 是一款开源的向量数据库，它主要特点是高可用、高性能和易扩展，主要用于处理海量向量数据的实时召回。它基于诸如 FAISS、Annoy、HNSW 等向量搜索库构建，核心功能是解决稠密向量相似度检索的问题。Milvus 在向量检索库的基础上，提供了数据分区分片、数据持久化、增量数据摄取、标量向量混合查询、时间旅行等功能，并显著优化了向量检索的性能，能够满足各种向量检索场景的应用需求。

ChatTTS是专为对话场景设计的语音生成模型，配合生成式大大语言模型，现在人人都可以拥有一个自己的贾维斯。

大模型已经发布很久，网络上的大模型形形色色，现在已然是群英荟萃，那么，如何在本地运行一个大模型？本文采用ollama，简单运行本地大模型，不需要写代码。测试机器：i5 840016G内存1060 6G安装ollama安装，下载，运行模型。Chatbox作为桌面程序，用来更方便的调用大模型。经测试，gemma:2b模型可流畅运行。