zfgylbcc的专栏

使用Langchain-ChatGLM框架进行本地知识库问答的体验令人满意且有价值。通过该框架，GPT模型能更好地理解和回答与特定文章相关的问题，克服了原生模型在未知领域或主题上的限制。在实际测试中，我以天龙八部小说为例进行了尝试，效果尚可。框架的流程清晰，通过分割和向量化嵌入文本，模型能理解并提取文章的关键信息。结合查询和分片文本，经过预训练模型处理后，可以获得相对准确的回答。需要注意的是，模型的回答在某些情况下可能稍有偏差，但总体而言，在理解和回答方面表现令人满意。

在前几天基于 ChatGLM 的搭建部署和测试使用过程中，我对 ChatGLM 和 Langchain 的能力有了初步了解。尽管这些工具已经具备了一定的通用性，但由于本地知识库的效果不理想，我仍然觉得需要为自己定制属于自己的模型和应用。因此，我决定学会基于 Langchain 和模型进行编程，从现在开始着重学习 Langchain 的基础知识和编码，为后续打造自己的贾维斯做知识储备。目前，基于langchain的中文教程还是比较零散的，这里找到了英文官网教程，以及中文网。

润色以下内容：经过长达12小时的折腾，终于把公开的模型跑起来了，虽然步骤不多，但中间也确实遇到了一些问题，比如系统依赖库缺失，网络环境依赖，下载速度缓慢等。但终究体验了一把模型在自己手上的感觉。如果大家在部署时遇到了什么难题，可以加微信咨询我哦。使用感觉上，自建模型不如chatgpt，跟文心一言，wpsai是差不多。反应速度还可以。公开的模型跑起来了，那么接下来才是重头戏，自己微调训练数据，打造属于自己的gpt......

在这次尝试中，通过对模型的微调和推理过程的体验，我们发现了一些问题和改进的方向。虽然离贾维斯的智能管家还有一定距离，但这个探索让我们更深入地了解了人工智能的奥秘，并为未来的学习和探索积累了宝贵的经验。在实践中，我们使用了ChatGLM-6B模型，并经历了模型的训练和推理过程。训练模型消耗了相当多的时间，但也让我们体会到了模型训练的复杂性和挑战性。虽然在推理阶段，模型生成了一些内容，但体验效果并不完美，仍需要进一步改进和优化。

LangChain是一个用于构建基于大型语言模型（LLM）的应用程序的库。它为开发者提供了一种便捷的方式，可以将LLM与其他计算或知识源结合起来，从而创造出更加智能和强大的应用程序。LangChain的目标是帮助开发者充分发挥大型语言模型的优势，使其在各种领域，如自然语言处理、问答系统、文本生成等方面得到更广泛的应用。通过LangChain，开发者可以更高效地利用大型语言模型的能力，为用户提供更优质的智能化体验。