1. 在茴香豆 Web 版中创建自己领域的知识问答助手
参考视频零编程玩转大模型,学习茴香豆部署群聊助手
完成不少于 400 字的笔记 + 线上茴香豆助手对话截图(不少于5轮)
(可选)参考 代码 在自己的服务器部署茴香豆 Web 版
2.在 InternLM Studio 上部署茴香豆技术助手
根据教程文档搭建 茴香豆技术助手,针对问题"茴香豆怎么部署到微信群?"进行提问
完成不少于 400 字的笔记 + 截图
RAG
RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。
RGB主要工作原理就是用一个语料向量库来更新LLM
优化主要是提高向量数据库质量
前检索、后检索、自适应检索主要是在向量数据库系统方面的优化
LLM微调就是传统finetune了
可见LLM想要有一个好的性能,要进行RAG和Finetue
用的评估方法也是传统LLM评估方法
茴香豆的最大特点就是可以部署在软件里,而且不会乱回答。
作业:
1. 在茴香豆 Web 版中创建自己领域的知识问答助手(环境配置就不截图了,复制运行就行)
修改配置文件
运行茴香豆
提出的问题:huixiangdou是什么?
进行了回答,而且对问题库中不懂的拒绝回答
进阶好像网站不能注册了,问了一下小助手让我跳过。