weixin_45638136的博客

获取到原始数据后，还需要 LLM 将这些冰冷的数据转换成用户友好的自然语言。后端应用打包第二次请求后端应用将上一步中获取到的工具执行结果，连同之前的全部对话历史（包括用户的原始问题和 LLM 的第一次tool_calls响应），再次打包发送给 LLM API。这次请求相当于告诉 LLM：“你之前让我查的数据，我已经查到了，结果是{"temperature": "25°C", "condition": "晴"}，现在请根据这个信息回答用户最初的问题。LLM 生成最终答复。

RAG，全称检索增强生成（Retrieval-Augmented Generation），是一种将信息检索（Retrieval）系统与生成式（Generation）模型相结合的技术框架。其核心思路是：在大型语言模型（LLM）生成回答之前，先从一个指定的外部知识库（如内部文档、实时新闻数据库）中检索出与用户问题相关的上下文信息，然后将这些信息与原始问题一同提供给LLM，引导其生成更可靠、更具事实性的回答。

LoRA 通过假设模型权重在微调时的变化是低秩的，从而用两个极小的矩阵来模拟这种变化，实现了在几乎不增加推理延迟的情况下，用极少的参数（<0.1%）达到接近全量微调的性能。

提示词，用于RAG数据切分

提示词，用于生成一份用于学习和记笔记的、结构化的探索性大纲。