陈开心的博客

这里从 LlamaIndex 框架中引入两个。

是一个适合多轮对话的问答引擎，会“自动补全问题 + 利用文档上下文 + 聊天历史”，适合构建 RAG（Retrieval-Augmented Generation）类型的聊天机器人。“重写后的问题”是由大模型（LLM）根据当前用户提问和之前的对话历史上下文，自动生成的一个完整、独立的问题句子。

场景用第一段本地快速实验✅学习和测试功能✅用 Python Notebook 快速验证想法✅场景用第二段部署到 API 服务✅多用户、多项目共用向量库✅自定义 RAG 检索、摘要处理✅支持对话上下文恢复、历史记录管理✅# 第一个用法documents = [Document(text="乔布斯是苹果创始人...")]# 第二个用法store = get_vector_store() # 比如 MongoDB Atlas, Qdrant, Weaviate。

步骤作用sqlite3初始化本地数据库自动将 SQL 查询结果封装成文档配置化管理多个数据库或多条查询封装为通用工具函数，可复用。

函数名功能返回值创建一个配置好的LlamaParse解析器，并检查 API keyLlamaParse对象创建一个「文件类型 → 解析器」的映射字典，供目录读取器使用。

写一个完整的 demo：如何用 MongoIndexStore 实现对话存档和恢复实现“多用户、多对话线程”场景（像一个 ChatGPT 对话列表那样）

StorageContext ，向量存储（VectorStore），文档存储（DocumentStore），索引结构存储（IndexStore）他们之间的联系和区别

在中，方法的主要作用是异步地生成模型的响应，通常是逐个 token 地流式输出。这种方式允许应用程序在模型生成响应的过程中实时地将内容传递给用户，提高了响应的实时性和用户体验。虽然具体的实现可能因版本而异，但一般来说，这里，是一个异步生成器，负责从底层模型中逐个获取生成的 token。用户输入通过的方法传入。引擎生成适当的提示，并调用底层模型的流式接口。模型返回一个异步响应流，逐个 token 地输出生成的内容。方法将这个响应流封装成一个异步生成器，供上层应用使用。

模块用途举个场景自定义事件监听器监听聊天过程中的检索、tool调用等定义事件类型判断当前发生了什么事件ToolOutput表示工具函数的返回结果显示 Agent 工具调用后的输出内容typing模块写类型注解用来标注 async generator、字典、列表等类型属性作用举个例子tool_name工具的名字raw_input工具收到的参数{"city": "北京"}raw_output工具返回的原始结果（可能是 dict、str 等）{"weather": "晴"}content。

模块用途举个场景异步流处理工具库多个 async generator 合并获取 HTTP 请求内容获取用户发来的 prompt把响应变成流式前端聊天字一个个显示LlamaIndex 的流式聊天响应对象边调用边 yield 响应内容。

LlamaIndex 源码中有个叫这些就像是官方承认的“事件类型字典”。LlamaIndex 在执行关键步骤的时候，会自己在代码里写明是哪种类型的事件。

问题答案LlamaIndex 是怎么知道事件类型的？等是谁调用的？LlamaIndex 框架的内部逻辑自动调用开发者可以监听这些事件吗？可以，通过注册自定义的回调处理器（如能看到过程细节吗？能，在回调的 payload 中可以看到 query、检索结果、生成内容等。