07 使用LLMs：LlamaIndex中的LLM选择与应用

使用LLMs：LlamaIndex中的LLM选择与应用

在构建基于LLM的应用时，第一步是选择使用哪个LLM；如果你愿意，也可以使用多个LLM。

LLMs在你的工作流程的多个不同阶段被使用：

• 索引阶段：你可能会使用LLM来确定数据的相关性（是否索引它），或者你可能会使用LLM来总结原始数据并索引这些总结。
• 查询阶段：LLMs可以以两种方式使用：
  • 检索阶段（从你的索引中获取数据）：LLMs可以给出一个选项数组（如多个不同的索引），并决定在哪里最好地找到你正在寻找的信息。一个代理LLM也可以在这个阶段使用工具来查询不同的数据源。
  • 响应合成阶段（将检索到的数据转换为答案）：LLM可以将多个子查询的答案组合成一个连贯的答案，或者它可以转换数据，例如从非结构化文本到JSON或其他编程输出格式。

LlamaIndex提供了一个单一接口，连接到大量不同的LLMs，允许你将选择的任何LLM传递到流程的任何阶段。它可以简单到这样：

from llama_index.llms.openai import OpenAI

response = OpenAI()