Fireworks.AI + LangChain + RAG
Fireworks AI 致力于在使用 LangChain 时提供最佳体验,以下是 Fireworks + LangChain 执行 RAG 的示例。
查看我们的模型页面获取完整模型列表。我们在此教程中使用 accounts/fireworks/models/mixtral-8x7b-instruct
作为 RAG。
对于 RAG 目标,我们将使用 Gemma 技术报告 https://storage.googleapis.com/deepmind-media/gemma/gemma-report.pdf
# 安装所需的库
%pip install --quiet pypdf chromadb tiktoken openai
# 卸载 langchain-fireworks 库
%pip uninstall -y langchain-fireworks
# 安装 Fireworks 库
%pip install --editable /mnt/disks/data/langchain/libs/partners/fireworks
# 导入 fireworks 库
import fireworks
print(fireworks)
import fireworks.client
<module ‘fireworks’ from ‘/mnt/disks/data/langchain/.venv/lib/python3.9/site-packages/fireworks/init.py’>
# 加载所需的库
import requests
from langchain_community.document_loaders import PyPDFLoader
# 从 URL 下载 PDF 并保存到临时位置
url