[掌握Fireworks API：快速入门LangChain集成模型]_fireworks api 是什么-优快云博客

本文链接：https://blog.youkuaiyun.com/saghthefs/article/details/144636023

# 掌握Fireworks API：快速入门LangChain集成模型

## 引言
在生成式AI的世界中，Fireworks为开发者提供了一个强大的实验和生产平台。通过与LangChain的集成，我们能够快速实现模型的交互和应用。本篇文章旨在指导您如何使用LangChain与Fireworks模型交互，以便加速您的产品开发。

## 主要内容

### 环境设置
在使用Fireworks模型之前，请确保您的环境中安装了`langchain-fireworks`包。另外，需要到Fireworks AI获取API Key，并将其设置为`FIREWORKS_API_KEY`环境变量。

```shell
%pip install -qU langchain-fireworks

配置如下：

import getpass
import os
from langchain_fireworks import Fireworks

if "FIREWORKS_API_KEY" not in os.environ:
    os.environ["FIREWORKS_API_KEY"] = getpass.getpass("Fireworks API Key:")

Fireworks模型初始化

使用模型ID来初始化Fireworks模型。如果未设置，将默认使用fireworks-llama-v2-7b-chat。例如：

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    base_url="https://api.fireworks.ai/inference/v1/completions",  # 使用API代理服务提高访问稳定性
)

调用模型并生成文本

Fireworks模型允许直接通过字符串输入进行文本补全或生成。

# 单次调用示例
output = llm.invoke("Who's the best quarterback in the NFL?")
print(output)

# 多次调用示例
output = llm.generate(
    [
        "Who's the best cricket player in 2016?",
        "Who's the best basketball player in the league?",
    ]
)
print(output.generations)

您还可以设置更多参数来调整输出，例如temperature、max_tokens和top_p等。

使用LangChain创建简单链

可以使用LangChain表达式语言和非聊天模型创建简单的处理链。

from langchain_core.prompts import PromptTemplate

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    model_kwargs={"temperature": 0, "max_tokens": 100, "top_p": 1.0},
)
prompt = PromptTemplate.from_template("Tell me a joke about {topic}?")
chain = prompt | llm

print(chain.invoke({"topic": "bears"}))