Bumblebee 项目教程

Bumblebee 项目教程

bumblebee Pre-trained Neural Network models in Axon (+ 🤗 Models integration) 项目地址: https://gitcode.com/gh_mirrors/bum/bumblebee

1、项目介绍

Bumblebee 是一个基于 Axon 的预训练神经网络模型库，提供了与 🤗 Models 的集成。通过 Bumblebee，用户可以轻松地下载和执行机器学习任务，只需几行代码即可完成。Bumblebee 的主要目标是简化神经网络模型的使用，使得开发者能够快速上手并应用这些模型。

2、项目快速启动

安装

首先，在 mix.exs 文件中添加 Bumblebee 和 EXLA 作为依赖项。EXLA 是一个可选依赖项，但它允许你在 CPU/GPU 上即时编译和运行模型。

def deps do
  [
    {:bumblebee, "~> 0.6.0"},
    {:exla, ">= 0.0.0"}
  ]
end

然后，在 config/config.exs 文件中配置 Nx 使用 EXLA 后端作为默认后端：

import Config

config :nx, default_backend: EXLA.Backend

使用示例

以下是一个简单的示例，展示了如何使用 Bumblebee 加载一个预训练的 BERT 模型并执行填充掩码任务：

[:ok, model_info] = Bumblebee.load_model([:hf, "google-bert/bert-base-uncased"])
[:ok, tokenizer] = Bumblebee.load_tokenizer([:hf, "google-bert/bert-base-uncased"])

serving = Bumblebee.Text.fill_mask(model_info, tokenizer)

Nx.Serving.run(serving, "The capital of [MASK] is Paris.")
#=> %[
#=>   predictions: [
#=>     %[score: 0.9279842972755432, token: "france"],
#=>     %[score: 0.008412551134824753, token: "brittany"],
#=>     %[score: 0.007433671969920397, token: "algeria"],
#=>     %[score: 0.004957548808306456, token: "department"],
#=>     %[score: 0.004369721747934818, token: "reunion"]
#=>   ]
#=> ]

3、应用案例和最佳实践

在 Phoenix 应用中使用 Bumblebee

Bumblebee 提供了在 Phoenix 应用中使用神经网络模型的示例。你可以在 examples/phoenix 文件夹中找到相关代码。通过这些示例，你可以了解如何在实际的 Web 应用中集成和使用 Bumblebee 模型。

使用 Livebook 进行快速实验

Livebook 是一个交互式的 Elixir 笔记本环境，非常适合快速实验和原型开发。Bumblebee 的官方文档中提供了使用 Livebook 的示例，你可以通过 Livebook 的智能单元格功能快速上手 Bumblebee。

4、典型生态项目

Axon

Axon 是一个用于构建和训练神经网络的 Elixir 库，Bumblebee 基于 Axon 构建，提供了预训练模型的加载和使用功能。

EXLA

EXLA 是一个 Elixir 的 XLA 后端，允许在 CPU 和 GPU 上高效地运行神经网络模型。Bumblebee 推荐使用 EXLA 作为默认后端，以获得最佳性能。

🤗 Models

🤗 Models 是 Hugging Face 提供的模型库，Bumblebee 集成了 🤗 Models，使得用户可以轻松地下载和使用这些预训练模型。

通过这些生态项目的结合，Bumblebee 提供了一个完整的解决方案，帮助开发者快速构建和部署基于神经网络的应用。

bumblebee Pre-trained Neural Network models in Axon (+ 🤗 Models integration) 项目地址: https://gitcode.com/gh_mirrors/bum/bumblebee