Amazon SageMaker Canvas：微调基础模型

您可以通过 Amazon SageMaker Canvas 访问的基础模型可以帮助您完成一系列通用任务。但是，如果您有特定的用例并希望根据自己的数据自定义响应，则可以微调基础模型。

要微调基础模型，您需要提供一个由示例提示和模型响应组成的数据集。然后，根据数据训练基础模型。最后，经过微调的基础模型能够为您提供更具体的响应。

以下列表包含您可以在 Canvas 中进行微调的基础模型：

• 泰坦快车

• Falcon-7B

• Falcon-7B-Instruct

• Falcon-40B-Instruct

• Falcon-40B

• Flan-T5-Large

• Flan-T5-Xl

• Flan-T5-Xxl

• MPT-7B

• MPT-7B-Instruct

在微调模型的同时，您可以在 Canvas 应用程序中访问有关每个基础模型的更多详细信息。有关更多信息，请参阅 微调模型。

本主题介绍如何在 Canvas 中微调基础模型。

开始前的准备工作

在微调基础模型之前，请确保您拥有 Canvas 中 R eady-to-use 模型的权限，并且拥有与 Amazon Bedrock 有信任关系的 AWS Identity and Access Management 执行角色，这允许 Amazon Bedrock 在微调基础模型的同时担任您的角色。

在设置或编辑您的亚马逊 SageMaker 域名时，您必须 1) 打开 Canvas R eady-to-use 模型配置权限，以及 2) 创建或指定 Amazon Bedrock 角色，该角色是一个与亚马逊 Bedrock 建立信任关系的IAM执行角色。 SageMaker 有关配置这些设置的更多信息，请参阅 设置 Amazon C SageMaker anvas 的先决条件。

如果您希望使用自己的IAM执行角色（而不是让代表您 SageMaker 创建执行角色），则可以手动配置 Amazon Bedrock 角色。有关配置自己的IAM执行角色与 Amazon Bedrock 的信任关系的更多信息，请参阅授予用户在 Canvas 中使用 Amazon 基岩和生成人工智能功能的权限。

您还必须有一个格式化的数据集，以便对大型语言模型进行微调（LLMs）。以下是您的数据集的要求列表：

• 数据集必须是表格格式的，并且至少包含两列文本数据：一个输入列（包含模型的示例提示）和一个输出列（包含模型的示例响应）。

  一个例子如下：

  输入	输出
  你们的配送条款是什么？	对于所有超过 50 美元的订单，我们提供免费送货服务。低于 50 美元的订单的运费为 5.9