如何在算家云搭建模型Baichuan 2（智能对话）

一、模型介绍

• Baichuan 2 是百川智能推出的新一代开源大语言模型 ，采用 2.6 万亿 Tokens 的高质量语料训练。
• Baichuan 2 在多个权威的中文、英文和多语言的通用领域 benchmark 上取得同尺寸最佳的效果。
• 包含 7B 、13B 的 Base 和 Chat 版本，并提供了 Chat 版本的 4bits 量化 。

更多详细信息见 Github仓库

二、模型搭建流程

1. 选择主机和镜像

Baichuan2 项目自带了 Web 交互界面，并在项目运行中自动下载所需的模型参数，因此，克隆项目后，安装项目所需环境，然后直接运行即可,下面将以Baichuan2-13B-Chat模型进行部署，由于模型较大，建议使用RTX3090及以上显卡。

（1）在“租用实例”页面点击进入应用社区，选择相应的模型

<