书生大模型实战营

已于 2025-01-13 11:06:57 修改
阅读量899 收藏 27
点赞数 12
分类专栏： # 书生大模型实战营 文章标签： 人工智能
于 2024-12-01 16:46:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_46445090/article/details/144158055
版权

书生大模型实战营-XTuner 微调个人小助手认知

任务要点

  • XTuner 微调个人小助手认知

基础任务

  • 使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知，如下图所示：在这里插入图片描述

进阶任务

  • 将自我认知的模型上传到 HuggingFace/Modelscope/魔乐平台，并将应用部署到 HuggingFace/Modelscope/魔乐平台
  • 参与社区共建，获取浦语 api 创建自己的数据用于微调

实践流程

环境配置

  • 虚拟环境
    cd ~
#git clone 本repo
git clone https://github.com/InternLM/Tutorial.git -b camp4
mkdir -p /root/finetune && cd /root/finetune
conda create -n xtuner-env python=3.10 -y
conda activate xtuner-env
  • 安装 XTuner
    git clone https://github.com/InternLM/xtuner.git
cd /root/finetune/xtuner

pip install  -e '.[all]'   # 可以只安装pip install -e '.[deepspeed]'
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.39.0
  • 验证 XTuner 是否安装正确
    xtuner list-cfg  # 也可以使用xtuner version

在这里插入图片描述

数据准备

  • 创建一个新的文件夹用于存储微调数据
    mkdir -p /root/finetune/data && cd /root/finetune/data
cp -r /root/Tutorial/data/assistant_Tuner.jsonl  /root/finetune/data
  • 创建修改脚本
    # 创建 `change_script.py` 文件
touch /root/finetune/data/change_script.py
  • 粘贴下面的内容到change_script.py文件
    import json
import argparse
from tqdm import tqdm

def process_line(line, old_text, new_text):
    # 解析 JSON 行
    data = json.loads(line)
    
    # 递归函数来处理嵌套的字典和列表
    def replace_text(obj):
        if isinstance(obj, dict):
            return {k: replace_text(v) for k, v in obj.items()}
        elif isinstance(obj, list):
            return [replace_text(item) for item in obj]
        elif isinstance(obj, str):
            return obj.replace(old_text, new_text)
        else:
            return obj
    
    # 处理整个 JSON 对象
    processed_data = replace_text(data)
    
    # 将处理后的对象转回 JSON 字符串
    return json.dumps(processed_data, ensure_ascii=False)

def main(input_file, output_file, old_text, new_text):
    with open(input_file, 'r', encoding='utf-8') as infile, \
         open(output_file, 'w', encoding='utf-8') as outfile:
        
        # 计算总行数用于进度条
        total_lines = sum(1 for _ in infile)
        infile.seek(0)  # 重置文件指针到开头
        
        # 使用 tqdm 创建进度条
        for line in tqdm(infile, total=total_lines, desc="Processing"):
            processed_line = process_line(line.strip(), old_text, new_text)
            outfile.write(processed_line + '\n')

if __name__ == "__main__":
    parser = argparse.ArgumentParser(description="Replace text in a JSONL file.")
    parser.add_argument("input_file", help="Input JSONL file to process")
    parser.add_argument("output_file", help="Output file for processed JSONL")
    parser.add_argument("--old_text", default="尖米", help="Text to be replaced")
    parser.add_argument("--new_text", default="小太阳", help="Text to replace with")
    args = parser.parse_args()

    main(args.input_file, args.output_file, args.old_text, args.new_text)
  • 执行脚本
    cd ~/finetune/data
python change_script.py ./assistant_Tuner.jsonl ./assistant_Tuner_change.jsonl
  • 查看数据
    cat assistant_Tuner_change.jsonl | head -n 3

训练启动

  • 复制模型

    mkdir /root/finetune/models
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat /root/finetune/models/internlm2_5-7b-chat

  • 修改 Config

    cd /root/finetune
mkdir ./config
cd config
xtuner copy-cfg internlm2_5_chat_7b_qlora_alpaca_e3 ./

  • 修改internlm2_5_chat_7b_qlora_alpaca_e3_copy.py以下几行

    #######################################################################
#                          PART 1  Settings                           #
#######################################################################
- pretrained_model_name_or_path = 'internlm/internlm2_5-7b-chat'
+ pretrained_model_name_or_path = '/root/finetune/models/internlm2_5-7b-chat'

- alpaca_en_path = 'tatsu-lab/alpaca'
+ alpaca_en_path = '/root/finetune/data/assistant_Tuner_change.jsonl'


evaluation_inputs = [
-    '请给我介绍五个上海的景点', 'Please tell me five scenic spots in Shanghai'
+    '请介绍一下你自己', 'Please introduce yourself'
]

#######################################################################
#                      PART 3  Dataset & Dataloader                   #
#######################################################################
alpaca_en = dict(
    type=process_hf_dataset,
-   dataset=dict(type=load_dataset, path=alpaca_en_path),
+   dataset=dict(type=load_dataset, path='json', data_files=dict(train=alpaca_en_path)),
    tokenizer=tokenizer,
    max_length=max_length,
-   dataset_map_fn=alpaca_map_fn,
+   dataset_map_fn=None,
    template_map_fn=dict(
        type=template_map_fn_factory, template=prompt_template),
    remove_unused_columns=True,
    shuffle_before_pack=True,
    pack_to_max_length=pack_to_max_length,
    use_varlen_attn=use_varlen_attn)

  • 启动微调

    cd /root/finetune
conda activate xtuner-env

xtuner train ./config/internlm2_5_chat_7b_qlora_alpaca_e3_copy.py --deepspeed deepspeed_zero2 --work-dir ./work_dirs/assistTuner

    在这里插入图片描述

  • 权重转换

    cd /root/finetune/work_dirs/assistTuner

conda activate xtuner-env

# 先获取最后保存的一个pth文件
pth_file=`ls -t /root/finetune/work_dirs/assistTuner/*.pth | head -n 1 | sed 's/:$//'`
export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert pth_to_hf ./internlm2_5_chat_7b_qlora_alpaca_e3_copy.py ${pth_file} ./hf

    在这里插入图片描述

  • 模型合并

    cd /root/finetune/work_dirs/assistTuner
conda activate xtuner-env

export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert merge /root/finetune/models/internlm2_5-7b-chat ./hf ./merged --max-shard-size 2GB

    在这里插入图片描述

模型 WebUI 对话

  • 运行 xtuner_streamlit_demo.py 脚本来观察微调后的对话效果
    cd ~/Tutorial/tools/L1_XTuner_code
  • 将脚本中的模型路径修改为微调后的模型路径
    # 直接修改脚本文件第18行
- model_name_or_path = "Shanghai_AI_Laboratory/internlm2_5-7b-chat"
+ model_name_or_path = "/root/finetune/work_dirs/assistTuner/merged"
  • 启动应用
    conda activate xtuner-env
streamlit run /root/Tutorial/tools/L1_XTuner_code/xtuner_streamlit_demo.py
  • 在本地终端运行（端口映射）
    ssh -p 33495 root@ssh.intern-ai.org.cn -CNg -L 8501:127.0.0.1:8501 -o StrictHostKeyChecking=no -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null
  • 浏览器访问该url
    http://localhost:8501/

在这里插入图片描述

  • 在该网页下，就可以开始尝试问问题了
    在这里插入图片描述

  • 询问可以发现已经微调成功
    在这里插入图片描述

尝试将微调的模型上传到 HuggingFace（失败版）

  • 进入Hugging Face官网，点击右上角头像，选择New Model。
    在这里插入图片描述

  • 克隆自己在huggingface上刚刚创建的项目：

    pip install huggingface_hub
git config --global credential.helper store
huggingface-cli login（使用对应的token登录）

  • 使用 HTTPS 方式:

    git clone https://huggingface.co/Sunshine108/internlm2_5-7b-chat_finetune

    在这里插入图片描述
    HTTP 503 错误：表示代理服务器问题

  • 使用另一种 SSH 方式：

    • 配置 SSH 密钥

      # 生成 SSH 密钥
ssh-keygen -t rsa -b 4096

      在这里插入图片描述

      # 查看公钥
cat ~/.ssh/id_rsa.pub

      在这里插入图片描述

    • 在 Hugging Face 网站：进入账号设置 添加 SSH 公钥
      在这里插入图片描述

    • 测试 SSH 连接：

      ssh -T git@hf.co

      在这里插入图片描述

    • SSH 方式进行克隆

      git clone git@hf.co:Sunshine108/internlm2_5-7b-chat_finetune

      在这里插入图片描述

    • 复制模型文件到该库

      cp /root/finetune/work_dirs/assistTuner/merged/* /root/internlm2_5-7b-chat_finetune/

      在这里插入图片描述

    • Git LFS 推送大型文件

      curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | bash #添加 Git LFS 的仓库源
apt-get update
apt-get install git-lfs # 安装 Git LFS
git lfs version # Git LFS 是否正确安装 也可使用which git-lfs
git lfs install # 初始化 Git LFS
git lfs track "*.bin" # 配置 LFS 跟踪特定文件类型
git add .gitattributes # 添加 .gitattributes 文件
git add . # 添加所有文件
#git config --global user.email "you@example.com"
#git config --global user.name "Your Name"
git commit -m "Add large model files" # 提交更改
#git remote set-url origin https://Sunshine108:hf_HJLNppqfaeAwrTIOfwlvbvcxzSSKXsrCr@huggingface.co/Sunshine108/internlm2_5-7b-chat_finetune.git
git remote set-url origin git@hf.co:Sunshine108/internlm2_5-7b-chat_finetune.git
git config lfs.https://hf.co/Sunshine108/internlm2_5-7b-chat_finetune.git/info/lfs.locksverify false
git lfs push --all origin  # 处理大型文件
git push # 处理其他所有内容

    在这里插入图片描述

    可能还是需要利用Github的codespaces，下面再测试一种利用本地机器端口转发的方法

    • 在服务器上测试 Hugging Face 连接

      python -c "import requests; print(requests.get('https://huggingface.co').status_code)"

      在这里插入图片描述

    • 在本地测试 Hugging Face 连接在这里插入图片描述

    • 检查服务器的IP

      # 在服务器上执行 检查当前的IP
curl ifconfig.me # 获取服务器的公网IP地址

      在这里插入图片描述

    • 本地Ping
      在这里插入图片描述

    • 本地电脑操作：

      # 建立 SSH 动态端口转发
#-D：SOCKS 代理，全局流量
#-L：特定端口的精确映射

ssh -p 33495 -D 1080 -N root@ssh.intern-ai.org.cn -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null

    • 服务器操作：

      # 配置代理环境变量
export https_proxy=socks5://localhost:1080
export http_proxy=socks5://localhost:1080
#export https_proxy=http://localhost:1080
#export http_proxy=http://localhost:1080
#export https_proxy=http://proxy.intern-ai.org.cn:1080
#export http_proxy=http://proxy.intern-ai.org.cn:1080

      在这里插入图片描述
      在这里插入图片描述

    该文件是只读的,看来这种方式在这里走不通

再次尝试将微调后的模型上传到 HuggingFace（成功版）

也需要利用Github的codespaces，懒得折腾了，以后有时间再说

使用 hf-mirror.com 镜像站点再次尝试

  1. 克隆自己在huggingface上创建的项目

    git clone https://hf-mirror.com/Sunshine108/internlm2_5-7b-chat_finetune

    在这里插入图片描述

  2. 复制模型文件到该库

    cp /root/finetune/work_dirs/assistTuner/merged/* /root/internlm2_5-7b-chat_finetune/

    在这里插入图片描述

  3. 使用Git LFS 推送大型文件

    cd ~/internlm2_5-7b-chat_finetune/ # 进入你的 Git 仓库目录：
apt-get install git-lfs # 安装 Git LFS（如果尚未安装）
git lfs version # Git LFS 是否正确安装 也可使用which git-lfs
git lfs install # 初始化 Git LFS
git lfs track "*.bin" # 配置 Git LFS 跟踪特定文件类型（例如 *.bin）
git add .gitattributes # 添加 .gitattributes 文件
git add . # 添加所有文件
git commit -m "Add large model files" # 提交更改
# 在推送时遇到凭证验证问题，禁用锁验证可以解决问题（我是唯一一个修改仓库的人，不需要文件锁功能）
# 禁用锁验证后，Git LFS 不再检查文件锁，因此不需要额外的凭证验证。
# 禁用锁验证后，文件锁功能将失效，可能会导致多人协作时的冲突问题。
git config lfs.https://hf-mirror.com/Sunshine108/internlm2_5-7b-chat_finetune/info/lfs.locksverify false # 禁用 LFS 锁验证
git lfs push --all origin  # 推送 LFS 跟踪的文件
git push # 推送其他所有内容

    在这里插入图片描述
    部署网址
    在这里插入图片描述

总结

唯一不变的是变化。

4、XTuner微调个人小助手（homework）
nty102的博客
04-15 484
1，环境安装2、数据准备3、模型准备4、配置文件修改修改，5、模型训练6、训练过程。
XTuner 微调个人小助手认知任务部署到huggingface
m0_67361176的博客
01-16 597
访问 [https://huggingface.co/spaces/xiaoxishui/internlmwtzs](https://huggingface.co/spaces/xiaoxishui/internlmwtzs)- 模型仓库地址：[xiaoxishui/internlm2_5-7b-chat](https://huggingface.co/xiaoxishui/internlm2_5-7b-chat)- [Streamlit 文档](https://docs.streamlit.io/)
huggingface上传或发布自己的模型（大语言模型LLM）
一位安分的码农的博客
02-28 2874
在注册huggingface账号，登录账号后，在https://huggingface.co/settings/tokens创建token，注意需要将token的类型设置为WRITE。
如何在 Hugging Face 上下载和使用模型—全面指南
热门推荐
hello.reader
08-27 3万+
Hugging Face 模型库包含多种类型的模型，每种模型适用于不同的任务。：主要用于文本分类、问答系统、命名实体识别等任务。BERT 是一种双向 Transformer 模型，可以捕捉句子中的上下文信息。：主要用于文本生成任务，如对话生成、故事续写等。GPT 是一种单向 Transformer 模型，擅长生成连续的文本。：这是 BERT 的一个改进版本，经过更大规模的数据和更长时间的训练，性能更为出色。
在HuggingFace中上传自己的模型
weixin_57253447的博客
02-10 1369
在本地微调了一个模型，想把我的模型上传到Huggingface平台上，下面是上传的操作步骤，供大家参考学习！创建一个 Python 脚本（如。
第五期书生大模型实战营报名啦
qq_60666264的博客
04-13 373
书生·浦语是上海人工智能实验室大模型品牌，期待和广大的社区开发者一起建设开放、繁荣、健康的大模型开源社区！本知识库已上线飞书社区，欢迎大家来玩。
第四期书生大模型实战营-Tutorial 7
Boxun111的博客
12-03 1192
Task 1: 任务要求：利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证；直接在浦语书生上面去试，果然出错，采用思维链的方式也回答错误；以同样的方法比较科幻小说生成，对比效果；可以看到，故事具体的细节更多，变得更丰满，而且最后多了对故事的寓言性的思考，从个人英雄主义上升到人类价值观；输入同样的问题，生成效果如下，确实效果更好，更符合现实的格式，而不使用提示工程的结果类似于故事描述；这里我选择了公文写作助手以及科幻小说生成；
书生大模型实战营闯关关卡五
Etherealland的博客
12-01 612
提示工程是一种通过设计和调整输入(Prompts)来改善模型性能或控制其输出结果的技术。在模型回复的过程中，首先获取用户输入的文本，然后处理文本特征并根据输入文本特征预测之后的文本，原理为next token prediction，类似我们日常使用的输入法。指令要清晰提供参考内容复杂的任务拆分成子任务给 LLM“思考”时间(给出过程)使用外部工具系统性测试变化在提示工程中，第一点给出清晰的指令是至关重要的。
书生大模型实战营第三期进阶岛第三课——LMDeploy 量化部署实践
weixin_42567071的博客
08-29 1304
我们可以看出InternLM2.5将输入’Compute (3+5)*2’根据提供的function拆分成了"加"和"乘"两步，第一步调用function add实现加，再于第二步调用function mul实现乘，再最终输出结果16.此时代表我们成功地使用本地API与大模型进行了一次对话，如果切回第一个终端窗口，会看到如下信息，这代表其成功的完成了一次用户问题GET与输出POST。新开一个窗口查看gpu占用情况，约为12G，对比默认的cache-max-entry-count 0.8 少占用了8G左右。
书生大模型实战营第三关浦语提示词工程实践
08-09
书生大模型实战营第三关浦语提示词工程实践
书生大模型实战营（第3期）入门岛第2关Python基础知识
aman_he的博客
08-01 977
书生大模型实战营（第3期）入门岛第2关Python基础知识
第四期书生大模型实战营——入门岛
qq_45880352的博客
12-30 1044
什么是git常用命令提交一份自我介绍。从远程仓库 origin 中拉取 class 分支的最新内容。在本地创建一个名为 class 的新分支。自动切换到这个新创建的本地 class 分支。设置本地的 class 分支跟踪远程的 class 分支。还没添加git配置，所以提示commit时无法识别我的身份。这里我们使用命令行配置一下即可：# 全局配置# 局部配置可以提交git push origin class_<你的uid>执行查看结果。
大模型工作流Dify面试题及参考答案
大模型大数据攻城狮的专栏
06-12 732
设计一个基于 Dify 的智能摘要与重点提取 Agent，需结合Prompt 工程、模型能力配置和工作流优化，确保对长文本的高效解析和关键信息提炼。1. 明确任务需求与输入输出输入：长文本内容（如文章、报告、会议记录）或文本 URL输出摘要：简洁概括原文核心内容，控制在原文长度的 10%-20%重点列表：分点列出关键数据、结论、行动项等可选：关键词提取、情感倾向分析示例场景输入：一篇 5000 字的行业报告。
强化学习 A2C算法
tony365的博客
06-13 1180
更准确地说，Reinforce 是 基于策略的方法 的一个子类，称为 策略梯度方法。在基于策略的方法中，我们的目标是直接优化策略，而无需使用价值函数。更准确地说，Reinforce 是 基于策略的方法 的一个子类，称为 策略梯度方法。然而，因为我们使用蒙特卡洛采样来估计回报（我们使用整个 episode 来计算回报），所以我们在策略梯度估计中存在显着的方差。然而，因为我们使用蒙特卡洛采样来估计回报（我们使用整个 episode 来计算回报），所以我们在策略梯度估计中存在显着的方差。
Models-＞Chat Models-＞OpenAI Chat
xiatiaohcx的专栏
06-10 843
Spring AI支持来自OpenAI的各种AI语言模型，OpenAI是ChatGPT背后的公司，由于其创建了行业领先的文本生成模型和嵌入，它在激发人们对AI驱动的文本生成的兴趣方面发挥了重要作用。
OmniMeetProTrack 全维会议链智能追录系统——山东大学软件学院创新实训项目博客（六）
最新发布
jinrissq的博客
06-15 756
完整的项目博客介绍
相关类可视化图像总结
2201_75563414的博客
06-15 480
本文介绍了6种常见的数据相关性可视化方法：1）散点图用于分析两变量相关性；2）气泡图通过气泡大小展示三维数据；3）相关图用热力图形式呈现变量相关系数矩阵；4）热力图直观显示二维数据分布；5）二维密度图展示大数据量分布密度；6）平行坐标图可视化多维数据模式。每种方法均配有Python实现代码及应用场景说明，适用于不同维度和规模的数据相关性分析，帮助快速识别变量间关系模式。
循环神经网络及其变体
2404_82622750的博客
06-15 104
【代码】循环神经网络及其变体。
AI大模型应用实战营：微调部署教程及资源
资源摘要信息:"书生浦语大模型实战营微调部署至OpenXlab.zip" 标题中的“书生浦语大模型实战营微调部署至OpenXlab”涉及到的关键知识点包括了人工智能（AI）、大模型、自然语言处理（NLP）、模型微调（Fine-tuning...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

X_taiyang18

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值