书生大模型实战营第四期L1G5000（XTuner 微调个人小助手认知）

于 2024-11-10 17:41:10 发布
阅读量1.1k 收藏 25
点赞数 29
文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/stinkypudding/article/details/143658546
版权

微调原理简介

微调的作用是让预训练的大模型能够适应下游任务。

这里仅作简单介绍，相关的算法如SFT, DPO等不是本文重点。

本文在做微调的时候主要用的是LoRA以及QLoRA，这一系列算法基于一个观察：模型全参数可以用一个低秩的矩阵替换，好处是使用的资源显著减少。

LoRA

QLoRA

Xtuner微调实践

Xtuner简介

XTuner 文档链接：XTuner-doc-cn

环境配置与数据准备

首先使用 conda 先构建一个 Python-3.10 的虚拟环境。

然后安装 XTuner。

为了验证 XTuner 是否安装正确，我们将使用命令打印配置文件。

安装成功！

修改提供的数据

创建一个新的文件夹用于存储微调数据，然后将准备好的微调数据集copy到文件夹下。

创建修改脚本，内容如下：<

最低0.47元/天 解锁文章
K8s（四）：集群初始化报错“Error getting node“ err=“node \“k8s-master\“ not found“
✨ 欢迎来到【Seal ^_^ 的优快云博客】！✨
04-01 3万+
🔴 K8s（四）：集群初始化报错“Error getting node“ err=“node \“k8s-master\“ not found“
K8s（十五）：节点kubeadm join报错 The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘
最新发布
✨ 欢迎来到【Seal ^_^ 的优快云博客】！✨
04-10 1万+
🔴 K8s（十五）：节点kubeadm join报错 The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘
[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed with error
weixin_44197719的博客
06-16 2388
[kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error
The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed with error: Get “http://loc
大数据
02-13 1万+
kubeadm 方式初始化集群报错
报错The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed with error: Get “http://l
之度的博客
01-30 2467
安装1.22.2版本的k8s时候，初始化报错The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get "http://localhost:10248/healthz":。docker的cgroup驱动程序默认设置为system。默认情况下Kubernetes cgroup为systemd，我们需要更改Docker cgroup驱动。2）重新更换docker驱动。1）重新重置k8s,
初始化kubeadm init报curl -sSL http://localhost:10248/healthz‘ failed with error: Get http://localhost
weixin_41557069的博客
12-10 3818
执行kubeadm init –apiserver-advertise-address=192.168.3.211 –image-repository registry.aliyuncs.com/google_containers –kubernetes-version v1.19.0 –service-cidr=10.96.0.0/12 –pod-network-cidr=10.244.0.0/16 –ignore-preflight-errors=all 出现的报错，经检查是因为swap未.
K8s 安装报错：The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ dial tcp [::1]:10248:
也言的博客
02-13 747
K8s 安装问题原因及修复方式
kubeadm初始化集群报错：kubelet driver: “cgroupfs“ is different from docker cgroup driver: “systemd“
weixin_44559544的博客
03-15 1万+
kubeadm初始化集群报错：   报错信息如下： [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get "http://localhost:10248/healthz": dial tcp 127.0.0.1:1024
【K8S:初始化】：执行kubeadm显示：connection refused.
凡解的博客
04-10 840
K8S，Kubernetes,主节点集群安装通过Calico和Coredns
K8S实战部署系列-kubeadman安装K8Sv1.23.1（Ubuntu18.04）
梧桐翁的博客
01-11 1515
使用初始化完成系统 root@minikube:~# cat /proc/version Linux version 5.4.0-92-generic (buildd@lcy01-amd64-026) (gcc version 7.5.0 (Ubuntu 7.5.0-3ubuntu1~18.04)) #103~18.04.2-Ubuntu SMP Wed Dec 1 16:50:36 UTC 2021 1、系统环境 名称 ip 主机名 操作系统 master节点 192.168.3.22 master01
【问题解决】[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed wite
热门推荐
看，未来的博客
07-01 1万+
报错：[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with error: Get “http://localhost:10248/healthz”: dial tcp [::1]:10248: connect: connection refused.原因：执行初始化安装命令 kubeadm init … 报错故障： [etcd] Creating static Pod man
解决K8s安装中节点初始化时 [kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ 问题.
weixin_51589360的博客
12-12 8725
安装K8s时，在节点初始化过程中出现[kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get "http://localhost:10248/healthz": dial tcp 127.0.0.1:10248: connect: connection refused.报错。
kubeadm初始化，[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed
qq_29043901的博客
09-18 4435
报错描述：[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. 解决过程： 1、根据提示，查看kubelet，docker状态,需要确保启动了 systemctl status kubele
解决：k8s[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with
qq_29349143的博客
10-20 1万+
解决：k8s[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with error: Get “http://localhost:10248/healthz”: dial tcp [::1]:10248: connect: connection refused 搭建k8s出现的问题记录 [kubelet-check] The HTTP call equal to ‘curl -sS
The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed with error: Get “ht........
博客主要分享技术教程、工具教程、bug解决、前沿技术动态、编程经验、心得感悟等。 内容同步、干货获取、推广宣发请看侧栏推广信息
01-12 1963
每个人都有惰性，但不断学习是好好生活的根本，共勉！
failed with error: Get http://localhost:10248/healthz
weixin_41539438的博客
04-27 1万+
[kubelet-check] It seems like the kubelet isn’t running or healthy. [kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with error: Get http://localhost:10248/heal...
kubernetes:[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ failed
zJay-L's Blog
03-04 9775
[kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz’ failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. 背景： 搭建k8s高可用集群，由于自己瞎操作，在初始化master（master-1）时操作失败，于是又换了一个master（maste
The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get "http://localhost:10248/healthz"
01-17
这个错误是由于无法连接到本地主机的10248端口导致的。这个端口通常是kubelet进程监听的端口，用于健康检查。出现这个错误可能是由于kubelet进程没有正确启动或者配置错误导致的。 解决这个问题的方法是检查kubelet进程的状态和配置。你可以按照以下步骤进行操作： 1. 检查kubelet进程是否正在运行。你可以使用以下命令检查kubelet进程的状态： ```shell systemctl status kubelet ``` 如果kubelet进程没有运行，你可以使用以下命令启动它： ```shell systemctl start kubelet ``` 2. 检查kubelet的配置文件。你可以使用以下命令查看kubelet的配置文件路径： ```shell kubelet --kubeconfig /etc/kubernetes/kubelet.conf --config /var/lib/kubelet/config.yaml --bootstrap-kubeconfig /etc/kubernetes/bootstrap-kubelet.conf config view ``` 确保配置文件中的端口号和地址正确，并且与你的环境相匹配。 3. 检查网络连接。你可以使用以下命令检查是否可以连接到localhost的10248端口： ```shell curl -sSL http://localhost:10248/healthz ``` 如果无法连接，请确保端口没有被防火墙或其他网络配置阻止。 4. 检查docker的配置。有时候，kubelet进程依赖于docker进程。你可以按照以下步骤检查docker的配置： - 创建/etc/docker目录： ```shell sudo mkdir /etc/docker ``` - 编辑/etc/docker/daemon.json文件，并添加以下内容： ```json { "exec-opts": ["native.cgroupdriver=systemd"], "log-driver": "json-file", "log-opts": { "max-size": "100m" }, "storage-driver": "overlay2", "storage-opts": [ "overlay2.override_kernel_check=true" ], "registry-mirrors": ["https://tdhp06eh.mirror.aliyuncs.com"] } ``` - 重启docker进程： ```shell systemctl restart docker ``` 请注意，以上步骤是一种常见的解决方法，但具体解决方法可能因环境而异。如果以上步骤无法解决问题，请提供更多的错误信息和环境配置，以便我们能够更好地帮助你。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值