- 博客(9)
- 收藏
- 关注
RSS订阅原创 QLoRA的过程——https://github.com/hjhjhjhj123/Qlora_Test
因此，首先要把text字段删掉，然后把label的列名改为labels，而经过tokenizer处理后，数据就有了input_ids和attention_mask字段了。get_peft_model(model, peft_config)：在model原本权重矩阵上插入LoRA adapter，冻结原始权重，只训练LoRA adapter。pred = np.argmax(logits,axis=-1)：对logits按行取最大概率值的索引，也就是模型预测的每一行对应的标签。axis=-1：表示按行取。
2025-09-13 12:06:03
677
原创 想用QLoRA微调模型，kaggle能用的transformers，bitsandbytes，accelerate
如果版本不对，会报错说"Using `bitsandbytes` 4-bit quantization requires the latest version of bitsandbytes: `pip install -U bitsandbytes`"。实际上就是版本不兼容问题。分别是：bitsandbytes 0.47。
2025-09-13 11:19:31
353
原创 LangChain中Langserve启动服务的问题：
langserve好像就是本地运行了一个服务器，服务器里可以供用户来调用自己的模型（类似web）。一个网址对应一个模型服务，而通过浏览器打开服务器主页里面就是一堆。用户（本地写一个客户端client）就通过这个接口调用模型，得到输出。即可成功打开langserve服务器。
2025-09-05 15:34:13
200
原创 出栈顺序题极速秒杀【数据结构】
而C：13524，在连到5-2的时候，有4阻挡，则C是不可能的序列。先写出 栈的顺序,按照选项的顺序进行连接（连到之后将其划掉），如D，就先3连到2，1，4，5，可以发现是没有受阻的。判断出栈顺序哪个是错的 (答案是C)入栈 1 2 3 4 5。
2024-07-06 15:31:34
283
原创 django用后端的数据，前端echarts来画折线图
1.ret的值是一个字典,{'0':'79.908','1':'80.023','2':'82.023'},转成int和float,也就是转成数字类型(因为好像如果是字符类型 echarts画不出来，所以我在这里转成数字类型)，然后把值传到前端。2.前端代码如下，主要改xAxis:x轴的坐标值，series:是真实的折线上的值,然后这些值用后端传过来的值表示。
2024-05-13 17:00:28
414
1
原创 CSS中div用float之后下面的div上来了(怕忘记写下来)
1.两个大的div，上面的大div包含了浮动的div,此时若没有下面这一行clear:both的div，第二个大div就会上来。2.所以在有浮动的大div里加入<div style="clear: both;"></div>,即可。想实现上面的div浮动到右边，但是下面的div保持不变。
2024-05-08 23:41:27
299
原创 VSCODE用Anaconda环境
本文主要讲述vscode的一个项目怎么用anaconda下的一个环境(python的版本)，这样不同项目之间就可以用不同的python。
2024-05-06 15:53:01
3620
1
原创 Django数据库连接方面
执行命令为(1)python manage.py makemigrations(2)python manage.py migrate。2)filter : UserInfo.objects.filter(id=2).update(name="黄骏")4.添加数据create (insert into Department(title) values("销售部"))1)filter:筛选数据(UserInfo.objects.filter(id=3).delete())(Department找到这张表)
2024-04-24 14:06:21
596
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人