- 博客(3)
- 收藏
- 关注
原创 kaggle运行Qwen2.5-7B-Instruct简要记录 20250821
well,我想了解运行大模型到底需要些什么程序,我打开了hugging face,选了Qwen2.5-7B-Instruct这个已经稳定的版本,点击hugging face上面 use this model 按钮,选择在kaggle里面运行。这里非常方便,跳转了过去,并且有写好的代码。库,利用其与 Hugging Face Hub 的集成,实现了模型的自动发现、下载(首次)、缓存和加载,无需用户手动处理模型文件的获取和管理。具体作用:文本分词 ,转换为数字编码,添加特殊标记,生成注意力掩码,反向转换。
2025-08-21 22:22:32
796
原创 lmdeploy本地运行+bug记录
因为之前我在虚拟环境中安装了 cuda toolkit,我想使用的是虚拟环境中的,可是我在电脑系统也安装了全局的,调用的时候也许依然用的是全局的。3、做出尝试,添加dll, 安装cuda,都出现了错误,打算重来,首先把虚拟环境删除掉。这个dll我目前没搞懂,就是根据网上搜的添加了段代码,没有解决问题,所以不说这个错误的。询问了豆包,告诉我是这里虚拟环境默认安装的是cpu版本,需要安装cuda版本,进入pytorch官网 ,卸载,在官网找了12.6安装。,找到了已经兼容 cuda12.9的代码,安装。
2025-08-20 16:17:21
477
原创 联想拯救者Y7000安装ubuntun18.04,原为win10系统,目前双系统
博主的笔记本电脑是联想拯救者Y7000。处理器酷睿i5-9300H,内存8GB,64位操作系统,512G固态硬盘,预先装了win10系统。博主想装一个Ubuntu系统,于是上网搜了如何安装,主要参考了以下文章。Ubuntu18.04完整新手安装教程博主实践时发现了以下几个地方需要注意:制作启动盘的U盘用8GB,不能用太大。一开始用了128GB的U盘,结果没有FAT32文件系统,导致...
2020-01-14 13:58:31
3419
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅