自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(6)
  • 收藏
  • 关注

原创 Window系统中python包rarfile依赖配置教程

本文介绍了如何配置Python中rarfile包的环境依赖。首先通过pip安装rarfile包,然后需要下载UnRAR.exe工具(可从RARLab官网获取)。建议将UnRAR.exe放在项目目录中,并通过rarfile.UNRAR_TOOL指定路径。完成这些配置后,即可正常使用rarfile包的功能来操作RAR压缩文件。

2025-09-20 14:55:20 345

原创 Mineru api 国内启动失败原因踩坑

文章摘要:用户在使用mineru API时遇到模型位置报错问题,原因是模型源选择不当导致。通过modelscope下载的模型存放在modelscope文件夹,但默认启动时使用HF源会加载huggingface文件夹的模型。解决方案是在启动API前设置环境变量export MINERU_MODEL_SOURCE=modelscope来指定正确的模型源路径。此外需注意mineru对文件后缀的敏感性,无正确后缀的PDF文件无法解析。(149字)

2025-08-28 17:03:11 703

原创 LM Studio本地部署开源模型代码能力测试

本文探讨了本地部署开源大模型进行代码转换的实践与测评。作者通过一个Python数据库同步脚本转换为Go语言的任务,测试了多个开源模型的性能表现。测试条件为RTX4060+32G内存配置,使用GGUF量化和LMStudio部署。文章详细介绍了提示词设计、参数设置等关键技巧,并推荐了Qwen3-30B、DeepSeek-Coder-V2等表现较好的模型。测试发现:1)本地量化模型在多轮对话中性能下降明显;2)英文提示效果优于中文;3)过度思考的模型反而降低效率;4)开发者编程基础决定模型使用上限。文章为开发者提

2025-07-28 21:44:27 1252

原创 Window系统中安装flash-attention的踩坑记录

文章首先指出conda安装cudatoolkit和cuDNN时可能出现的报错问题,建议使用Visual Studio 2017的GCC、G++环境,并推荐使用CUDA 11.8版本以确保稳定性。其次,文章讨论了是否需要在Windows系统中单独安装cudatoolkit和cuDNN,建议非专业用户安装以增加系统稳定性。最后,文章详细介绍了安装flash-attention详细步骤

2025-05-17 10:59:04 2000 2

原创 Window 在conda虚拟环境中安装cuda、cuDNN详细教程及后续pytorch环境部署2024(2)

在Window系统中,在conda虚拟环境中安装pytorch对应的xformers、flash-attention库

2025-01-19 23:31:24 1973

原创 Window 在conda虚拟环境中安装cuda、cuDNN详细教程及后续pytorch环境部署2024(1)

在window系统,在conda虚拟环境中安装cuda12.1、cuDNN

2025-01-19 13:27:20 5767 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除