- 博客(16)
- 收藏
- 关注
原创 mindie配置https服务
前置条件:1.已安装好mindie环境,参考2.在conf/config.json中配置"httpsEnabled" : false的情况下mindie服务可以正常运行,并且可以正常与大模型交互。
2025-07-17 15:24:59
1236
原创 No matching distribution found for torch==2.1.0+cpu
x86安装torch, torch_npu 2.1.0版本,手动执行pip install torch==2.1.0安装的torch不是cpu版本,执行pip install torch==2.1.0+cpu报错提示No matching distribution found for torch==2.1.0+cpu;上描述了不同cpu平台的安装方法,因此这可能是针对不同cpu的版本选择;
2025-07-17 15:11:55
719
原创 多python环境使用yum命令报错,ModuleNotFoundError: No module named ‘dnf‘
修改“/usr/bin/yum”文件;/usr/bin/python3”修改成“#!/usr/bin/python3.*”openEuler自带python3版本环境,使用的yum是dnf的软链接,和libpython*.so.1.0强相关。yum会使用到python的dnf库,多python环境导致yum无法fro找到正确的python版本执行。具体要修改的python版本为包含dnf的版本,如果不确定的话可以执行。强行固定yum执行的python版本。# 修改*为具体的版本。
2025-07-17 10:09:38
560
原创 k8s单机多卡运行mindie-service
ModelConfig中的"modelName" : "Meta-Llama-3-8B"和"modelWeightPath" : "/home/yyh/model/Meta-Llama-3-8B"修改自己模型的路径和名字。使用这个镜像制作容器只需要将模型目录挂载后执行in/mindieservice_daemon即可完成mindie-service的启动。修改/usr/local/Ascend/mindie/latest/mindie-servic/conf/config.json。
2024-10-09 11:19:39
1876
3
原创 RAG文档切分算法洞察
分享的是现在rag优化方面关于文档切分的算法的洞察。选择这方面的一个原因,就是在rag的优化模块中:文档预处理环节,包括识别、增强文档规律划分、数据增强等操作,以提升文档质量。其次,查询优化,包括查询重写和后续提示等优化功能等等,我个人觉得现在这些优化的一些东西,都是一些锦上添花的操作,现在可能真正出现一些问题的地方,在我们实际的运行过程中可能是在文档切分、文本分块的,现在效果不是特别好,目前网上的算法比较有限,导致整体功能实现和使用的效果并未达到理想状态。
2024-10-09 11:15:24
1514
原创 ImportError: libGL.so.1: cannot open shared object file: No such file or directory
opencv缺少该库,它是OpenGL的一部分,许多图形相关的应用程序和库都需要它。
2024-07-25 11:49:14
224
原创 ImportError: libascend_hal.so: cannot open shared object file: No such file or directory
find后发现libascend_hal.so出现在。
2024-07-25 11:46:30
3171
原创 Kernal Run failed, opType: 4, FlashAttentionScore launch failed for FlashAttentionScore, errno:56100
发现910A无FlashAttentionScore算子,910A暂时不支持,当前版本暂时只能使用910B运行llama模型的训练微调。算子报错,找不到FlashAttentionScore算子,全局搜索FlashAttentionScore发现算子只存在于910B中。打开安装的cann-kernal包。使用昇腾910A卡进行微调训练;
2024-07-25 11:43:07
528
原创 peft lora微调代码解析,llama2-7b lora微调实战
运行微调使用的peft版本是v0.11.1, 代码解析使用的peft版本是0.11.2.dev0,这个版本单独将dora提取出来了。
2024-07-25 11:37:30
2510
原创 自动驾驶现代控制理论动力学到运动学到轨迹跟踪
以下是从现代控制理论的角度,探讨自动驾驶系统如何从动力学模型到运动学模型,最终实现轨迹跟踪。在控制方面的需要的输入与输出是:input:上层决策planner,自身位置localizationoutput:上层:汽车速度、车偏角;下层:气缸压力、轮胎动力、轮胎转角1.动力学模型:先建立车辆的动力学模型,包括车辆的质量、惯性矩阵、轮胎参数等。这个模型用于描述车辆在不同输入下的运动方程,例如速度、加速度、转向角等。通过动力学模型,可以将车辆的控制输入转化为对车辆状态的影响。
2024-07-25 10:00:07
1081
原创 ROS2-spin\spin_Once、spin_some使用示例及踩坑点
使用ROS2进行开发时spin()函数虽然使用方便,但灵活性不高,运行到spin()的时候,就阻塞了;所以浅析一下关于spin的使用和踩坑点。
2024-07-25 09:11:30
2743
原创 3D点云深度学习框架PointNet、PointNet++详解
PointNet、PointNet++架构详细解读,实战演练,点云深度学习框架不再困难
2024-03-13 10:37:02
4963
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅