- 博客(13)
- 收藏
- 关注
RSS订阅原创 k8s单机多卡运行mindie-service
ModelConfig中的"modelName" : "Meta-Llama-3-8B"和"modelWeightPath" : "/home/yyh/model/Meta-Llama-3-8B"修改自己模型的路径和名字。使用这个镜像制作容器只需要将模型目录挂载后执行in/mindieservice_daemon即可完成mindie-service的启动。修改/usr/local/Ascend/mindie/latest/mindie-servic/conf/config.json。
2024-10-09 11:19:39
1172
2
原创 RAG文档切分算法洞察
分享的是现在rag优化方面关于文档切分的算法的洞察。选择这方面的一个原因，就是在rag的优化模块中：文档预处理环节，包括识别、增强文档规律划分、数据增强等操作，以提升文档质量。其次，查询优化，包括查询重写和后续提示等优化功能等等，我个人觉得现在这些优化的一些东西，都是一些锦上添花的操作，现在可能真正出现一些问题的地方，在我们实际的运行过程中可能是在文档切分、文本分块的，现在效果不是特别好，目前网上的算法比较有限，导致整体功能实现和使用的效果并未达到理想状态。
2024-10-09 11:15:24
1185
原创 ImportError: libGL.so.1: cannot open shared object file: No such file or directory
opencv缺少该库，它是OpenGL的一部分，许多图形相关的应用程序和库都需要它。
2024-07-25 11:49:14
196
原创 ImportError: libascend_hal.so: cannot open shared object file: No such file or directory
find后发现libascend_hal.so出现在。
2024-07-25 11:46:30
1699
原创 Kernal Run failed, opType: 4, FlashAttentionScore launch failed for FlashAttentionScore, errno:56100
发现910A无FlashAttentionScore算子，910A暂时不支持，当前版本暂时只能使用910B运行llama模型的训练微调。算子报错，找不到FlashAttentionScore算子，全局搜索FlashAttentionScore发现算子只存在于910B中。打开安装的cann-kernal包。使用昇腾910A卡进行微调训练；
2024-07-25 11:43:07
358
原创 peft lora微调代码解析，llama2-7b lora微调实战
运行微调使用的peft版本是v0.11.1， 代码解析使用的peft版本是0.11.2.dev0，这个版本单独将dora提取出来了。
2024-07-25 11:37:30
1839
原创 自动驾驶现代控制理论动力学到运动学到轨迹跟踪
以下是从现代控制理论的角度，探讨自动驾驶系统如何从动力学模型到运动学模型，最终实现轨迹跟踪。在控制方面的需要的输入与输出是：input：上层决策planner，自身位置localizationoutput：上层：汽车速度、车偏角；下层：气缸压力、轮胎动力、轮胎转角1.动力学模型：先建立车辆的动力学模型，包括车辆的质量、惯性矩阵、轮胎参数等。这个模型用于描述车辆在不同输入下的运动方程，例如速度、加速度、转向角等。通过动力学模型，可以将车辆的控制输入转化为对车辆状态的影响。
2024-07-25 10:00:07
861
原创 ROS2-spin\spin_Once、spin_some使用示例及踩坑点
使用ROS2进行开发时spin()函数虽然使用方便，但灵活性不高，运行到spin()的时候，就阻塞了；所以浅析一下关于spin的使用和踩坑点。
2024-07-25 09:11:30
2040
原创 3D点云深度学习框架PointNet、PointNet++详解
PointNet、PointNet++架构详细解读，实战演练，点云深度学习框架不再困难
2024-03-13 10:37:02
4287
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人