- 博客(29)
- 收藏
- 关注
原创 onnx的QLinearConv工作原理(含Python代码)
下面给出在权重的 zeropoint 均为 0,而其他所有 zeropoint 均为 uint8 类型的情况下,QLinearConv 运算符的重新推理过程。
2025-02-06 13:33:20
972
原创 算法分析:大O符号/大Ω符号/大Θ符号/小o符号/小w符号
好的,同学,我们现在来学习算法复杂度分析中常用的符号,主要包括大O符号、大Θ符号等等。你可以把大Θ符号想象成一个“双向保证书”,它保证了你的算法不会太慢,也不会太快,它的运行速度就稳定在这个数量级。它给出了算法性能的一个更精确的描述。在实际应用中,大O符号是最常用的,因为它能帮助我们评估算法在最坏情况下的性能,从而避免选择效率过低的算法。大O符号只给出了算法运行时间的上限,而大Θ符号给出了算法运行时间的紧确界。: 大Ω符号给出了算法性能的一个“地板”,保证了算法的运行时间不会低于某个增长速度。
2024-12-22 20:45:48
812
原创 99%成功的linux下给串口起别名的方法
在一个串口芯片被制造出来的时候,每一个芯片都会有一个自己独一无二的device id(不一定独一无二,但重复概率很小了),例如535A000001.此时我们便可以通过这个设备号来唯一确定一个设备.使用udevadm查询设备idN: ttyUSB0E: MINOR=0这里的对应rules里面的ATTRS{serial}2. 修改rules至于是ttyUSB还是ttyACM,ttyCH340USB*根据实际情况.修改完成!
2024-12-15 21:07:00
985
原创 No module named ‘rclpy._rclpy_pybind11‘
遇到这个问题时网上看了一圈,各种方法都没能解决,最终还是自己摸源文件才解决的,这里记录一下。
2024-11-09 15:10:30
690
原创 VSCode Jupyter无法解析导入xxx,即使可以运行
ctrl+shift+p>>输入或找到python的语言服务器`>python restart language server`这种就是语言解释器出问题了,一般我是重启解决的,不过现在发现了一个更快的方法。
2024-10-23 17:53:04
392
原创 Message Filter dropping message: frame ‘world‘ at time 1403for reason ‘discarding message通常解法
再回去看看教程,你的Fix Frame改对了吗?会遇到这个问题的,相信应该也是跟着教程走的吧?
2024-10-01 23:30:58
312
原创 书生大模型实战营 LMDeploy 量化部署进阶实践
的显存下只需要4位来存储一个数值,而BF16需要16位。这意味着int4的Cache可以存储的元素数量是BF16的四倍。设置为4时,意味着使用int4精度进行量化。均为0.4,这意味着LMDeploy将分配40%的剩余显存用于kv cache,即。由于都使用BF16精度下的internlm2.5 7B模型,故剩余显存均为。相比使用BF16精度的kv cache,int4的Cache可以在相同。int4的Cache可以存储的元素数量是BF16的四倍。占用约为80%,少了约3.6G。的kv cache。
2024-08-16 17:44:10
363
原创 书生大模型实战营 InternLM + LlamaIndex RAG 实践
使用开源 Sentence Transformer作为embedding。根据教程获取rag之后的回复。又问了个问题,也不知道对不对。这个rag的效果非常好。未导入自己的数据集之前。
2024-08-01 07:57:17
222
原创 书生大模型实战营 浦语提示词工程实践
由于1.8b能力本来就有限,所以这里回答出来也只是碰巧回答出来,或者说是按照example回答出来的,而不是真的会回答(毕竟17和23谁大都比较不出)使用streamit运行ui界面,连接服务器的23333端口。使用教程里面的prompt,1.8b水平还是有限。配置ssh连接,在本地电脑打开。定制prompt完成浮点数比较。
2024-07-31 23:11:49
201
原创 书生大模型 XTuner 微调个人小助手作业
先根据要求创建虚拟环境,下载包创建微调数据集拷贝config并配置使用自己的微调数据集开始训练微调之前的输出pth模型转hf:融合之后的模型运行结果:。。。鉴定为repetition_penalty过小。
2024-07-31 17:57:47
176
原创 书生大模型实战营 第 1 关 书生大模型全链路开源体系
书生·浦语大模型全链路开源开放体系展示了其在人工智能领域的领先技术和开创性实践。通过开源工具和数据集,书生为研究人员和开发者提供了强有力的支持,推动了大模型技术的发展和应用。未来,书生团队将继续致力于技术创新和社区建设,为人工智能的发展贡献更多力量。
2024-07-24 13:57:21
497
原创 Could not find a package configuration file provided by “ament_cmake“ 的一种比较小众的原因
复制这玩意折腾了我一个晚上,然后重启一下发现好了。。。这里记录一下。
2024-07-13 23:49:50
1453
原创 windows下开启移动热点无法被连接&配置网络共享无法更改热点的ip为192.168.137.1
发现即使本地连接显示internet,详细信息的ip也不是192.168.137.1(这个是windows默认的wifi共享的网段)由于之前配置过以太网共享等多种网络共享,所以导致开启电脑的时候打开热点无法连接热点。尝试在适配器界面将wlan的网络共享给热点“本地连接”于是一通乱操,有时候可以有时候不行。
2024-05-19 21:20:29
1758
1
原创 linux下如何通过/etc/systemd/network/ 配置静态ip?
网上一大堆用network manager、network/interface来实现静态ip的,但是在我的开发板上均不适用,于是网上一通找,终于在垃圾堆找到了/etc/systemd/network/相关的配置然后。。。要钱。。。不是你知识专栏还这么收钱啊于是又一通找终于有了点眉目,这里记录一下。
2024-05-09 18:39:36
2549
1
原创 无盘符的SD卡镜像备份方法
但是一想,这个应该不会是很难的事情,遂摸索diskGenius并完成备份。获取到了一块装了系统的SD卡,由于没有盘符无法用普通的镜像工具进行备份。遂进行搜索发现居然没有教程。## 从映像文件恢复。
2024-04-28 20:48:00
465
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人