- 博客(9)
- 收藏
- 关注
原创 [ONNXRuntimeError] : 1 : FAIL : Non-zero status code returned while running FusedConv node.
例如,在中提到,在使用ONNX Runtime进行模型优化时,可以在创建优化的ORT格式模型时指定不同的优化级别,其中包括基本优化(basic)和扩展优化(extended)。在ONNX Runtime中,FusedConv是一个内部操作,用于将卷积和激活函数(如ReLU)融合在一起,以提高推理效率。这种融合操作通常在模型转换为ONNX格式时由工具自动完成,或者在将ONNX模型转换为ONNX Runtime的优化格式(.ort格式)时进行。将1.16.3升级至1.17.1后。
2024-10-25 11:14:13
1147
原创 用cuda实现ransac圆拟合
上一篇实现了ransac的圆拟合,一般来说基本够用,但如果采样点较多时,考虑实时性要求做加速也是必要的。c++移植到cuda还是比较顺利的。重点理解原子操作。对比下来,速度提升5-8倍。不过精度浮动略大。在CUDA中,可以通过原子操作轻松避免竞态条件。原子操作能够读取、修改并写回一个值到内存,而不会有其他线程的干扰。这些操作通常适用于共享内存和全局内存。共享内存中的原子操作通常用于防止同一线程块内不同线程之间的竞态条件,而全局内存中的原子操作用于防止不同线程块中的线程之间的竞态条件。
2024-10-16 18:44:44
260
原创 基于ransac实现圆拟合
RANSAC(随机抽样一致性算法)是一种强大的算法,常用于从包含噪声和离群点的数据中估计模型参数。在圆拟合的应用中,RANSAC可以有效地从一组点中识别出符合圆形模型的内点,并排除外点。
2024-10-15 13:22:15
1330
原创 opencv实现线段检测
无论哪种方式,检测出的线段只是候选项,需要进一步的筛选,合并,根据项目需要实现。直线/线段检测常见的使用霍夫找线或者lsd检测算法。一般线段的缝合可以基于线段间距和角度来做。
2024-10-15 08:57:06
557
原创 cuda编程实现warpaffine的例子
使用cuda加速需要评估计算和搬运的得失平衡。一般来说,复杂运算且支持并行的图形计算,cuda有着明显的优势,但同时,I/O的交互开销也是需要关注的。综合考量才能实现效率提升。
2024-10-11 17:52:01
801
1
原创 ceres库 曲线拟合
首先你需要定义一个模型函数,这个函数描述了曲线的形状,并且包含了需要拟合的参数。Ceres库是一个用于非线性最小二乘问题的C++库,它可以用来进行曲线拟合。:设置求解器的配置参数,如线性求解器类型、迭代次数、是否输出进度等。:接着定义一个残差函数,它计算模型函数和实际观测数据之间的差异。类来构建优化问题,将残差函数添加到问题中。:调用求解器来求解问题,并获取结果。下面是一个高斯曲线拟合的例子。
2024-09-25 09:43:16
375
原创 paddlle训练脚本
("D:\\documents\\work\\xx2.pth",".weights" )],#这里写所有的资源文件,格式为('资源文件的绝对路径\\xx.pth','生成位置')pathex=['D:\\documents\\work\\RealBasicVSR-master'],#这里写项目所在位置的绝对路径。"D:\\..\\models\\builde.py",#这里写项目里所有用到的.py文件的绝对路径。binaries=[],#这里是二进制文件,我试过把.pth写在这里,会报错。
2024-09-24 13:23:05
1069
原创 tensorrt 精度分析
比如: trtexec.exe --onnx=model.onnx --saveEngine=model.engine --noTF32。1、trt的engine生成需要适配本地环境,一般用trtexec.exe脚本实现。2、转换后的模型精度可以用polygraphy来分析。
2024-09-24 08:38:15
438
原创 onnxruntime c++ 推理例子
内存竞技场是一块预先分配的内存区域,用于存储模型推理过程中的所有中间数据。这种机制可以减少频繁的内存分配和释放操作,从而提高性能,尤其是在处理多个推理请求时。是 ONNX Runtime 中的一个会话选项,用于控制是否在模型推理过程中使用内存模式优化。内存模式优化是指 ONNX Runtime 会根据模型的内存访问模式来分配和重用内存,以减少内存分配和释放的开销,从而提高推理性能。然而,在某些情况下,如多线程环境中,内存竞技场可能会导致内存使用不断增加,因为分配的内存不会立即释放回操作系统。
2024-09-20 16:45:43
1244
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人