OnnxRuntime
zhjadsf
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
onnxruntime源码解析 - 编译篇
build脚本都会去调用tools里的build.py,在这里根据不同的arch、feature参数,准备好不同的环境变量和cmake参数,确认要做的事情(是build、test还是其它),并准备好要传给setup.py的args变量。通常来讲,带C++的python项目会在setup.py内部通过重载build_ext命令来按需事先编译,而ort中targets已经在前面由build_targets编好了,所以这里的build_ext重载就只是简单地把产物拷贝到合适的地方以进行后续的打包。原创 2025-11-02 10:18:24 · 407 阅读 · 0 评论 -
Onnxruntime源码解析
好久没有写博客了,这次我们来看一看onnxruntime的源码。大模型时代,模型部署尤为重要,onnx格式将数据和模型结构都保存在onnx文件中,不需要依赖其他库,另外还能做模型量化等操作,是一个非常好用的工具。之前只是简单地使用,没有细细研究过它的代码,这次来看一看,看到哪算哪。原创 2025-11-02 09:14:33 · 124 阅读 · 0 评论
分享