老潘的博客

部署应该学什么，这里都总结了

Couldn’t load custom C++ ops. This can happen if your PyTorch and torchvision versions are incompatible一般来说，在pip install torvhvision会自动找到相应的pytorch版本进行安装，这个时候没啥问题。但是假如我们强行使两个版本不一致，比如pip install xxx --no-deps这样，肯定就会报错。解决方法就是使pytorch和torchvision版本一致：如.

开篇老潘刚开始接触神经网络量化是2年前那会，用NCNN和TVM在树莓派上部署一个简单的SSD网络。那个时候使用的量化脚本是参考于TensorRT和NCNN的PTQ量化（训练后量化）模式，使用交叉熵的方式对模型进行量化，最终在树莓派3B+上部署一个简单的分类模型（识别剪刀石头布静态手势）。这是那会的一篇文章，略显稚嫩哈哈：一步一步解读神经网络编译器TVM(二)——利用TVM完成C++端的部署转眼间过了这么久啦，神经网络量化应用已经完全实现大面积落地了、相比之前成熟多了！我工作的时候虽然也简单接

大家好我是老潘，我们又见面了~如果下文中有格式方面的错误，可以点击这里查看原文。老潘的AI宝藏内容也总结在这里！看源码本身就是一种学习，就像小时候写作文一样，看别人的好作文也就会模仿一些好的句子，一些好的段落。看源码也一样，不同大厂的源码写的风格也不一样，惯用的技巧也不一样，强调的规范也不一样，使用的C++标注也不一样（C++11、C++14等等）。但是如果想要深入学习一个框架的底层，看源码是必须的。我看过不少源码，也模仿过一些大厂源码的例子。最常见的例子就是抽象类、工厂、单例、注册等等机制

大家好我是老潘，我们又见面了~如果下文中有格式方面的错误，可以点击这里查看原文。老潘的AI宝藏内容也总结在这里！算法工程师50%的时间是和数据打交道，有时候拷贝数据（分别从多个文件夹拷贝到某一文件夹）；有时候筛选数据（过滤掉一些质量不好的数据）；有时候把数据换个名字、加个前缀（为了后续训练的时候区分数据的特性，比如多尺度、多种图像增强策略）等等，这些工作可能一个月要重复n多次，因此最好总结起来；可以用Python或者shell脚本来处理，或者用jupyter notebook存自己常用的文件处理.

Error Code 1: Myelin (cuBLASLt error 1 querying major version.)这种错误是因为没有找到合适的版本信息，在某些库寻找动态链接库的时候，会根据so后面的版本信息去寻找，如果没有找到则会报错。解决方法：将寻找路径的.so所有的版本后缀都设置一遍就OK~比如这样，使用ln -s libcublasLt.so.11 libcublasLt.so.11.5.2.43 命令设置好对应的so就可以： libcublasLt.so -> lib