znsoft的专栏

https://github.com/RapidAI/RapidASR本引擎基于wenet语音识别模型以及onnxruntime运行库，可跨平台支持所有操作系统，包括pc ,服务 器以及移动端系统。基于c++开发，只依赖于常 见运行库，不依赖于pytorch或libtorch, 短小精悍，易于分发。支持windows/linux/ios/android 系统。RapidAI 组织年度巨献。...

1. 安装git Windows版本 、cmake工具及LLVM2. 安装 anaconda 环境3. 获取源码4 编译Windows动态库5 安装tvm

from winmltools.utils import convert_float_to_float16from winmltools.utils import load_model, save_modelonnx_model = load_model('model.onnx')new_onnx_model = convert_float_to_float16(onnx_model)save_model(new_onnx_model, 'model_fp16.onnx')

OnnxRuxtime 是开放神经网络交换格式的运行库。 ONNX是一种通用的神经网络描述格式，可以从其它神经网络框架格式，如pytorch, tensorflow, caffe等转换到onnx格式进行统一表示。OnnxRuntime, 顾名思义，就是用来运行onnx格式神经网络模型的一种跨平台运行库，支持从windows到linux, 从pc到手机甚至物联网设备IOT的一种运行时框架，c++编写，支持各种硬件加速，可以方便移植到几乎所有平台。以下为了简化起见，简称OnnxRuntime 为 ORT