m0_37751821的博客

原创 xnnpack代码走读

摘要 XNNPACK是一个针对CPU优化的深度学习算子库，支持作为TensorFlow Lite、ONNX Runtime等框架的CPU后端推理引擎。其架构主要包含三个核心组件：子图(subgraph)表示模型结构、运行时(runtime)负责执行优化，以及调用流程控制。子图由张量(values)和算子(nodes)构成，values存储数据类型和形状信息，nodes定义具体操作类型和参数。运行时将子图转换为可执行状态，通过创建、设置和调用三个步骤完成推理过程。该库支持手动构图和框架自动转换两种使用方式，并