Firmware（固件）和 Runtime（运行时）_gpu中的firmware-优快云博客

本文链接：https://blog.youkuaiyun.com/jerwey/article/details/149227135

Firmware（固件）和 Runtime（运行时）在系统架构中紧密协作，但职责不同。Firmware 是硬件层面的基础控制逻辑，而 Runtime 是任务执行的动态调度框架。两者的关系可以类比为“操作系统内核”与“进程调度器”的关系：Firmware 提供底层能力，Runtime 利用这些能力管理具体任务的执行。

1. Firmware 与 Runtime 的核心定义

概念	定义	典型功能
Firmware	嵌入在硬件中的低级程序，直接控制硬件行为，通常存储在非易失性存储器（如Flash）中。	硬件初始化、驱动控制、中断处理、底层通信协议（如SPI/I2C）、电源管理等。
Runtime	运行在硬件或虚拟环境中的动态框架，负责任务调度、资源分配和执行管理。	内存管理、线程调度、算子执行、上下文切换、性能监控、错误恢复等。

** 分层架构中的角色**
以 AI 芯片推理系统 为例，分层关系如下：

+-----------------------------+
| 应用程序（如 Python 脚本）  |
+-----------------------------+
| Runtime（如 TensorRT）      |
+-----------------------------+
| OS（如 Linux）              |
+-----------------------------+
| Firmware（如 NPU 驱动）     |
+-----------------------------+
| 硬件（如 NPU 计算核心）     |
+-----------------------------+

Runtime 的作用：将深度学习模型拆分为算子（如卷积、矩阵乘法），调度到硬件执行。
Firmware 的作用：控制 NPU 计算核心的开关、缓存配置、中断处理。
OS 的作用：管理进程、内存分配、设备驱动加载。
Runtime 通常依赖 OS 提供资源管理，或直接运行在 Firmware 上（如裸机环境）。

2. 两者的关系

(1) 分层依赖关系

Firmware 是 Runtime 的底层支撑：
- Runtime 依赖 Firmware 提供的硬件抽象接口（如内存访问、外设控制）。
- 例如：Runtime 需要启动 DMA 传输数据时，需调用 Firmware 提供的 DMA 驱动函数。
Runtime 是 Firmware 的功能扩展：
- Firmware 仅提供基础能力（如硬件控制），Runtime 实现复杂的逻辑（如算法调度、任务优先级管理）。
- 例如：在 AI 芯片中，Firmware 控制计算核心的开关，而 Runtime 负责将神经网络算子映射到硬件执行。

(2) 协作流程示例

以AI 推理芯片为例：

Firmware 层：
- 初始化硬件（如 GPU/NPU）。
- 提供底层接口（如启动计算核心、配置缓存）。
Runtime 层：
- 接收模型任务（如卷积层计算）。
- 调用 Firmware 接口分配硬件资源。
- 管理任务队列（如按优先级调度算子）。
执行过程：
- Runtime 将任务拆分为多个算子（如矩阵乘法、激活函数）。
- 每个算子通过 Firmware 接口在硬件上执行。
- Runtime 监控执行状态并回收资源。

3. 典型场景中的协作

(1) 嵌入式设备（如微控制器 MCU）

Firmware：控制 GPIO、ADC、定时器等外设。
Runtime：管理传感器数据采集任务、通信协议（如蓝牙/Wi-Fi）。
协作示例：Runtime 调用 Firmware 的 ADC 驱动读取传感器数据，再通过 Firmware 的 UART 接口发送数据。

(2) AI 加速芯片（如 NPU/GPU）

Firmware：管理计算核心的电源状态、缓存分配。
Runtime：将深度学习模型拆分为算子（如卷积、池化），调度到硬件执行。
协作示例：Runtime 调用 Firmware 的接口启动计算核心，执行卷积算子后关闭核心以省电。

(3) 操作系统（如 Linux）

Firmware：BIOS/UEFI 负责硬件初始化。
Runtime：Linux 内核作为 Runtime 管理进程调度、内存分配。
协作示例：内核通过调用 Firmware 提供的 ACPI 接口控制 CPU 频率。

(4) 自动驾驶汽车

Firmware：
- 雷达/摄像头的传感器驱动。
- GPU/NPU 的底层控制逻辑。
Runtime：Apollo 自动驾驶框架中的感知/规划模块。
OS：QNX（实时操作系统）。

4. 设计挑战

(1) 性能瓶颈

问题：Firmware 与 Runtime 的接口调用可能引入延迟。
解决方案：
- 减少跨层调用（如将部分逻辑从 Runtime 下沉到 Firmware）。
- 使用共享内存或零拷贝机制优化数据传输。

(2) 资源竞争

问题：多个任务同时请求硬件资源（如 DMA 通道）。
解决方案：
- Firmware 提供硬件级仲裁器（如 AXI 总线仲裁）。
- Runtime 实现软件级资源调度算法（如优先级队列）。

(3) 可维护性

问题：Firmware 和 Runtime 的代码耦合导致升级困难。
解决方案：
- 定义清晰的接口规范（如 HAL 层）。
- 使用模块化设计（如将硬件驱动从 Runtime 中剥离）。

5. 工具与生态

工具/框架	角色
RTOS（如 FreeRTOS）	提供轻量级 Runtime，管理任务调度，依赖 Firmware 实现硬件驱动。
TVM / TensorRT	作为 AI Runtime，依赖硬件厂商提供的 Firmware（如 CUDA 驱动）执行算子。
Linux Kernel	兼任 Runtime 和 Firmware 管理（通过 Device Driver 子系统）。
OpenBMC	在服务器管理芯片中，Runtime（如 Host OS）依赖 Firmware（BMC 固件）监控硬件状态。