PREEMPT-RT中断线程化原理与中断线程优先级设置

沐多

已于 2024-12-18 22:25:58 修改

阅读量1.5k

点赞数 11

分类专栏： linux 文章标签： PREEMPT-RT 实时linux linux

于 2024-12-18 10:44:25 首次发布

本文为博主原创文章，转载请注明出处https://blog.youkuaiyun.com/qq_22654551。如有问题，欢迎指正。

本文链接：https://blog.youkuaiyun.com/qq_22654551/article/details/144554556

版权

linux 专栏收录该内容

18 篇文章

订阅专栏

文章目录

本文介绍实时linux方案PREEMPT-RT提升系统实时性的机制之一–中断线程化，以及中断线程优先级配置，希望能为感兴趣的读者提供些许参考。

什么是实时
 实时分类
 常见的RTOS
latency和jitter

一、什么是中断线程化

1. 普通Linux中断处理

中断是一种异步事件处理机制，用于响应硬件请求，它会打断进程的正常调度和执行，然后调用内核中断处理程序来响应设备的请求。

由于中断处理程序会打断其他进程的运行，所以，为了减少对正常进程运行调度的影响，中断处理程序就需要尽可能快地运行。如果中断本身要做的事情不多，那么处理起来也不会有太大问题；但如果中断要处理的事情很多，中断服务程序就有可能要运行很长时间。特别是，中断处理程序在响应中断时，还会临时关闭中断。若中断任务繁重，这就会导致上一次中断处理完成之前，其他中断都不能响应，甚至丢失中断。

所以Linux 将中断处理过程分成了两个阶段，也就是上半部和下半部：

上半部：快速处理硬件中断，inux不支持中断嵌套，它在中断禁止模式下运行，主要处理跟硬件紧密相关的或时间敏感的工作，即硬中断（Interrupt Request，IRQ）。
下半部：延迟处理上半部遗留任务，通常以内核线程方式运行，即软中断（SoftIRQ）。

硬中断处理程序（ISR）迅速响应硬件事件，执行最少工作，大部分任务推迟至软中断SoftIRQ或任务队列workqueue。

软中断是一种机制，用于在稍后执行较耗时的中断处理任务。一般以内核线程的方式执行，并且每个 CPU 都对应一个软中断内核线程，名字为 “ksoftirqd/CPU 编号”，如0 号 CPU 对应的软中断内核线程的名字就是 ksoftirqd/0。软中断在软中断上下文运行，执行时机有2个，一个是硬件中断返回后立即执行，这时和硬件中断一样，完全抢占进程上下文，不允许被调度和抢占，其执行时间为不超过2ms，如果执行的软中断超过了2ms会将软中断延迟到软中断线程 “ksoftirqd/CPU 编号”中执行。

系统中软硬件中断通过proc 文件系统来查看：

/proc/softirqs 提供了软中断的运行情况；
/proc/interrupts 提供了硬中断的运行情况。

2. 实时性的不足

传统的中断处理方式虽然提升了系统的吞吐量，但从实时任务响应实时性方面来看存在以下不足：

中断禁用：inux不支持中断嵌套，在硬中断处理过程中，其他中断会被屏蔽，增加了延迟。
中断串行处理：inux不支持中断嵌套，同一cpu上的外设中断处理串行执行，这在非紧急外设中断多的情况下导致紧急外设中断处理的不确定性。
不可预知的延迟：不同的驱动程序，硬中断处理程序执行需要的时间不同，不可预知，可能导致高优先级任务被中断抢占延迟执行，影响任务的实时性能。
软中断的不确定性：软中断在硬中断退出后前期处理是完全抢占进程上下文的，它的处理时间和调度顺序也可能影响到实时任务的执行。

这些不足使得普通linux中断处理方式难以满足高实时性要求的应用场景。

3. 中断线程化

为了解决上述问题，PREEMPT-RT补丁引入了中断线程化机制，于2009年合入linux主线版本2.6.30。顾名思义就是将原来硬件中断上下文的中断处理的部分也通过一个内核线程来处理，除了代码中明确指明非中断线程化的中断和系统硬件timer中断外的中断均通过中断线程来处理，中断线程默认是一个实时线程，调度类为SCHED_FIFO，实时优先级为50。同时将SoftIRQ全部放到ksoftirqd/CPU线程中执行，ksoftirqd/CPU为普通非实时任务不变。通过ps命令可以看到中断线程。

ubuntu@work-host:~$ ps -ef | grep irq
root          14       2  0 12月10 ?      00:02:44 [ksoftirqd/0]
root          19       2  0 12月10 ?      00:00:08 [irq_work/0]
root          25       2  0 12月10 ?      00:00:00 [irq_work/1]
root          28       2  0 12月10 ?      00:00:00 [ksoftirqd/1]
root          33       2  0 12月10 ?      00:00:04 [irq_work/2]
root          36       2  0 12月10 ?      00:02:47 [ksoftirqd/2]
root          41       2  0 12月10 ?      00:00:01 [irq_work/3]
root          44       2  0 12月10 ?      00:03:09 [ksoftirqd/3]
root          49       2  0 12月10 ?      00:00:04 [irq_work/4]
root          52       2  0 12月10 ?      00:02:42 [ksoftirqd/4]
root          57       2  0 12月10 ?      00:00:02 [irq_work/5]
root          60       2  0 12月10 ?      00:02:28 [ksoftirqd/5]
root         121       2  0 12月10 ?      00:00:00 [irq/9-acpi]
root         136       2  0 12月10 ?      00:00:00 [irq/120-PCIe PM]
root         137       2  0 12月10 ?      00:00:00 [irq/121-PCIe PM]
root         138       2  0 12月10 ?      00:00:00 [irq/121-aerdrv]
root         139       2  0 12月10 ?      00:00:00 [irq/121-s-aerdr]
root         140       2  0 12月10 ?      00:00:00 [irq/122-PCIe PM]
root         141       2  0 12月10 ?      00:00:00 [irq/122-aerdrv]
root         142       2  0 12月10 ?      00:00:00 [irq/122-s-aerdr]
root         143       2  0 12月10 ?      00:00:00 [irq/123-PCIe PM]
root         144       2  0 12月10 ?      00:00:00 [irq/123-aerdrv]
root         145       2  0 12月10 ?      00:00:00 [irq/123-s-aerdr]
root         149       2  0 12月10 ?      00:00:00 [vfio-irqfd-clea]
root         150       2  0 12月10 ?      00:00:00 [irq/8-rtc0]
root         229       2  0 12月10 ?      00:13:52 [irq/124-xhci_hc]
root         230       2  0 12月10 ?      00:00:00 [irq/16-i801_smb]
root         281       2  0 12月10 ?      00:00:00 [irq/126-ahci[00]
root         746       2  0 12月10 ?      00:00:00 [irq/142-mei_me]
root        1089       2  0 12月10 ?      00:00:05 [irq/143-i915]
root        1105       2  0 12月10 ?      00:00:00 [irq/144-snd_hda]
root        1465       1  0 12月10 ?      00:01:24 /usr/sbin/irqbalance --foreground
root        1731       2  0 12月10 ?      00:00:20 [irq/125-eno1]
root        1734       2  0 12月10 ?      00:00:00 [irq/127-enp2s0]
root        1735       2  0 12月10 ?      00:00:04 [irq/128-enp2s0-]
....

中断线程化通过以下方式提升了Linux系统的实时性：

减少中断禁用时间：由原本整个硬件中断处理过程都需要屏蔽全局中断，变成仅响应中断，唤醒中断线程部分会屏蔽全局中断，这部分只执行最少量的处理，减少了中断禁用的时间，降低了整体延迟。
优先级管理：中断处理程序作为内核线程，基本不会屏蔽全局中断，并且不同优先级的外设中断线程，可以被赋予不同的优先级，从而避免低优先级的外设中断阻塞高优先级外设、任务的执行。
可抢占性：中断线程作为可调度的内核线程，可以被高优先级任务抢占，使系统响应更加灵活和实时。
可预期性增强：中断处理时间变得更加可控和可预见，提高了系统的实时性能。
-系统吞吐量降低：中断线程化后，CPU上下文切换增多，那 CPU 的处理效率就会打一定折扣。

通过这些改进，PREEMPT-RT的中断线程化机制有效地解决了传统中断处理方式在实时性上的不足，使Linux系统能够更好地满足高实时性应用的需求。

二、中断线程优先级配置

所有外设的中断线程默认一个实时线程，调度类为SCHED_FIFO，实时优先级为50，对于实时性要求高的外设应该设置更高的优先级，如何才能修改中断线程的优先级？方式有两种，第一种最直接的办法，驱动代码中添加代码修改，但这样不灵活。另外一种是通过chrt工具来修改。

使用chrt修改中断线程优先级

例如，要将PID为1234的线程的实时优先级设置为50，可以执行以下命令：

chrt -f -p 50 1234

这里，-f表示设置实时优先级，-p表示操作对象是进程。同样，只有root用户才能修改线程的实时优先级。

注意：在使用这些命令时，请确保已正确指定PID，以免对其他进程造成不必要的影响。
但直接使用chrt还是太原始，下面我给大家推荐一个工具–rtirq。

使用rtirq修改中断线程优先级

安装rtirq

如果你使用的是debian衍生发行版，还可以通过rtirq这个工具来修改中断线程优先级，直接从github拉取

git clone https://github.com/rncbc/rtirq

或者通过apt软件包管理器安装

sudo apt install rtirq-init

注意：rtirq工具依赖完整功能的ps和chrt，所以在一些使用busybox嵌入式系统中由于ps功能简单，rtirq运行不了。

rtirq使用说明

我们来看看rtirq-init是如何工作的，rtirq是一个脚本，位于/etc/init.d/rtirq，位于/etc/init.d目录下的的脚本系统启动后会自动执行，首先读取解析配置文件，然后根据配置文件来修改中断线程的优先级和调度策，最终执行的也是chrt命令，只不过它通过配置文件的方式提供了更多的灵活性配置，你可以自行分析脚本源码。
脚本/etc/init.d/rtirq接收的参数有start、stop、reset、restart（或）force-reload、status。
rtirq脚本执行时使用的配置文件依次为为/etc/sysconfig/rtirq、/etc/default/rtirq、/etc/rtirq.conf,前一个存在后面的就不生效。其中/etc/default/rtirq是安装后自动生成的模板文件，你可以直接修改它或者基于它重新新建一个。

rtirq配置

/etc/default/rtirq内容如下：

# 我们要修改的IRQ线程服务名称，按下面的优先级及步长依次配置
# (从优先级高到低，以空格分隔列表)。
# RTIRQ_NAME_LIST="rtc snd usb i8042" #旧版本
RTIRQ_NAME_LIST="snd usb i8042"

# 最高的优先级。
RTIRQ_PRIO_HIGH=90

# 优先级递减步长。
RTIRQ_PRIO_DECR=5

# 最低的优先级。
RTIRQ_PRIO_LOW=51

# 是否将所有 IRQ 线程重置为 SCHED_OTHER。
RTIRQ_RESET_ALL=0

# 当内核支持时，
# 哪些服务不应被线程化（以空格分隔列表）。
RTIRQ_NON_THREADED="rtc snd"

# 将被强制到最高实时优先级范围内的进程名(99-91)（从高到低，以空格分隔列表）
# RTIRQ_HIGH_LIST="timer"

RTIRQ_NAME_LIST表示我们要修改的中断线程集合，按优先级从RTIRQ_PRIO_HIGH到RTIRQ_PRIO_LOW高顺序排列，示例中的是snd(90)>usb(85)>i8042(80)；
RTIRQ_PRIO_HIGH表示第一个RTIRQ_NAME_LIST中第一个中断线程的优先级；
RTIRQ_PRIO_DECR表示RTIRQ_NAME_LIST中的中断线程优先级从高到低的步长；
RTIRQ_PRIO_LOW表示最低优先级；
RTIRQ_RESET_ALL是否将RTIRQ_NAME_LIST外的所有 IRQ 线程重置为 SCHED_OTHER
如果我们不知道 IRQ 线程的名称，可以通过执行/etc/init.d/rtirq status来获取，同时能看到系统中中断线程的默认优先级：

ubuntu@work-host:~$ /etc/init.d/rtirq status
    PID CLS RTPRIO  NI PRI %CPU STAT COMMAND
   1105 FF      90   - 130  0.0 S    irq/144-snd_hda
    229 FF      85   - 125  0.1 S    irq/124-xhci_hc
    121 FF      50   -  90  0.0 S    irq/9-acpi
    136 FF      50   -  90  0.0 S    irq/120-PCIe PM
    137 FF      50   -  90  0.0 S    irq/121-PCIe PM
    138 FF      50   -  90  0.0 S    irq/121-aerdrv
    150 FF      50   -  90  0.0 S    irq/8-rtc0
    230 FF      50   -  90  0.0 S    irq/16-i801_smb
    281 FF      50   -  90  0.0 S    irq/126-ahci[00
    746 FF      50   -  90  0.0 S    irq/142-mei_me
   1089 FF      50   -  90  0.0 S    irq/143-i915
   1731 FF      50   -  90  0.0 S    irq/125-eno1
....
   1757 FF      50   -  90  0.0 S    irq/141-enp4s0-
     14 RR       1   -  41  0.0 S    ksoftirqd/0
     28 TS       -   0  19  0.0 S    ksoftirqd/1
     36 TS       -   0  19  0.0 S    ksoftirqd/2
     44 TS       -   0  19  0.0 S    ksoftirqd/3
     52 TS       -   0  19  0.0 S    ksoftirqd/4
     60 TS       -   0  19  0.0 S    ksoftirqd/5
....

示例

先将所有线程优先级配置为0，配置文件如下：

....
# Whether to reset all IRQ threads to SCHED_OTHER.
RTIRQ_RESET_ALL=1
...

执行：

ubuntu@work-host:~$ sudo /etc/init.d/rtirq reset
ubuntu@work-host:~$ sudo /etc/init.d/rtirq status

    PID CLS RTPRIO  NI PRI %CPU STAT COMMAND
     14 TS       -   0  19  0.0 S    ksoftirqd/0
     28 TS       -   0  19  0.0 S    ksoftirqd/1
     36 TS       -   0  19  0.0 S    ksoftirqd/2
     44 TS       -   0  19  0.0 S    ksoftirqd/3
     52 TS       -   0  19  0.0 S    ksoftirqd/4
     60 TS       -   0  19  0.0 S    ksoftirqd/5
    121 TS       -   0  19  0.0 S    irq/9-acpi
    137 TS       -   0  19  0.0 S    irq/120-PCIe PM
    138 TS       -   0  19  0.0 S    irq/121-PCIe PM
    139 TS       -   0  19  0.0 S    irq/121-aerdrv
    140 TS       -   0  19  0.0 S    irq/121-s-aerdr
    141 TS       -   0  19  0.0 S    irq/122-PCIe PM
    142 TS       -   0  19  0.0 S    irq/122-aerdrv
    143 TS       -   0  19  0.0 S    irq/122-s-aerdr
    144 TS       -   0  19  0.0 S    irq/123-PCIe PM
    145 TS       -   0  19  0.0 S    irq/123-aerdrv
    146 TS       -   0  19  0.0 S    irq/123-s-aerdr
    151 TS       -   0  19  0.0 S    irq/8-rtc0
    251 TS       -   0  19  0.0 S    irq/125-xhci_hc
    252 TS       -   0  19  0.0 S    irq/16-i801_smb
    299 TS       -   0  19  0.0 S    irq/126-ahci[00
    776 TS       -   0  19  0.0 S    irq/142-mei_me
   1121 TS       -   0  19  0.0 S    irq/143-i915
   1136 TS       -   0  19  0.0 S    irq/144-snd_hda
   1798 TS       -   0  19  0.0 S    irq/124-eno1
   1799 TS       -   0  19  0.0 S    irq/127-enp2s0
   1800 TS       -   0  19  0.0 S    irq/128-enp2s0-
   1801 TS       -   0  19  0.0 S    irq/129-enp2s0-
   1802 TS       -   0  19  0.0 S    irq/130-enp2s0-
   1803 TS       -   0  19  0.0 S    irq/131-enp2s0-
   1808 TS       -   0  19  0.0 S    irq/132-enp3s0
   1809 TS       -   0  19  0.0 S    irq/133-enp3s0-
   1810 TS       -   0  19  0.0 S    irq/134-enp3s0-
   1811 TS       -   0  19  0.0 S    irq/135-enp3s0-
   1812 TS       -   0  19  0.0 S    irq/136-enp3s0-
   1822 TS       -   0  19  0.0 S    irq/137-enp4s0
   1823 TS       -   0  19  0.0 S    irq/138-enp4s0-
   1824 TS       -   0  19  0.0 S    irq/139-enp4s0-
   1825 TS       -   0  19  0.0 S    irq/140-enp4s0-
   1826 TS       -   0  19  0.0 S    irq/141-enp4s0-

修改rtc0、enp4s0的中断线程优先级，配置文件如下：

# IRQ thread service names
# (space separated list, from higher to lower priority).
# RTIRQ_NAME_LIST="rtc snd usb i8042" # old
RTIRQ_NAME_LIST="rtc enp4s0"

# Highest priority.
RTIRQ_PRIO_HIGH=90

# Priority decrease step.
RTIRQ_PRIO_DECR=5

# Lowest priority.
RTIRQ_PRIO_LOW=51

# Whether to reset all IRQ threads to SCHED_OTHER.
RTIRQ_RESET_ALL=0

# On kernel configurations that support it,
# which services should be NOT threaded
# (space separated list).
#RTIRQ_NON_THREADED="rtc snd"

# Process names which will be forced to the
# highest realtime priority range (99-91)
# (space separated list, from highest to lower priority).
# RTIRQ_HIGH_LIST="timer"

执行

ubuntu@work-host:~$ sudo /etc/init.d/rtirq start
Setting IRQ priorities: stop [rtc] irq=8 pid=151: OK.
Setting IRQ priorities: stop [enp4s0] irq=137 pid=1822: OK.
Setting IRQ priorities: stop [enp4s0] irq=138 pid=1823: OK.
Setting IRQ priorities: stop [enp4s0] irq=139 pid=1824: OK.
Setting IRQ priorities: stop [enp4s0] irq=140 pid=1825: OK.
Setting IRQ priorities: stop [enp4s0] irq=141 pid=1826: OK.
ubuntu@work-host:~$ sudo /etc/init.d/rtirq status

    PID CLS RTPRIO  NI PRI %CPU STAT COMMAND
    151 FF      90   - 130  0.0 S    irq/8-rtc0
   1822 FF      85   - 125  0.0 S    irq/137-enp4s0
   1823 FF      84   - 124  0.0 S    irq/138-enp4s0-
   1824 FF      83   - 123  0.0 S    irq/139-enp4s0-
   1825 FF      82   - 122  0.0 S    irq/140-enp4s0-
   1826 FF      81   - 121  0.0 S    irq/141-enp4s0-
     14 TS       -   0  19  0.0 S    ksoftirqd/0
     28 TS       -   0  19  0.0 S    ksoftirqd/1
     36 TS       -   0  19  0.0 S    ksoftirqd/2
     44 TS       -   0  19  0.0 S    ksoftirqd/3
     52 TS       -   0  19  0.0 S    ksoftirqd/4
     60 TS       -   0  19  0.0 S    ksoftirqd/5
    121 TS       -   0  19  0.0 S    irq/9-acpi
    137 TS       -   0  19  0.0 S    irq/120-PCIe PM
    138 TS       -   0  19  0.0 S    irq/121-PCIe PM
    139 TS       -   0  19  0.0 S    irq/121-aerdrv
    140 TS       -   0  19  0.0 S    irq/121-s-aerdr
    141 TS       -   0  19  0.0 S    irq/122-PCIe PM
    142 TS       -   0  19  0.0 S    irq/122-aerdrv
    143 TS       -   0  19  0.0 S    irq/122-s-aerdr
    144 TS       -   0  19  0.0 S    irq/123-PCIe PM
    145 TS       -   0  19  0.0 S    irq/123-aerdrv
    146 TS       -   0  19  0.0 S    irq/123-s-aerdr
    251 TS       -   0  19  0.0 S    irq/125-xhci_hc
    252 TS       -   0  19  0.0 S    irq/16-i801_smb
    299 TS       -   0  19  0.0 S    irq/126-ahci[00
    776 TS       -   0  19  0.0 S    irq/142-mei_me
   1121 TS       -   0  19  0.0 S    irq/143-i915
   1136 TS       -   0  19  0.0 S    irq/144-snd_hda
   1798 TS       -   0  19  0.0 S    irq/124-eno1
   1799 TS       -   0  19  0.0 S    irq/127-enp2s0
   1800 TS       -   0  19  0.0 S    irq/128-enp2s0-
   1801 TS       -   0  19  0.0 S    irq/129-enp2s0-
   1802 TS       -   0  19  0.0 S    irq/130-enp2s0-
   1803 TS       -   0  19  0.0 S    irq/131-enp2s0-
   1808 TS       -   0  19  0.0 S    irq/132-enp3s0
   1809 TS       -   0  19  0.0 S    irq/133-enp3s0-
   1810 TS       -   0  19  0.0 S    irq/134-enp3s0-
   1811 TS       -   0  19  0.0 S    irq/135-enp3s0-
   1812 TS       -   0  19  0.0 S    irq/136-enp3s0-

可以看到，irq/8-rtc0实时优先级为90，irq/137-enp4s0实时优先级为85，修改成功。

三、总结

本文主要介绍了中断线程化这一提高linux系统实时性的机制。通过将外设中断处理从屏蔽全局中断的硬件中断上下转移到线程上下文程执行，可以更好地控制中断处理的优先级和响应时间，但牺牲了部分系统的吞吐量。此外，文章还详细讨论了如何配置不同外设的中断线程优先级，以确保关键任务的实时性。这些配置方法对系统设计者在规划和优化实时应用的优先级时具有重要意义。