Linux中断实现浅析

本文描述内容针对2.6.31+x86平台，不包含硬件相关的细节。
作者：独孤九贱；
版权所有，转载请注明出处。有问题欢迎与我交流讨论。

一、概述

中断，本质上是一个电信号，早期的计算的并没有中断这一概念，这使得CPU与外围设备的交互变得困难，CPU需要不断的轮询，以探测外围设备是否有数据需要处理。这浪费大量的资源。中断的出现，将CPU从这一任务中解放出来，CPU与外设的处理，变为异步，它可以喝着茶，听着音乐，然后等待外设的报告。

Linux中的中断，除了包含外围设备引发的硬中断外，还有更多宽泛的概念，如CPU引发的同步中断或异常、软中断等。不过本文如未特别注明，都是描述外围设备发出的异步中断。

事实上，外围设备并不能直接发中断给CPU。是的，老大随时来看我轮询一下，浪费他的时间与精力，我也不能想找老大就找老大，得找他的小蜜，外设借助一个称为“中断控制器”的中间组件来完成请求。这个过程叫IRQ(中断请求)，中断控制器在处理完相应的电工任务后，将中断请求转发到CPU的中断输入。例如，下图展示了一个典型的x86平台的8259A中断控制器：

二、中断控制器

为了屏蔽各种硬件平台的区别，Linux提供了一个统一抽像的平台来实现中断子系统。irq_chip结构用于描述一个硬件中断控制器，它封装了控制器的名称（如XTPIC或IO-APIC）和控制器相应的操作：

struct irq_chip {
        const char        *name;                                                                        //控制器名称
        unsigned int        (*startup)(unsigned int irq);                //第一次激活时调用，用于第一次初始化IRQ
        void                (*shutdown)(unsigned int irq);                        //对应的关闭操作
        void                (*enable)(unsigned int irq);                        //激活IRQ
        void                (*disable)(unsigned int irq);                        //禁用IRQ

        void                (*ack)(unsigned int irq);                                //显示的中断确认操作
        void                (*mask)(unsigned int irq);                                //屏蔽中断
        void                (*mask_ack)(unsigned int irq);                        //屏幕并确认
        void                (*unmask)(unsigned int irq);                        //屏蔽的反向操作
        void                (*eoi)(unsigned int irq);                                //end of interrupt，提供处理中断时一个到硬件的回调

        void                (*end)(unsigned int irq);                                //end操作表示中断处理在电流层结束
        int                (*set_affinity)(unsigned int irq,                        //设置中断亲和
                                        const struct cpumask *dest);
        int                (*retrigger)(unsigned int irq);
        int                (*set_type)(unsigned int irq, unsigned int flow_type);                //设IRQ电流类型
        int                (*set_wake)(unsigned int irq, unsigned int on);                                //设置唤醒???

        /* Currently used only by UML, might disappear one day.*/
#ifdef CONFIG_IRQ_RELEASE_METHOD
        void                (*release)(unsigned int irq, void *dev_id);
#endif
        /*
         * For compatibility, ->typename is copied into ->name.
         * Will disappear.
         */
        const char        *typename;
};

三、中断描述符

每个中断都有一个编号，系统可以根据编号很容易地区分来访者，是鼠标，还是键盘，或者是网卡。只是很可惜，出于很多原因（例如短视或成本考虑），在很多体系结构上，提供的编号是很少的，例如图1中显示的，两个8259A芯片，总共提供了16个中断槽位。虽然曾经看来，对于个人计算机这已经足够了，只是时过境迁，又到了改变的时候，例如，多个外设共享一个中断，称之为中断共享，有过PCI驱动编写经验的都接触过，当然，这需要硬件和内核同时支持。

在IA-32 CPU上，为外围设备都供了16个中断号，从32-47，不过如果看一下/proc/interrupts就会发现，外围设备的IRQ编号是从0开始到15的，这意味着，中断控制器的一个重要任务，就是对IRQ编号和中断号进行映射，在IA-32上，这个映射，就需要加上32即可。

每个中断号的信息使用IRQ描述符struct irq_desc表示：

struct irq_desc {
        unsigned int                irq;
        ……
        irq_flow_handler_t        handle_irq;                //指向上述控制芯片的电流处理程序
        struct irq_chip                *chip;                        //指向上述的控制芯片
        ……
        struct irqaction        *action;        /* IRQ action list */                //指向IRQ的中断action列表
        ……
} ____cacheline_internodealigned_in_smp;

IRQ相关信息的管理的关键之处在于，内核引入一个irq_desc 类型的全局数组来记录之，每个数组的项对应一个IRQ编号，数组槽位与中断号一一对应，IRQ0在位置0，诸如此类。

数组irq_desc_ptrs的初始化在kernel/irq/handle.c

struct irq_desc **irq_desc_ptrs __read_mostly;

irq_desc_legacy是一个用于初始化的临时中介：
static struct irq_desc irq_desc_legacy[NR_IRQS_LEGACY] __cacheline_aligned_in_smp = {
        [0 ... NR_IRQS_LEGACY-1] = {
                .irq            = -1,
                .status            = IRQ_DISABLED,
                .chip            = &no_irq_chip,
                .handle_irq = handle_bad_irq,
                .depth            = 1,
                .lock            = __SPIN_LOCK_UNLOCKED(irq_desc_init.lock),
        }
};

这里使用了一个gcc扩展，将所有成员irq号都初始化为-1，其handle_irq都指向handle_bad_irq。

irq_to_desc函数可以根据设备中断号取得相应的中断描述符：

struct irq_desc *irq_to_desc(unsigned int irq)
{
        if (irq_desc_ptrs && irq < nr_irqs)
                return irq_desc_ptrs[irq];

        return NULL;
}

中断描述符中，其最后一个成员action指向中断处理程序。这将在后文描述，先来看中断描述符的初始化，这在early_irq_init函数中完成：

int __init early_irq_init(void)
{
        struct irq_desc *desc;
        
        desc = irq_desc_legacy;
        
        //为中断描述符分配槽位
        irq_desc_ptrs = kcalloc(nr_irqs, sizeof(void *), GFP_NOWAIT);
        
        legacy_count = ARRAY_SIZE(irq_desc_legacy);
        
        //初始化之        
        for (i = 0; i < legacy_count; i++) {
                desc[i].irq = i;
                desc[i].kstat_irqs = kstat_irqs_legacy + i * nr_cpu_ids;
                lockdep_set_class(&desc[i].lock, &irq_desc_lock_class);
                alloc_desc_masks(&desc[i], node, true);
                init_desc_masks(&desc[i]);
                irq_desc_ptrs[i] = desc + i;
        }
        
        //初始化余下的
        for (i = legacy_count; i < nr_irqs; i++)
                irq_desc_ptrs[i] = NULL;                
}

这样，每个irq_desc_ptrs的槽位的初始化工作就完成了。值得注意的是，这里并没有初始化中断描述符的电流处理句柄handle_irq成员。这是留到具体的控制器中去完成的，还是以8259A为例：

void make_8259A_irq(unsigned int irq)
{
        disable_irq_nosync(irq);
        io_apic_irqs &= ~(1<<irq);
        set_irq_chip_and_handler_name(irq, &i8259A_chip, handle_level_irq,
                                      "XT");
        enable_irq(irq);
}

set_irq_chip_and_handler_name函数是内核提供的处理注册irq_chip和设置电流处理程序的API之一：

void
set_irq_chip_and_handler_name(unsigned int irq, struct irq_chip *chip,
                              irq_flow_handler_t handle, const char *name)
{
        //取得IRQ对应的中断描述符，设置其chip成员
        set_irq_chip(irq, chip);
        //设置IRQ对应的中断描述符的handle_irq成员
        __set_irq_handler(irq, handle, 0, name);
}

这样，i8259A_chip控制器的电流处理程序被注册为handle_level_irq，即为电平触发中断，对应的，边沿触发中断的处理程序是handle_edge_irq。

void
handle_level_irq(unsigned int irq, struct irq_desc *desc)
{
        struct irqaction *action;
        irqreturn_t action_ret;

        spin_lock(&desc->lock);
        mask_ack_irq(desc, irq);

        //后面的代码在应答的中断后，会调置IRQ_INPROGRESS标志，这里做一个简单检查
        if (unlikely(desc->status & IRQ_INPROGRESS))
                goto out_unlock;
        //清除IRQ_REPLAY | IRQ_WAITING标志位
        desc->status &= ~(IRQ_REPLAY | IRQ_WAITING);
        //统计
        kstat_incr_irqs_this_cpu(irq, desc);

        /*
         * If its disabled or no action available
         * keep it masked and get out of here
         */
        //从中断描述符中取得action 
        action = desc->action;
        //如果没有action，或者是中断被关闭，退出
        if (unlikely(!action || (desc->status & IRQ_DISABLED)))
                goto out_unlock;

        //设置IRQ_INPROGRESS，表示正在处理
        desc->status |= IRQ_INPROGRESS;
        spin_unlock(&desc->lock);

        //调用高层的中断处理程序handle_IRQ_event进一步处理
        action_ret = handle_IRQ_event(irq, action);
        if (!noirqdebug)
                note_interrupt(irq, desc, action_ret);

        spin_lock(&desc->lock);
        //处理完毕，清除正在处理标志
        desc->status &= ~IRQ_INPROGRESS;
        //如果IRQ没有被禁用，调用chip的unmask
        if (!(desc->status & IRQ_DISABLED) && desc->chip->unmask)
                desc->chip->unmask(irq);
out_unlock:
        spin_unlock(&desc->lock);
}

略过一些硬件的细节差异，handle_edge_irq处理过程类似，它最终也会调用高层的中断处理程序handle_IRQ_event。

四、中断处理程序函数

每个中断处理程序函数都由结构struct irqaction表示，也就是上述中断描述符的最后一个成员：

struct irqaction {
        irq_handler_t handler;
        unsigned long flags;
        cpumask_t mask;
        const char *name;
        void *dev_id;
        struct irqaction *next;
        int irq;
        struct proc_dir_entry *dir;
        irq_handler_t thread_fn;
        struct task_struct *thread;
        unsigned long thread_flags;
};

该结构中，最重要的叫员就是处理函数本身，也就是其第一个成员。
flags包含一些标志信，例如IRQF_SHARED/IRQF_TIMER等。
mask存储其CPU位图掩码；
name和dev_id唯一地标识一个中断处理程序；
next成员用于实现共享的IRQ处理程序，相同irq号的一个或几个irqaction汇聚在一个链表中。

小结一下，上述三个重要数据结构的关系就很清楚了：

irq_desc数组包含若干成员，每个成员都一个chip指针，指向对应的中断控制器结构，action指向，指向中断处理函数结构irqaction，若干个具体相同irq的中断处理函数结构串在一个链表上。

irqaction是中断子系统面向驱动程序界面提供的接口，驱动程序在初始化的时候向内核注册，调用request_irq向中断子系统注册，request_irq函数会构造一个action，并将其关联到相应的中断描述符上。

五、IDT表与中断的触发

中断的触发，或者称之为中断路由，表示一个中断如何达到上述的中断处理函数中。

IDT（Interrupt Descriptor Table）中断描述表，IDT是个有256个入口的线形表，每个中断向量关联了一个中断处理过程。当计算机运行在实模式时，IDT被初始化并由BIOS使用。然而，一旦真正进入了Linux内核，IDT就被移到内存的另一个区域，并进行进入实模式的初步初始化。内核的初始化流程如下：

start_kernel
->init_IRQ
->native_init_IRQ

void __init native_init_IRQ(void)
{
        ……
        //更新外部中断(IRQ)的IDT表项
        for (i = FIRST_EXTERNAL_VECTOR; i < NR_VECTORS; i++) {
                /* IA32_SYSCALL_VECTOR could be used in trap_init already. */
                //跳过系统调用(trap)使用过的槽位
                if (!test_bit(i, used_vectors))
                        set_intr_gate(i, interrupt[i-FIRST_EXTERNAL_VECTOR]);
        }
}

set_intr_gate在IDT的第i个表项插入一个中断门。门中的段选择符设置为内核代码的段选择符，基偏移量为中断处理程序的地址，
即为第二个参数interrupt[i-FIRST_EXTERNAL_VECTOR]。

interrupt数组在entry_32.S中定义，它本质上都会跳转到common_interrupt：

.section .init.rodata,"a"
ENTRY(interrupt)
.text
        .p2align 5
        .p2align CONFIG_X86_L1_CACHE_SHIFT
ENTRY(irq_entries_start)
        RING0_INT_FRAME
vector=FIRST_EXTERNAL_VECTOR
.rept (NR_VECTORS-FIRST_EXTERNAL_VECTOR+6)/7
        .balign 32
  .rept        7
    .if vector < NR_VECTORS
      .if vector <> FIRST_EXTERNAL_VECTOR
        CFI_ADJUST_CFA_OFFSET -4
      .endif
1:        pushl $(~vector+0x80)        /* Note: always in signed byte range */
        CFI_ADJUST_CFA_OFFSET 4
      .if ((vector-FIRST_EXTERNAL_VECTOR)%7) <> 6
        jmp 2f
      .endif
      .previous
        .long 1b
      .text
vector=vector+1
    .endif
  .endr
2:        jmp common_interrupt
.endr
END(irq_entries_start)

.previous
END(interrupt)
.previous

common_interrupt是所有外部中断的统一入口

/*
 * the CPU automatically disables interrupts when executing an IRQ vector,
 * so IRQ-flags tracing has to follow that:
 */
        .p2align CONFIG_X86_L1_CACHE_SHIFT
common_interrupt:
        //将中断向量号减256。内核用负数表示所有的中断
        addl $-0x80,(%esp)        /* Adjust vector into the [-256,-1] range */
        //调用SAVE_ALL宏保存寄存器的值
        SAVE_ALL
        TRACE_IRQS_OFF
        //保存栈顶地址
        movl %esp,%eax
        //调用do_IRQ函数
        call do_IRQ
        //从中断返回
        jmp ret_from_intr
ENDPROC(common_interrupt)
        CFI_ENDPROC

这样，就进入了著名的do_IRQ函数了，到这里，基本上有平台相关的汇编代码的处理流程就结束了，相对而言，我还是更喜欢C语言：

/*
 * do_IRQ handles all normal device IRQ's (the special
 * SMP cross-CPU interrupts have their own specific
 * handlers).
 */
unsigned int __irq_entry do_IRQ(struct pt_regs *regs)
{
        //取得原来的寄存器
        struct pt_regs *old_regs = set_irq_regs(regs);

        /* high bit used in ret_from_ code  */
        //取得中断向量号
        unsigned vector = ~regs->orig_ax;
        unsigned irq;

        //退出idle进程
        exit_idle();
        //进入中断
        irq_enter();

        //中断线号与设备的中断号之间对应关系，由系统分派，分派表是一个per-cpu变量vector_irq
        irq = __get_cpu_var(vector_irq)[vector];

        //处理之
        if (!handle_irq(irq, regs)) {
                //应答APIC
                ack_APIC_irq();

                if (printk_ratelimit())
                        pr_emerg("%s: %d.%d No irq handler for vector (irq %d)\n",
                                __func__, smp_processor_id(), vector, irq);
        }

        //结束中断
        irq_exit();

        set_irq_regs(old_regs);
        return 1;
}

handle_irq函数根据中断号，查找相应的desc结构，调用其handle_irq：

bool handle_irq(unsigned irq, struct pt_regs *regs)
{
        struct irq_desc *desc;
        int overflow;

        overflow = check_stack_overflow();

        desc = irq_to_desc(irq);  //取得irq对应的中断描述符，irq_to_desc函数一开始就已经分析过了
        if (unlikely(!desc))
                return false;

        if (!execute_on_irq_stack(overflow, desc, irq)) {
                if (unlikely(overflow))
                        print_stack_overflow();
                desc->handle_irq(irq, desc);
        }

        return true;
}

如果是在中断栈上调用，则稍微复杂一点，需要先构造一个中断栈，再调用handle_irq。

static inline int
execute_on_irq_stack(int overflow, struct irq_desc *desc, int irq)
{
        union irq_ctx *curctx, *irqctx;
        u32 *isp, arg1, arg2;

        curctx = (union irq_ctx *) current_thread_info();
        irqctx = __get_cpu_var(hardirq_ctx);

        /*
         * this is where we switch to the IRQ stack. However, if we are
         * already using the IRQ stack (because we interrupted a hardirq
         * handler) we can't do that and just have to keep using the
         * current stack (which is the irq stack already after all)
         */
        if (unlikely(curctx == irqctx))
                return 0;

        /* build the stack frame on the IRQ stack */
        isp = (u32 *) ((char *)irqctx + sizeof(*irqctx));
        irqctx->tinfo.task = curctx->tinfo.task;
        irqctx->tinfo.previous_esp = current_stack_pointer;

        /*
         * Copy the softirq bits in preempt_count so that the
         * softirq checks work in the hardirq context.
         */
        irqctx->tinfo.preempt_count =
                (irqctx->tinfo.preempt_count & ~SOFTIRQ_MASK) |
                (curctx->tinfo.preempt_count & SOFTIRQ_MASK);

        if (unlikely(overflow))
                call_on_stack(print_stack_overflow, isp);

        asm volatile("xchgl        %%ebx,%%esp        \n"
                     "call        *%%edi                \n"
                     "movl        %%ebx,%%esp        \n"
                     : "=a" (arg1), "=d" (arg2), "=b" (isp)
                     :  "0" (irq),   "1" (desc),  "2" (isp),
                        "D" (desc->handle_irq)
                     : "memory", "cc", "ecx");
        return 1;
}

中断栈的构造过程，我在《Linux软中断的实现》一文中分析过了，可以在坛子中搜索。

如前所述，handle_irq函数指针，指向了handle_level_irq，或者是handle_edge_irq。不论是哪一种，中断电流处理函数在会调用handle_IRQ_event进一步处理，handle_IRQ_event函数的本质是遍历中断号上所有的action，调用其handler。这是在设备驱动初始化时向中断子系统注册的：


/**
* handle_IRQ_event - irq action chain handler
* @irq:        the interrupt number
* @action:        the interrupt action chain for this irq
*
* Handles the action chain of an irq event
*/
irqreturn_t handle_IRQ_event(unsigned int irq, struct irqaction *action)
{
        irqreturn_t ret, retval = IRQ_NONE;
        unsigned int status = 0;

        //因为CPU会禁止中断，这里将其打开，如果没有指定IRQF_DISABLED标志的话，它表示处理程序在中断禁止情况下运行
        if (!(action->flags & IRQF_DISABLED))
                local_irq_enable_in_hardirq();

        //遍历当前irq的action链表中的所有action，调用之
        do {
                //打开中断跟踪
                trace_irq_handler_entry(irq, action);
                //调用中断处理函数
                ret = action->handler(irq, action->dev_id);
                //结束跟踪
                trace_irq_handler_exit(irq, action, ret);

                switch (ret) {
                case IRQ_WAKE_THREAD:
                        /*
                         * Set result to handled so the spurious check
                         * does not trigger.
                         */
                        ret = IRQ_HANDLED;

                        /*
                         * Catch drivers which return WAKE_THREAD but
                         * did not set up a thread function
                         */
                        if (unlikely(!action->thread_fn)) {
                                warn_no_thread(irq, action);
                                break;
                        }

                        /*
                         * Wake up the handler thread for this
                         * action. In case the thread crashed and was
                         * killed we just pretend that we handled the
                         * interrupt. The hardirq handler above has
                         * disabled the device interrupt, so no irq
                         * storm is lurking.
                         */
                        if (likely(!test_bit(IRQTF_DIED,
                                             &action->thread_flags))) {
                                set_bit(IRQTF_RUNTHREAD, &action->thread_flags);
                                wake_up_process(action->thread);
                        }

                        /* Fall through to add to randomness */
                case IRQ_HANDLED:
                        status |= action->flags;
                        break;

                default:
                        break;
                }

                retval |= ret;
                //取得链表中的下一个action，如果有的话
                action = action->next;
        } while (action);

                //如果指定了标志，则使用中断间隔时间为随机数产生器产生熵
        if (status & IRQF_SAMPLE_RANDOM)
                add_interrupt_randomness(irq);
                //关闭中断，do_IRQ进入下一轮循环——等待新的中断到来
        local_irq_disable();

        return retval;
}