您现在的位置是:首页 > 正文

Linux 中断( IRQ / softirq )基础:原理及内核实现 最新发布

2024-02-29 14:10:17阅读 4

52a7ddc9df35383ca9c278439b00d5e7.gif

390b68d52351e07c2a1c87b0f50a5cde.png

中断(IRQ),尤其是软中断(softirq)的重要使用场景之一是网络收发包, 但并未唯一场景。本文整理 IRQ/softirq 的通用基础,这些东西和网络收发包没有直接关系, 虽然整理本文的直接目的是为了更好地理解网络收发包。

什么是中断?

CPU 通过时分复用来处理很多任务,这其中包括一些硬件任务,例如磁盘读写、键盘输入,也包括一些软件任务,例如网络包处理。在任意时刻,一个 CPU 只能处理一个任务。当某个硬件或软件任务此刻没有被执行,但它希望 CPU 来立即处理时,就会给 CPU 发送一个中断请求 —— 希望 CPU 停下手头的工作,优先服务“我”。中断是以事件的方式通知 CPU 的,因此我们常看到 “XX 条件下会触发 XX 中断事件” 的表述。

两种类型:

  1. 外部或硬件产生的中断,例如键盘按键。

  2. 软件产生的中断,异常事件产生的中断,例如除以零

管理中断的设备:Advanced Programmable Interrupt Controller(APIC)。

硬中断

中断处理流程

中断随时可能发生,发生之后必须马上得到处理。收到中断事件后的处理流程:

  1. 抢占当前任务:内核必须暂停正在执行的进程;

  2. 执行中断处理函数:找到对应的中断处理函数,将 CPU 交给它(执行);

  3. 中断处理完成之后:第 1 步被抢占的进程恢复执行。

Maskable and non-maskable

Maskable interrupts 在 x64_64 上可以用 sti/cli 两个指令来屏蔽(关闭)和恢复:

static inline void native_irq_disable(void) {
        asm volatile("cli": : :"memory"); // 清除 IF 标志位
}
static inline void native_irq_enable(void) {
        asm volatile("sti": : :"memory"); // 设置 IF 标志位
}

在屏蔽期间,这种类型的中断不会再触发新的中断事件。大部分 IRQ 都属于这种类型。例子:网卡的收发包硬件中断。

Non-maskable interrupts 不可屏蔽,所以在效果上属于更紧急的类型。

问题:执行足够快 vs 逻辑比较复杂

IRQ handler 的两个特点:

  1. 执行要非常快,否则会导致事件(和数据)丢失;

  2. 需要做的事情可能非常多,逻辑很复杂,例如收包

这里就有了内在矛盾。

解决方式:延后中断处理(deferred interrupt handling)

传统上,解决这个内在矛盾的方式是将中断处理分为两部分:

  1. top half

  2. bottom half

这种方式称为中断的推迟处理或延后处理。以前这是唯一的推迟方式,但现在不是了。现在已经是个通用术语,泛指各种推迟执行中断处理的方式。按这种方式,中断会分为两部分:

  • 第一部分:只进行最重要、必须得在硬中断上下文中执行的部分;剩下的处理作为第二部分,放入一个待处理队列;

  • 第二部分:一般是调度器根据轻重缓急来调度执行,不在硬中断上下文中执行

Linux 中的三种推迟中断(deferred interrupts):

  • softirq

  • tasklet

  • workqueue

后面会具体介绍。

软中断

软中断子系统

软中断是一个内核子系统:

1、每个 CPU 上会初始化一个 ksoftirqd 内核线程,负责处理各种类型的 softirq 中断事件;

用 cgroup ls 或者 ps -ef 都能看到:

$ systemd-cgls -k | grep softirq # -k: include kernel threads in the output
├─    12 [ksoftirqd/0]
├─    19 [ksoftirqd/1]
├─    24 [ksoftirqd/2]
...

2、软中断事件的 handler 提前注册到 softirq 子系统, 注册方式 open_softirq(softirq_id, handler)

例如,注册网卡收发包(RX/TX)软中断处理函数:

// net/core/dev.c

open_softirq(NET_TX_SOFTIRQ, net_tx_action);
open_softirq(NET_RX_SOFTIRQ, net_rx_action);

3、软中断占 CPU 的总开销:可以用 top 查看,里面 si 字段就是系统的软中断开销(第三行倒数第二个指标):

$ top -n1 | head -n3
top - 18:14:05 up 86 days, 23:45,  2 users,  load average: 5.01, 5.56, 6.26
Tasks: 969 total,   2 running, 733 sleeping,   0 stopped,   2 zombie
%Cpu(s): 13.9 us,  3.2 sy,  0.0 ni, 82.7 id,  0.0 wa,  0.0 hi,  0.1 si,  0.0 st

主处理

smpboot.c 类似于一个事件驱动的循环,里面会调度到 ksoftirqd 线程,执行 pending 的软中断。ksoftirqd 里面会进一步调用到 __do_softirq

  1. 判断哪些 softirq 需要处理,

  2. 执行 softirq handler

避免软中断占用过多 CPU

软中断方式的潜在影响:推迟执行部分(比如 softirq)可能会占用较长的时间,在这个时间段内, 用户空间线程只能等待。反映在 top 里面,就是 si 占比。

不过 softirq 调度循环对此也有改进,通过 budget 机制来避免 softirq 占用过久的 CPU 时间。

unsigned long end = jiffies + MAX_SOFTIRQ_TIME;
...
restart:
while ((softirq_bit = ffs(pending))) {
    ...
    h->action(h);   // 这里面其实也有机制,避免 softirq 占用太多 CPU
    ...
}
...
pending = local_softirq_pending();
if (pending) {
    if (time_before(jiffies, end) && !need_resched() && --max_restart) // 避免 softirq 占用太多 CPU
        goto restart;
}
...

硬中断 -> 软中断 调用栈

前面提到,softirq 是一种推迟中断处理机制,将 IRQ 的大部分处理逻辑推迟到了这里执行。两条路径都会执行到 softirq 主处理逻辑 __do_softirq()

1、CPU 调度到 ksoftirqd 线程时,会执行到 __do_softirq()

2、每次 IRQ handler 退出时:do_IRQ() -> ...

do_IRQ() 是内核中最主要的 IRQ 处理方式。它执行结束时,会调用 exiting_irq(),这会展开成  irq_exit()。后者会检查是pending 的 softirq,有的话就唤醒:

// arch/x86/kernel/irq.c

if (!in_interrupt() && local_softirq_pending())
    invoke_softirq();

进而会使 CPU 执行到 __do_softirq()

软中断触发执行的步骤

To summarize, each softirq goes through the following stages: 每个软中断会经过下面几个阶段:

  1. 通过 open_softirq() 注册软中断处理函数;

  2. 通过 raise_softirq() 将一个软中断标记为 deferred interrupt,这会唤醒改软中断(但还没有开始处理);

  3. 内核调度器调度到 ksoftirqd 内核线程时,会将所有等待处理的 deferred interrupt(也就是 softirq)拿出来,执行对应的处理方法(softirq handler);

以收包软中断为例, IRQ handler 并不执行 NAPI,只是触发它,在里面会执行到 raise NET_RX_SOFTIRQ;真正的执行在 softirq,里面会调用网卡的 poll() 方法收包。IRQ handler 中会调用 napi_schedule(),然后启动 NAPI poll(),

这里需要注意,虽然 IRQ handler 做的事情非常少,但是接下来处理这个包的 softirq 和 IRQ 在同一个 CPU 运行。这就是说,如果大量的包都放到了同一个 RX queue,那虽然 IRQ 的开销可能并不多,但这个 CPU 仍然会非常繁忙,都花在 softirq 上了。解决方式:RPS。它并不会降低延迟,只是将包重新分发:RXQ -> CPU。

三种推迟执行方式(softirq/tasklet/workqueue)

前面提到,Linux 中的三种推迟中断执行的方式:

  • softirq

  • tasklet

  • workqueue

其中,

  1. softirq 和 tasklet 依赖软中断子系统,运行在软中断上下文中

  2. workqueue 不依赖软中断子系统,运行在进程上下文中

softirq

前面已经看到, Linux 在每个 CPU 上会创建一个 ksoftirqd 内核线程。

softirqs 是在 Linux 内核编译时就确定好的,例外网络收包对应的 NET_RX_SOFTIRQ 软中断。因此是一种静态机制。如果想加一种新 softirq 类型,就需要修改并重新编译内核。

内部组织

在内部是用一个数组(或称向量)来管理的,每个软中断号对应一个 softirq handler。数组和注册:

// kernel/softirq.c

// NR_SOFTIRQS 是 enum softirq type 的最大值,在 5.10 中是 10,见下面
static struct softirq_action softirq_vec[NR_SOFTIRQS] __cacheline_aligned_in_smp;

void open_softirq(int nr, void (*action)(struct softirq_action *)) {
    softirq_vec[nr].action = action;
}

5.10 中所有类型的 softirq:

// include/linux/interrupt.h

enum {
    HI_SOFTIRQ=0,          // tasklet
    TIMER_SOFTIRQ,         // timer
    NET_TX_SOFTIRQ,        // networking
    NET_RX_SOFTIRQ,        // networking
    BLOCK_SOFTIRQ,         // IO
    IRQ_POLL_SOFTIRQ,
    TASKLET_SOFTIRQ,       // tasklet
    SCHED_SOFTIRQ,         // schedule
    HRTIMER_SOFTIRQ,       // timer
    RCU_SOFTIRQ,           // lock
    NR_SOFTIRQS
};

也就是在 cat /proc/softirqs 看到的哪些。

$ cat /proc/softirqs
                  CPU0     CPU1  ...    CPU46    CPU47
          HI:        2        0  ...        0        1
       TIMER:   443727   467971  ...   313696   270110
      NET_TX:    57919    65998  ...    42287    54840
      NET_RX:    28728  5262341  ...    81106    55244
       BLOCK:      261     1564  ...   268986   463918
    IRQ_POLL:        0        0  ...        0        0
     TASKLET:       98      207  ...      129      122
       SCHED:  1854427  1124268  ...  5154804  5332269
     HRTIMER:    12224    68926  ...    25497    24272
         RCU:  1469356   972856  ...  5961737  5917455
触发(唤醒)softirq
void raise_softirq(unsigned int nr) {
        local_irq_save(flags);    // 关闭 IRQ
        raise_softirq_irqoff(nr); // 唤醒 ksoftirqd 线程(但执行不在这里,在 ksoftirqd 线程中)
        local_irq_restore(flags); // 打开 IRQ
}
if (!in_interrupt())
    wakeup_softirqd();

static void wakeup_softirqd(void) {
    struct task_struct *tsk = __this_cpu_read(ksoftirqd);

    if (tsk && tsk->state != TASK_RUNNING)
        wake_up_process(tsk);
}

以收包软中断为例, IRQ handler 并不执行 NAPI,只是触发它,在里面会执行到 raise NET_RX_SOFTIRQ;真正的执行在 softirq,里面会调用网卡的 poll() 方法收包。IRQ handler 中会调用 napi_schedule(),然后启动 NAPI poll()。

tasklet

如果对内核源码有一定了解就会发现,softirq 用到的地方非常少,原因之一就是上面提到的,它是静态编译的, 靠内置的 ksoftirqd 线程来调度内置的那 9 种 softirq。如果想新加一种,就得修改并重新编译内核, 所以开发成本非常高。

实际上,实现推迟执行的更常用方式 tasklet。它构建在 softirq 机制之上, 具体来说就是使用了上面提到的两种 softirq:

  • HI_SOFTIRQ

  • TASKLET_SOFTIRQ

换句话说,tasklet 是可以在运行时(runtime)创建和初始化的 softirq

void __init softirq_init(void) {
    for_each_possible_cpu(cpu) {
        per_cpu(tasklet_vec, cpu).tail    = &per_cpu(tasklet_vec, cpu).head;
        per_cpu(tasklet_hi_vec, cpu).tail = &per_cpu(tasklet_hi_vec, cpu).head;
    }

    open_softirq(TASKLET_SOFTIRQ, tasklet_action);
    open_softirq(HI_SOFTIRQ, tasklet_hi_action);
}

内核软中断子系统初始化了两个 per-cpu 变量:

  • tasklet_vec:普通 tasklet,回调 tasklet_action()

  • tasklet_hi_vec:高优先级 tasklet,回调 tasklet_hi_action()

struct tasklet_struct {
        struct tasklet_struct *next;
        unsigned long state;
        atomic_t count;
        void (*func)(unsigned long);
        unsigned long data;
};

tasklet 再执行针对 list 的循环:

static void tasklet_action(struct softirq_action *a)
{
    local_irq_disable();
    list = __this_cpu_read(tasklet_vec.head);
    __this_cpu_write(tasklet_vec.head, NULL);
    __this_cpu_write(tasklet_vec.tail, this_cpu_ptr(&tasklet_vec.head));
    local_irq_enable();

    while (list) {
        if (tasklet_trylock(t)) {
            t->func(t->data);
            tasklet_unlock(t);
        }
        ...
    }
}

tasklet 在内核中的使用非常广泛。不过,后面又出现了第三种方式:workqueue。

workqueue

这也是一种推迟执行机制,与 tasklet 有点类似,但也有很大不同。

  • tasklet 是运行在 softirq 上下文中;

  • workqueue 运行在内核进程上下文中;这意味着 wq 不能像 tasklet 那样是原子的;

  • tasklet 永远运行在指定 CPU,这是初始化时就确定了的;

  • workqueue 默认行为也是这样,但是可以通过配置修改这种行为。

使用场景
// Documentation/core-api/workqueue.rst:

There are many cases where an asynchronous process execution context
is needed and the workqueue (wq) API is the most commonly used
mechanism for such cases.

When such an asynchronous execution context is needed, a work item
describing which function to execute is put on a queue.  An
independent thread serves as the asynchronous execution context.  The
queue is called workqueue and the thread is called worker.

While there are work items on the workqueue the worker executes the
functions associated with the work items one after the other.  When
there is no work item left on the workqueue the worker becomes idle.
When a new work item gets queued, the worker begins executing again.

简单来说,workqueue 子系统提供了一个接口,通过这个接口可以创建内核线程来处理从其他地方 enqueue 过来的任务。这些内核线程就称为 worker threads,内置的 per-cpu worker threads

$ systemd-cgls -k | grep kworker
├─    5 [kworker/0:0H]
├─   15 [kworker/1:0H]
├─   20 [kworker/2:0H]
├─   25 [kworker/3:0H]
结构体
// include/linux/workqueue.h

struct worker_pool {
    spinlock_t              lock;
    int                     cpu;
    int                     node;
    int                     id;
    unsigned int            flags;

    struct list_head        worklist;
    int                     nr_workers;
    ...

struct work_struct {
    atomic_long_t data;
    struct list_head entry;
    work_func_t func;
    struct lockdep_map lockdep_map;
};

kworker 线程调度 workqueues,原理与 ksoftirqd 线程调度 softirqs 一样。但是我们可以为 workqueue 创建新的线程,而 softirq 则不行。

参考资料

  • Linux Inside (online book), Interrupts and Interrupt Handling[1]

引用链接

[1]

Interrupts and Interrupt Handling: https://0xax.gitbooks.io/linux-insides/content/Interrupts/linux-interrupts-9.html

作者:赵亚楠

原文:http://arthurchiao.art/blog/linux-irq-softirq-zh/

来源:云原生实验室


   

236476426621357fecbe38132fd5e79a.gif


   

10T 技术资源大放送!包括但不限于:Linux、虚拟化、容器、云计算、网络、Python、Go 等。在 开源Linux 公众号内回复 10T,即可免费获取!

有收获,点个在看

网站文章

  • leet笔记-62.不同路径

    leet笔记-62.不同路径

    leet笔记-62.不同路径一个机器人位于一个 m x n 网格的左上角 (起始点在下图中标记为“Start” )。机器人每次只能向下或者向右移动一步。机器人试图达到网格的右下角(在下图中标记为“Finish”)。问总共有多少条不同的路径?例如,上图是一个7 x 3 的网格。有多少可能的路径?示例 1:输入: m = 3, n = 2输出: 3解释:从左上角开始,总共有 3...

    2024-02-29 14:10:08
  • 深入理解Linux网络——内核与用户进程协作之多路复用方案(epoll) 最新发布

    深入理解Linux网络——内核与用户进程协作之多路复用方案(epoll) 最新发布

    epoll就是其中最优秀的实现方式,其提供了以下几个相关的函数:在用户进程调用epoll_create的时候,内核会创建一个struct eventpoll的内核对象,并把它关联到当前进程的已打开文件...

    2024-02-29 14:10:00
  • 请给我讲一下adobe的dw的使用技巧,比如快捷键什么的

    Adobe Dreamweaver 是一款网页设计和编码工具,其中很实用的快捷键包括:Ctrl + S 保存,Ctrl + Z 撤销,Ctrl + D 复制,Ctrl + X 剪切,Ctrl + V ...

    2024-02-29 14:08:20
  • RHEL7.3无法联网

    RHEL7.3无法联网

    虚拟机rhel7.3无法联网 ping不通8.8.8.8解决方法:systemctl status NetworkManager 查看NetworkManager状态显然是关闭的,不然我就不用写这篇文...

    2024-02-29 14:08:08
  • docker+jenkins 实现自动化部署

    docker+jenkins 实现自动化部署

    docker +jenkins 实现自动化部署

    2024-02-29 14:07:42
  • 前端基于WebSocket封装

    1.无心跳,短开连接之后重新连。class webSocketClass { constructor(name) { this.lockReconnect = false; this.l...

    2024-02-29 14:07:29
  • Android音视频学习系列(二) — 交叉编译动态库、静态库的入门

    Android音视频学习系列(二) — 交叉编译动态库、静态库的入门

    Android 原生开发包 (NDK) 可用于 Android 平台上的 C++ 开发,NDK 不仅仅是一个单一功能的工具,还是一个包含了 API 、交叉编译器、调试器、构建工具等得综合工具集。简单地...

    2024-02-29 14:07:03
  • OLTP、OLAP和列式存储数据库

    OLTP、OLAP和列式存储数据库

    1.OLTP 和 OLAP 1)OLTP:On-Line Transaction Processing联机事务处理过程(OLTP),也称为面向交易的处理过程,其基本特征是前台接收的用户数据可以立即传送...

    2024-02-29 14:06:56
  • Java对象内存计算

    Java对象内存计算

    网上有人说64位JVM数组对象头大小为24字节,此处有疑问

    2024-02-29 14:06:51
  • 剑指offer——二叉树层序遍历及其相关延伸面试算法题

    目录从上到下打印二叉树II题目解析二叉树的右视图题目解析二叉树左视图从上到下打印二叉树II从上到下按层打印二叉树,同一层的节点按从左到右的顺序打印,每一层打印到一行。例如:给定二叉树:[3,9,20,...

    2024-02-29 14:06:43