CFS（四）新任务的创建流程
前言
新任务产生接口有clone、fork等系统调用，这些系统调用的都是通过do_fork函数实现。本文主要对do_fork中CFS新任务的调度初始化过程进行了探究，看看一个CFS新任务如何完成调度信息的初始化以及进入就绪队列的。
CFS的调度信息初始化
long _do_fork(...)
{
/* 任务信息初始化 */
p = copy_process(clone_flags, stack_start, stack_size,
child_tidptr, NULL, trace, tls, NUMA_NO_NODE);
/* 唤醒新任务 */
wake_up_new_task(p);
}
在_do_fork中大量的初始化操作在copy_process中完成，其中和调度初始化有关的由sched_fork完成。
优先级与调度类初始化
int sched_fork(unsigned long clone_flags, struct task_struct *p)
{
/* 1. reset调度数据结构 */
__sched_fork(clone_flags, p);
p->state = TASK_NEW;
/* 2. 确保优先级不会随父进程突增 */
p->prio = current->normal_prio;
/* 3. sched_reset_on_fork reset优先级信息 */
if (unlikely(p->sched_reset_on_fork)) {
if (task_has_dl_policy(p) || task_has_rt_policy(p)) {
p->policy = SCHED_NORMAL;
p->static_prio = NICE_TO_PRIO(0);
p->rt_priority = 0;
} else if (PRIO_TO_NICE(p->static_prio) < 0)
p->static_prio = NICE_TO_PRIO(0);
p->prio = p->normal_prio = __normal_prio(p);
set_load_weight(p, false);
p->sched_reset_on_fork = 0;
}
/* 4. 设置调度类 */
if (dl_prio(p->prio))
return -EAGAIN;
else if (rt_prio(p->prio))
p->sched_class = &rt_sched_class;
else
p->sched_class = &fair_sched_class;
/* 5. 调用CFS的task_fork_fair */
if (p->sched_class->task_fork)
p->sched_class->task_fork(p);
}
sched_fork函数在core.c中，在最后一行之前都是调度通用信息的初始化，
1. __sched_fork将任务的CFS相关数据清零， 设置p->state为TASK_NEW表示task还在初始化过程中避免被调度。
2. 将prio设置为current->normal_prio是一个比较关键的点，在Linux中prio是调度决策时使用的优先级，新任务的优先级默认会继承父进程的优先级，但是继承的必须是normal_prio，因为prio在特殊情况下会出现临时提高的情况，有可能不是任务正常的优先级。
3. sched_reset_on_fork标志位的处理，设置此标志位时新任务需要重置优先级为120（120是nice=0的CFS任务对应的优先级），调度策略policy为SCHED_NORMAL。set_load_weight会更新任务的权重信息。如果没有该标志位，自然使用的是父进程的优先级信息。
4. 根据prio识别和设置所属调度类
5. 关键一步，如果所属的调度类是fair_sched_class会调用CFS调度器的task_fork函数，在CFS中的对应实现为task_fork_fair。
vruntime初始化
截止目前为止，task的调度策略、优先级、权重信息（如果是CFS）都已经通过拷贝父进程或者重置的方式初始化完成。但是作为一个normal-taskCFS调度所依赖的vruntime还未初始化。task_fork_fair会对新任务的vruntime进行初始化。
static void task_fork_fair(struct task_struct *p)
{
/* 1. 更新rq时钟 */
update_rq_clock(rq);
/* 2. 如果是curr调用的fork的处理 */
curr = cfs_rq->curr;
if (curr) {
update_curr(cfs_rq);
se->vruntime = curr->vruntime;
}
/* 3. 设置新任务的vruntime */
place_entity(cfs_rq, se, 1);
/* 4. 可能出现的反转 */
if (sysctl_sched_child_runs_first && curr && entity_before(curr, se)) {
swap(curr->vruntime, se->vruntime);
resched_curr(rq);
}
/* 5. 得到相对值 */
se->vruntime -= cfs_rq->min_vruntime;
}
新任务的vruntime初始化的主要流程如下：
1. 更新rq的时钟信息，后续如果需要更新curr的vruntime会用到
2. 检查curr是否存在，curr是当前CFS队列中正在运行task，如果curr存在说明是curr调用的fork在创建新任务，此时需要先更新curr的vruntime再让子任务继承。update_curr核心就做两件事，更新curr的vruntime，更新cfs_rq的min_vruntime。如果curr不存在说明fork的调用者不归fair_sched_class管辖，可能是rt-task或者dl-task创建的子进程，此时不涉及到vruntime的更新。
static void update_curr(struct cfs_rq *cfs_rq)
{
curr->vruntime += calc_delta_fair(delta_exec, curr); /* wall-time转化为虚拟时间 */
update_min_vruntime(cfs_rq); /* 更新min_vruntime */
}
3. 关键一步place_entity设置新任务的vruntime，该值来源有两个，一是cfs_rq->min_vruntime的基础上加上一点惩罚，二是继承来自父进程的vruntime，取两者间的最大值。place_entity会惩罚新创建的task，因为当前的调度周期已经分配给任务队列中的任务了，如果直接插入会影响其他的任务在这个调度周期内的运行时间。这里的sched_feat(START_DEBIT)是一个宏，会检查__SCHED_FEAT_START_DEBIT这个特性是否开启。
static void
place_entity(struct cfs_rq *cfs_rq, struct sched_entity *se, int initial)
{
u64 vruntime = cfs_rq->min_vruntime;
/* 3.1 惩罚新进程 */
if (initial && sched_feat(START_DEBIT))
vruntime += sched_vslice(cfs_rq, se);
/* 3.2 更新新任务vruntime*/
se->vruntime = max_vruntime(se->vruntime, vruntime);
}
3.1. 既然要惩罚新进程，给他的vruntime加多少合适呢？sched_vslice(cfs_rq, se)在当前队列的权重基础之上考虑设定值，关注一下sched_vslice的实现，该函数计算了一个即将被插入就绪队列的task的vruntime slice。calc_delta_fair之前分析过就是将一个wall-time按照任务的权重信息转化为虚拟时间。sched_slice和sched_vslice只有一字之差，该函数计算的是一个即将被插入就绪队列的wall-time slice。因此总结sched_vslice的实现就是计算即将被插入就绪队列的wall-time slice，再按照权重信息转换为虚拟时间得到vruntime slice。
static u64 sched_vslice(struct cfs_rq *cfs_rq, struct sched_entity *se)
{
return calc_delta_fair(sched_slice(cfs_rq, se), se);
}
sched_slice采取了一个很巧妙的设计，sched_slice虚构出新任务加入队列以后的队列状态，重新计算调度周期和cfs_rq的权重信息，在此基础上计算该状态下新任务的时间wall-time占比。需要注意的是这里只是虚构的计算，因为se还没有正式进入队列中，此时中间的计算结果都存储在局部变量中，并没有真正修改cfs_rq的整体权重信息。
NOTE: for_each_sched_entity与组调度有关，在这里可以认为组内只有se，因此循环可以去掉。
static u64 sched_slice(struct cfs_rq *cfs_rq, struct sched_entity *se)
{
/* 重新计算调度周期 */
u64 slice = __sched_period(cfs_rq->nr_running + !se->on_rq);
for_each_sched_entity(se) {
struct load_weight *load;
struct load_weight lw;
cfs_rq = cfs_rq_of(se);
load = &cfs_rq->load;
/* 加上新任务的权重后重新计算队列的权重 */
if (unlikely(!se->on_rq)) {
lw = cfs_rq->load;
update_load_add(&lw, se->load.weight);
load = &lw;
}
/* 在加上新任务权重的基础上计算新任务的物理时间片 */
slice = __calc_delta(slice, se->load.weight, load);
}
return slice;
}
3.2 更新new-task的vruntime，这里用了max_vruntime取当前se->vruntime和vruntime之间的较大值，要保证vruntime永远保持单调不减。
4. sysctl_sched_child_runs_first是一个系统参数，表示让新创建的进程优先运行。当curr存在（curr创建了新任务）并且curr的vruntime小于新任务的vruntime，此时需要对调父子进程间的vruntime，然后设置curr的TIF_NEED_RESCHED标志位，在下一个调度时机出现时抢占curr。
5. 最后一步，设置新任务的vruntime为相对值，因为有可能由于负载均衡等原因新任务唤醒时的获取的cpu并不是当前计算vruntime的cpu。在唤醒时新任务的vruntime会加上cfs_rq的min_vruntime。
至此，一个新的normal-task被cfs_rq调度需要的优先级（权重值）、vruntime都已就绪。下一步就需要正式将新任务放入cfs_rq中。
新任务入队
当__do_fork中新任务的所有初始化操作都完成以后需要调用wake_up_new_task唤醒新任务，此时才会将任务入队。新任务进队需要两步，首先将新任务放入rb-tree中并更新相关信息，第二步检查抢占条件。
void wake_up_new_task(struct task_struct *p)
{
struct rq *rq;
p->state = TASK_RUNNING;
/* 1. 入队 */
activate_task(rq, p, ENQUEUE_NOCLOCK);
p->on_rq = TASK_ON_RQ_QUEUED;
/* 2. 检查抢占 */
check_preempt_curr(rq, p, WF_FORK);
}
进入就绪队列
activate_task通过逐层调用最终会走入enqueue_task_fair。enqueue_task_fair会找到se所属的cfs_rq然后调用enqueue_entity将se正式入队。
static void
enqueue_task_fair(struct rq *rq, struct task_struct *p, int flags)
{
struct cfs_rq *cfs_rq;
struct sched_entity *se = &p->se;
for_each_sched_entity(se) {
if (se->on_rq)
break;
cfs_rq = cfs_rq_of(se);
/* 入队 */
enqueue_entity(cfs_rq, se, flags);
cfs_rq->h_nr_running++;
}
if (!se)
add_nr_running(rq, 1);
}
enqueue_entity负责修复新任务的vruntime，然后按照vruntime将其插入到rb-tree中。
static void
enqueue_entity(struct cfs_rq *cfs_rq, struct sched_entity *se, int flags)
{
bool renorm = !(flags & ENQUEUE_WAKEUP) || (flags & ENQUEUE_MIGRATED); /* true */
bool curr = cfs_rq->curr == se; /* false */
/* 1. cfs_rq->curr == se && 不是唤醒和迁移 */
if (renorm && curr)
se->vruntime += cfs_rq->min_vruntime;
update_curr(cfs_rq);
/* 2. cfs_rq->curr != se && 不是唤醒和迁移 */
if (renorm && !curr)
se->vruntime += cfs_rq->min_vruntime;
/* 3. 将se插入到rb-tree */
if (!curr)
__enqueue_entity(cfs_rq, se);
se->on_rq = 1;
}
enqueue_entity主要流程如下：
1. renorm表示需要重新归一化，当flags中既不包含ENQUEUE_WAKEUP也不包含ENQUEUE_MIGRATED时为true，换句话说不是唤醒和迁移产生的入队时为true。curr表示cfs_rq->curr是否与se一致。因此在此情况下，renorm && curr表示一个正在运行的进程由于时间片用完导致重新入队，此时修复se->vruntime必须在update_curr之前，因为update_curr更新cfs_rq->min_vruntime会考虑se->vruntime，但是此时的se->vruntime是无意义的。
2. 新任务的不会进入1号分支，而是进入二号分支，此时会恢复新任务的vruntime。
3. __enqueue_entity会将新任务的调度实体se放入rb-tree中。
static void __enqueue_entity(struct cfs_rq *cfs_rq, struct sched_entity *se)
{
struct rb_node **link = &cfs_rq->tasks_timeline.rb_root.rb_node;
struct rb_node *parent = NULL;
struct sched_entity *entry;
bool leftmost = true;
/* 3.1 查找合适的位置 并且记录是否为`vruntime`最小的`se`*/
while (*link) {
parent = *link;
entry = rb_entry(parent, struct sched_entity, run_node);
if (entity_before(se, entry)) {
link = &parent->rb_left;
} else {
link = &parent->rb_right;
leftmost = false;
}
}
/* 3.2 插入红黑树 并且更新缓存节点信息*/
rb_link_node(&se->run_node, parent, link);
rb_insert_color_cached(&se->run_node,
&cfs_rq->tasks_timeline, leftmost);
}
3.1 在从根节点向下搜索寻找合适位置时会顺带记录新节点是否为vruntime最小的节点（rb-tree最左下角的节点），如果出现一次向右搜索则leftmost为false。
3.2 执行红黑树的插入操作，如果有必要顺带更新vruntime最小的节点信息。
检查抢占条件
当任务通过activate_task成功入队以后，check_preempt_curr会检查是否满足抢占条件。
void check_preempt_curr(struct rq *rq, struct task_struct *p, int flags)
{
const struct sched_class *class;
/* 1. rq->curr 和 p 属于同一个调度类 */
if (p->sched_class == rq->curr->sched_class) {
rq->curr->sched_class->check_preempt_curr(rq, p, flags);
} else {
/* 2. 检查p的调度类优先级顺序 */
for_each_class(class) {
if (class == rq->curr->sched_class)
break;
if (class == p->sched_class) {
/* 3. 高优先级抢占低优先级 */
resched_curr(rq);
break;
}
}
}
}
抢占存在两种情况，第一种是同一调度类中的task之间互相抢占，另一种是高优先级调度类的task抢占低优先级调度类的task。
1. 对于第一种情况，具体的抢占策略交给调度类自己实现，对应到CFS中就是check_preempt_wakeup。
从函数名上看，该函数做的是唤醒抢占检查，这里我去掉和组调度相关的内容。有几种特殊情况可以快速结束抢占检查：
- 已有抢占标记时，不需要检查，抢占失败。
- 非IDLE任务抢占IDLE任务时，不需要检查，直接标记抢占成功。
- 试图发起抢占的任务是BATCH或者IDLE策略时，不需要检查，抢占失败。
- 没有开启唤醒抢占特性时，不需要检查，抢占失败。
static void check_preempt_wakeup(struct rq *rq, struct task_struct *p, int wake_flags)
{
struct task_struct *curr = rq->curr;
struct sched_entity *se = &curr->se, *pse = &p->se;
/* 1. 已有抢占标记 */
if (test_tsk_need_resched(curr))
return;
/* 2. 非IDLE任务抢占IDLE任务 */
if (unlikely(curr->policy == SCHED_IDLE) &&
likely(p->policy != SCHED_IDLE))
goto preempt;
/* 3. 非SCHED_NORMAL任务不允许抢占 未开启唤醒抢占特性时不允许抢占*/
if (unlikely(p->policy != SCHED_NORMAL) || !sched_feat(WAKEUP_PREEMPTION))
return;
update_curr(cfs_rq_of(se));
/* 4. 检查是否满足唤醒抢占粒度 */
if (wakeup_preempt_entity(se, pse) == 1) {
goto preempt;
}
return;
preempt:
resched_curr(rq);
}
如果以上条件都不满足时，还需要检查抢占是否满足唤醒粒度。唤醒粒度的目的是减少不必要的唤醒抢占，如果se->vruntime仅仅比curr->vruntime大一点点就发生抢占是不合理的，抢占也是有开销的。因此抢占需要保证vruntime之间的差值超过gran，gran由唤醒粒度sysctl_sched_wakeup_granularity影响（默认值为1 msec * (1+ logi(nrcpu))，比如8核cpu的默认唤醒粒度为4 msec）。但是此处没有直接使用唤醒粒度，而是根据se的权重信息将sysctl_sched_wakeup_granularity转化为vruntime，这样做的目的是如果se的优先级高于curr，gran会变小，一定程度上提高了高优先级抢占低优先级的概率。
/*
* Should 'se' preempt 'curr'.
*
* |s1
* |s2
* |s3
* g
* |<--->|c
*
* w(c, s1) = -1
* w(c, s2) = 0
* w(c, s3) = 1
*
*/
static int
wakeup_preempt_entity(struct sched_entity *curr, struct sched_entity *se)
{
s64 gran, vdiff = curr->vruntime - se->vruntime;
if (vdiff <= 0)
return -1;
gran = wakeup_gran(se);
if (vdiff > gran)
return 1;
return 0;
}
2. 第二种情况比较简单，按照优先级从高到底遍历调度类，如果是p任务优先匹配成功说明调度类的优先级更高，满足抢占条件。
总结
一个CFS的task从开始创建到进入可以被调度的状态需要两步（仅考虑调度），第一步初始化调度的信息。主要在sched_fork中完成，在初始化进程的优先级、调度类、权重信息以后，如果是CFS进程调用task_fork_fair初始化vruntime。第二步正式将信息初始化好的新任务放入就绪队列，在这个过程中会更新vruntime然后放入rb-tree中，在结束前还会进行一次抢占检查，检查新任务能否抢占当前运行的任务。
浙公网安备 33010602011771号