Swoole 4.4 协程抢占式调度器详解

Bowman_han 发布于2019-07-01 12:48 / 2016人阅读

摘要：抢占式调度我们在今年年初就计划实现的抢占式调度，以满足实现有些场景下的不均衡调度带来的问题。考虑开线程，负责检查当前执行协程执行时间。达到我们的第二个协程主动抢占第一个协程的效果。

前言

Swoole内核团队开设的专栏，会逐渐投入精力写文章介绍Swoole的开发历程，实现原理，应用实践等，大家可以更好的交流，共同学习，建设PHP生态。

协程调度

去年Swoole推出了4.0版本后，完整的支持PHP协程，我们可以基于协程实现CSP编程，身边的开发者惊呼，原来PHP代码还可以这样写。Swoole的协程默认是基于IO调度，程序中有阻塞会自动让出当前协程，协程的各种优势我们不在这里展开讨论。如果是IO密集型的场景，可以表现得很不错。但是对于CPU密集型的场景，会导致一些协程因为得不到CPU时间片被饿死。

抢占式调度

我们在今年年初就计划实现Swoole的抢占式调度，以满足实现有些场景下的不均衡调度带来的问题。我们中间经历了几个版本，在这里和大家分享一下开发过程中的动机和解决办法。

我们目的是为了均衡调度每个协程的CPU时间，比如协程3需要比较长的执行时间，我们必须把协程3的CPU时间主动中断，而不依赖IO事件，使得每个协程得到平均的执行时间。

起初，我们的想法是可以从PHP的循环中自动检测执行实践，若达到限制，可以自动让出当前协程。因为毕竟很少有人一马平川的写出占用很多CPU的代码，大都通过循环条件来控制。我们hook循环指令，每次执行循环指令的时候，都来检查协程的执行时间，我们很欣喜的得到了最初的版本。但是这样做比较hack，而且opcode经过opcache优化后，情况会变得有些复杂。

后来我们使用PHP的ticks机制，也就是在PHP代码编译期间，注入ticks指令，可以执行相应的函数，我们可以在这些函数中检测处理协程的时间，达到抢占式的效果，但是这里有一个问题，PHP的declare(ticks=N)语法，只对当前脚本范围有效，也就是说项目稍微大点，require或者include进来的脚本，并不会自动注入ticks指令，这样Swoole开发者几乎是无法接受的。我们也试图给PHP官方提一个PR，可以在扩展层设置一个全局默认的ticks，但是官方不愿意采纳我们的提交，因为官方觉得这个功能对性能损耗比较大，而且有可能在PHP8移除这个功能。其实经过实测这个性能损耗并不大，而且我们已经在生产环境验证，并取得了显著的效果，即可以让出某些CPU密集的逻辑部分，使得服务整个相应时间更加均衡。
下图是我们生产环境一个RPC接口的调用端统计数据对比，客户端等待超时时间为2s,超时则统计为错误。

左边一侧是没有抢占式调度，右侧是开了抢占式调度，可以发现，左侧总是会有偶尔超时情况，而经过优化之后，没有一个超时的请求，请求响应时间非常平滑，提升了服务的稳定性。

可以从上图看出，由于抢占式调度的加入，去除了请求耗时高的毛刺，使得平均请求时间变得更加平滑，稳定。

想要做抢占式调度，对于PHP来说，有两个途径

单线程的PHP的执行流，通过执行指令做文章，可以在PHP执行流程中注入逻辑，以检查执行时间，再加上Swoole的协程能力，可以在不同的协程中切换，以达到抢占CPU的目的。

考虑开线程，负责检查当前执行协程执行时间。

经过以上办法的尝试，注入指令的路数基本是无法得到官方的支持，我们只能另谋出路，多开一个线程，只负责检查当前协程。具体的做法是，利用PHP-7.1.0引入的VM interrupt机制，默认每隔5ms检查一下当前协程是否达到最大执行时间，默认为10ms，如果超过，则让出当前协程，达到被其他协程抢占的目的。

示例代码

需要Swoole 4.4或更高版本

执行结果

start
coro 1 start to loop
use time 11.121988296509
coro 2 set flag = false
end
coro 1 can exit

可以发现，代码逻辑可以从第一个协程的死循环中自动yield出来,执行第二个协程，如果没有这个特性，第二个协程永远不会被执行，导致被饿死。而这样做，第二个协程可以顺利被执行，最后执行结束后，第一个协程也会接着继续往下执行。达到我们的第二个协程主动抢占第一个协程CPU的效果。

这个特性在生产环境非常有用，尤其是对于实时系统或者响应时间比较敏感的场景。

最后

感谢大家对 Swoole 的长期支持和关注。

专线服务混合云 java线程抢占式 java抢占式线程阿里云抢占式服务器开通阿里云抢占式服务器在哪里开通

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/31532.html

Swoole协程之旅-前篇

摘要：协程完全有用户态程序控制，所以也被成为用户态的线程。目前支持协程的语言有很多，例如等。协程之旅前篇结束，下一篇文章我们将深入分析原生协程部分的实现。写在最前 Swoole协程经历了几个里程碑，我们需要在前进的道路上不断总结与回顾自己的发展历程，正所谓温故而知新，本系列文章将分为协程之旅前、中、后三篇。前篇主要介绍协程的概念和Swoole几个版本协程实现的主要方案技术；中篇主...

terasum 2019-07-01 12:42 评论0 收藏0
PHP回顾之协程

摘要：本文先回顾生成器，然后过渡到协程编程。其作用主要体现在三个方面数据生成生产者，通过返回数据数据消费消费者，消费传来的数据实现协程。解决回调地狱的方式主要有两种和协程。重点应当关注控制权转让的时机，以及协程的运作方式。转载请注明文章出处： https://tlanyan.me/php-review... PHP回顾系列目录 PHP基础 web请求 cookie web响应 sess...

Java3y 2019-07-01 12:30 评论0 收藏0
PHP下的异步尝试二：初识协程

摘要：如果仅依靠程序自动交出控制的话，那么一些恶意程序将会很容易占用全部时间而不与其他任务共享。多个操作可以在重叠的时间段内进行。 PHP下的异步尝试系列如果你还不太了解PHP下的生成器，你可以根据下面目录翻阅 PHP下的异步尝试一：初识生成器 PHP下的异步尝试二：初识协程 PHP下的异步尝试三：协程的PHP版thunkify自动执行器 PHP下的异步尝试四：PHP版的Promise ...

MudOnTire 2019-07-01 10:44 评论0 收藏0
实时联网游戏后台服务技术选型与挑战（网络接入篇）

摘要：概述本系列文章将从开发者角度梳理开发实时联网游戏后台服务过程中可能面临的挑战，并针对性地提供相应解决思路，期望帮助开发者依据自身游戏特点做出合理的技术选型。多路复用避免了读写阻塞，减少了上下文切换，提升了利用率和系统吞吐率。概述：本系列文章将从开发者角度梳理开发实时联网游戏后台服务过程中可能面临的挑战，并针对性地提供相应解决思路，期望帮助开发者依据自身游戏特点做出合理的技术选型。关...

zhisheng 2019-08-16 12:32 评论0 收藏0