Promise.all并发限制

sutaking 发布于2019-08-23 11:58 / 1702人阅读

摘要：并发限制指的是，每个时刻并发执行的数量是固定的，最终的执行结果还是保持与原来的一致。换句话说，就是把生成数组的控制权，交给并发控制逻辑。

背景

通常，我们在需要保证代码在多个异步处理之后执行，会用到：

Promise.all(promises: []).then(fun: function);

Promise.all可以保证，promises数组中所有promise对象都达到resolve状态，才执行then回调。

这时候考虑一个场景：如果你的promises数组中每个对象都是http请求，或者说每个对象包含了复杂的调用处理。而这样的对象有几十万个。

那么会出现的情况是，你在瞬间发出几十万http请求（tcp连接数不足可能造成等待），或者堆积了无数调用栈导致内存溢出。

这时候，我们就需要考虑对Promise.all做并发限制。

Promise.all并发限制指的是，每个时刻并发执行的promise数量是固定的，最终的执行结果还是保持与原来的Promise.all一致。

实现

我们知道，promise并不是因为调用Promise.all才执行，而是在实例化promise对象的时候就执行了，在理解这一点的基础上，要实现并发限制，只能从promise实例化上下手。

换句话说，就是把生成promises数组的控制权，交给并发控制逻辑。

这里我并不打算一步步实现这个这个功能，npm中有很多实现这个功能的第三方包，比如async-pool、es6-promise-pool、p-limit，这里我直接拿async-pool的代码来分析一下实现原理。

代码很简单，去掉不必要的代码，加上自己的注释，大概内容如下：

function asyncPool(poolLimit, array, iteratorFn) {
    let i = 0;
    const ret = [];
    const executing = [];
    const enqueue = function () {
        // 边界处理，array为空数组
        if (i === array.length) {
            return Promise.resolve();
        }
        // 每调一次enqueue，初始化一个promise
        const item = array[i++];
        const p = Promise.resolve().then(() => iteratorFn(item, array));
        // 放入promises数组
        ret.push(p);
        // promise执行完毕，从executing数组中删除
        const e = p.then(() => executing.splice(executing.indexOf(e), 1));
        // 插入executing数字，表示正在执行的promise
        executing.push(e);
        // 使用Promise.rece，每当executing数组中promise数量低于poolLimit，就实例化新的promise并执行
        let r = Promise.resolve();
        if (executing.length >= poolLimit) {
            r = Promise.race(executing);
        }
        // 递归，直到遍历完array
        return r.then(() => enqueue());
    };
    return enqueue().then(() => Promise.all(ret));
}

因为是promise加上递归，所以在代码注释上不太好标注执行顺序，但是大概的逻辑可以总结为：

从array第1个元素开始，初始化promise对象，同时用一个executing数组保存正在执行的promise

不断初始化promise，直到达到poolLimt

使用Promise.race，获得executing中promise的执行情况，当有一个promise执行完毕，继续初始化promise并放入executing中

所有promise都执行完了，调用Promise.all返回

使用方式就是：

const timeout = i => new Promise(resolve => setTimeout(() => resolve(i), i));
return asyncPool(2, [1000, 5000, 3000, 2000], timeout).then(results => {
    ...
});

总结

所谓promise并发限制，其实根源上就是控制promise的实例化。如果是通过第三方函数，那么就把创建promise的控制权交给第三方即可。

然而这样的实现效果，本质上来说已经抛弃了Promise.all而另辟蹊径。所以期待有一天promise标准能提供这个功能

混合云超融合服务器并发请求限制 ecs 并发限制限制IP并发数 linux并发数限制

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/97763.html

小程序图片合成：异步并发渲染→同步阻塞渲染

摘要：故事开始了，小程序图片合成真机测试时，会报错。所以只能将异步并发改为同步阻塞式渲染。 showImg(https://segmentfault.com/img/remote/1460000013228074); 故事开始了，小程序canvas图片合成真机测试时，会报错：getImageInfo failed 。也就是说，我这边异步请求50张图片，每张图片都是通过getImageInf...

zhoutao 2019-08-26 11:36 评论0 收藏0
async/await 异步应用的常用场景

摘要：下面将简单地描述一下一些日常常用场景加深对认识最普遍的异步操作就是请求我们也可以用来简单模拟异步请求。其中是必须的如果省略了程序就不能按预期得到结果。前言 async/await 语法用看起来像写同步代码的方式来优雅地处理异步操作,但是我们也要明白一点,异步操作本来带有复杂性,像写同步代码的方式并不能降低本质上的复杂性,所以在处理上我们要更加谨慎, 稍有不慎就可能写出不是预期执行的代...

ermaoL 2019-08-02 16:18 评论0 收藏0
async/await 异步应用的常用场景

摘要：下面将简单地描述一下一些日常常用场景加深对认识最普遍的异步操作就是请求我们也可以用来简单模拟异步请求。其中是必须的如果省略了程序就不能按预期得到结果。前言 async/await 语法用看起来像写同步代码的方式来优雅地处理异步操作,但是我们也要明白一点,异步操作本来带有复杂性,像写同步代码的方式并不能降低本质上的复杂性,所以在处理上我们要更加谨慎, 稍有不慎就可能写出不是预期执行的代...

darkbug 2019-08-26 13:45 评论0 收藏0
async/await 异步应用的常用场景

摘要：下面将简单地描述一下一些日常常用场景加深对认识最普遍的异步操作就是请求我们也可以用来简单模拟异步请求。其中是必须的如果省略了程序就不能按预期得到结果。前言 async/await 语法用看起来像写同步代码的方式来优雅地处理异步操作,但是我们也要明白一点,异步操作本来带有复杂性,像写同步代码的方式并不能降低本质上的复杂性,所以在处理上我们要更加谨慎, 稍有不慎就可能写出不是预期执行的代...

宠来也 2019-08-30 10:53 评论0 收藏1
多个请求并发执行怎么写？

摘要：最近在写一个程序，功能是下载页面上的资源，首先拿到页面资源链接列表，如要求是资源并行下载，所有资源下载结束后通知，收集错误的下载链接。如果把上面模拟请求的注释去掉，还会发现是在结束后就执行了，而后面的请求还未结束。最近在写一个Node.js程序，功能是下载页面上的资源，首先拿到页面资源链接列表，如： [ https://xxx.com/img/logo.jpg, https:...

gself 2019-08-26 10:24 评论0 收藏0