摘要：，，等问题大家都已经司空见惯，那么千万并发连接呢今天就来一起挑战一下。下面我们使用库自带的例子程序，来跑出一个单机千万并发连接的实例，先上操作步骤，后面解释。
c10k，c100k，c1000k等问题大家都已经司空见惯，那么10m（千万）并发连接呢？今天就来一起挑战一下。
下面我们使用handy库自带的例子程序，来跑出一个单机千万并发连接的实例，先上操作步骤，后面解释。
准备机器
10m连接，大家的个人电脑肯定无法满足要求，如果不是在大公司任职，弄个实际的物理机对大家是个奢望。那么怎么办？我也面临同样问题。
现在的云计算这么发达，还可以按小时计费，一小时的费用也就几元，那就试试云计算产品吧。小编先是在阿里云上测试，但阿里云的按需付费主机配置不高，费了不少时间，最终只跑到了3m个连接。阿里云的不行，是主机的配置问题还是程序的问题呢？为了得到最终的结论，我尝试了其他的云产品，最终ucloud的云主机给了我兴奋的答案。
首先创建ucloud主机
ucloud主机（一共需要两台，一台作为服务器，一台作为客户端）：
. 选择主机管理的创建主机
. 系统选择ubuntu14.4 64bit （小编的测试程序是c++11，需要高版本的g++）
. 机型标准版
. 网络增强一定要选择开启 （千万连接是网络IO密集型，网络当然要强大型）
. cpu 16核 内存64G 数据盘0
. 下一步中的网络类型选择基础网络即可，创建主机之后，需要购买弹性ip，并且绑定到主机
. 价格：小编实验时，上述的配置，一台仅需7.2元一小时，两台不到15元
做实验的时候，大家记得要眼疾手快哦，一小时十几元，获得了自己想要的结果就赶紧释放主机哈
调整系统参数
10m并发连接对系统是个挑战，需要调整相关的参数
sysctl -w fs.file-max=10485760 #系统允许的文件描述符数量10m
sysctl -w net.ipv4.tcp_rmem=1024 #每个tcp连接的读取缓冲区1k，一个连接1k，10m只需要10G
sysctl -w net.ipv4.tcp_wmem=1024 #每个tcp连接的写入缓冲区1k
sysctl -w net.ipv4.ip_local_port_range="1024 65535" #修改默认的本地端口范围
sysctl -w net.ipv4.tcp_tw_recycle=1 #快速回收time_wait的连接
sysctl -w net.ipv4.tcp_tw_reuse=1
sysctl -w net.ipv4.tcp_timestamps=1
echo "* soft nofile 1048576" >> /etc/security/limits.conf #用户单进程的最大文件数，用户登录时生效
echo "* hard nofile 1048576" >> /etc/security/limits.conf #用户单进程的最大文件数，用户登录时生效
ulimit -n 1048576 #用户单进程的最大文件数 当前会话生效
部署程序
下面可以开始部署我们的测试程序了
apt-get update
apt-get install -y screen git make g++ nload iptraf
git clone https://github.com/yedf/handy
cd handy
git checkout 97b5426f91d37
make -j4
运行测试程序
选取一台主机S作为服务器，运行服务器
10m/10m-svr 100 300 10 301 #启动10个子进程，每个进程分别监听100-300的端口
选取另一台主机C作为客户端，运行客户端，（需要填写S的内网ip）
10m/10m-cli 100 300 10000000 500 10 600 64 301 #启动10个客户端子进程，每600秒发送一个心跳
观察结果
然后，10m连接的建立就不需要更多的步骤啦，使用命令
watch ss -s
我们就可以开始观察连接的创建进度啦，看着连接渐渐的往上走，超过10k，100k, 1m是不是很有成就感。
说明
并发连接数到达千万时，有诸多方面的问题需要解决：
. 单进程最大文件数量限制：limit -n 最多能把这个数字修改到1048575，因此单个进程最多能够打开百万个文件，千万并发连接需要千万个文件描述符，于是我们使用多进程来做到千万文件的支持
.多进程之间的负载均衡：nginx使用多进程来增加自己的吞吐量，采用共享锁的方式来平衡负载，对核数较多的服务器，较多的进程并没有达到性能的线性提升。最新的linux内核引入了SO_REUSEPORT选项，该选项可以自动平衡监听同一端口的多进程，是内核级的解决方案。handy采用该方案，优于nginx的共享锁。
.测试中客户端本地端口不够：让服务器监听了200个端口，这样客户端连接服务器的每个端口只有50k个连接，然后加大默认的本地端口范围就可以满足要求（见前面的服务器系统参数）
测试中如果一次性创建千万个连接，则绝大部分的连接创建都会失败，因此让客户端每100ms创建2000个连接，提高连接创建的成功率。
系统在运行中，并没有多少的负载，当然啦，一部分负载跑到底层的hypervisor去了
小编实验的机器上内存占用大约40G，平均一个连接前后一共用了4k，不多不多
大家可以通过iptraf，nload等工具来查看系统的网络情况
写到这里，顺便给出我测是的ucloud主机的性能参数吧：
网卡流量最多可以到1.2GBit/s，并非所有时间都到了这么高，并不稳定，一般在800M-1.2G之间波动
tcp收包发包的最高qps是12w/s，多了就上不去了
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/15323.html
摘要：，，等问题大家都已经司空见惯，那么千万并发连接呢今天就来一起挑战一下。下面我们使用库自带的例子程序，来跑出一个单机千万并发连接的实例，先上操作步骤，后面解释。 c10k，c100k，c1000k等问题大家都已经司空见惯，那么10m（千万）并发连接呢？今天就来一起挑战一下。下面我们使用handy库自带的例子程序，来跑出一个单机千万并发连接的实例，先上操作步骤，后面解释。 准备机器 10m...
摘要：对端，通过增加内存修改最大文件描述符个数等参数，单机最大并发连接数超过万甚至上百万是没问题的，国外公司在产品环境中已做到万并发 [TOC] 前言 曾几何时我们还在寻求网络编程中C10K问题的解决方案，但是现在从硬件和操作系统支持来看单台服务器支持上万并发连接已经没有多少挑战性了。 我们先假设单台服务器最多只能支持万级并发连接，其实对绝大多数应用来说已经远远足够了，但是对于一些拥有很大用...
摘要：表示的是两个，当其中任意一个计算完并发编程之是线程安全并且高效的，在并发编程中经常可见它的使用，在开始分析它的高并发实现机制前，先讲讲废话，看看它是如何被引入的。电商秒杀和抢购，是两个比较典型的互联网高并发场景。 干货：深度剖析分布式搜索引擎设计 分布式，高可用，和机器学习一样，最近几年被提及得最多的名词，听名字多牛逼，来，我们一步一步来击破前两个名词，今天我们首先来说说分布式。 探究...
阅读 2068·2021-11-17 09:33
阅读 697·2021-10-13 09:40
阅读 373·2019-08-30 15:54
阅读 662·2019-08-29 15:38
阅读 2315·2019-08-28 18:15
阅读 389·2019-08-27 14:19
阅读 2347·2019-08-26 13:38
阅读 1712·2019-08-26 13:36
