linux高并发的概念是什么

共计 2532 个字符，预计需要花费 7 分钟才能阅读完成。

本文丸趣 TV 小编为大家详细介绍“linux 高并发的概念是什么”，内容详细，步骤清晰，细节处理妥当，希望这篇“linux 高并发的概念是什么”文章能帮助大家解决疑惑，下面跟着丸趣 TV 小编的思路慢慢深入，一起来学习新知识吧。

在 linux 中，高并发是系统运行过程中遇到的一种“短时间内遇到大量操作请求”的情况，主要发生在 web 系统集中大量访问收到大量请求；该情况的发生会导致系统在这段时间内执行大量操作，例如对资源的请求，数据库的操作等。

一 高并发概念 1.1 高并发概念

高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。

高并发（High Concurrency）是一种系统运行过程中遇到的一种“短时间内遇到大量操作请求”的情况，主要发生在 web 系统集中大量访问收到大量请求（例如：12306 的抢票情况；天猫双十一活动）。该情况的发生会导致系统在这段时间内执行大量操作，例如对资源的请求，数据库的操作等。

1.2 高并发相关指标

响应时间 (Response Time)

系统对请求做出响应的时间。例如系统处理一个 HTTP 请求需要 200ms，这个 200ms 就是系统的响应时间

吞吐量 (Throughput)

单位时间内处理的请求数量

每秒查询率 QPS(Query Per Second)

每秒响应请求数。在互联网领域，这个指标和吞吐量区分的没有这么明显

并发用户数 (User Concurrence)

同时承载正常使用系统功能的用户数量。例如一个即时通讯系统，同时在线量一定程度上代表了系统的并发用户数

1.3 高并发优化方面

单进程最大打开文件数限制

内核 TCP 参数方面

IO 事件分配机制

二 提升系统的并发能力 2.1 垂直扩展

提升单机处理能力

增强单机硬件性能，例如：增加 CPU 核数如 32 核，升级更好的网卡如万兆，升级更好的硬盘如 SSD，扩充硬盘容量如 2T，扩充系统内存如 128G

提升单机架构性能，例如：使用 Cache 来减少 IO 次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间

2.2 水平扩展

增加服务器数量，就能线性扩充系统性能

2.3 常见互联网分层架构

（1）客户端层：典型调用方是浏览器 browser 或者手机应用 APP

（2）反向代理层：系统入口，反向代理

（3）站点应用层：实现核心应用逻辑，返回 html 或者 json

（4）服务层：如果实现了服务化，就有这一层

（5）数据 - 缓存层：缓存加速访问存储

（6）数据 - 数据库层：数据库固化数据存储

2.4 水平扩展架构

反向代理层的水平扩展

当 nginx 成为瓶颈的时候，只要增加服务器数量，新增 nginx 服务的部署，增加一个外网 ip，就能扩展反向代理层的性能，做到理论上的无限高并发

通过“DNS 轮询”实现的：dns-server 对于一个域名配置了多个解析 ip，每次 DNS 解析请求来访问 dns-server，会轮询返回这些 ip

站点层的水平扩展

通过“nginx”实现的。通过修改 nginx.conf，可以设置多个 web 后端

当 web 后端成为瓶颈的时候，只要增加服务器数量，新增 web 服务的部署，在 nginx 配置中配置上新的 web 后端，就能扩展站点层的性能，做到理论上的无限高并发

服务层的水平扩展

通过“服务连接池”实现的

站点层通过 RPC-client 调用下游的服务层 RPC-server 时，RPC-client 中的连接池会建立与下游服务多个连接，当服务成为瓶颈的时候，只要增加服务器数量，新增服务部署，在 RPC-client 处建立新的下游服务连接，就能扩展服务层性能，做到理论上的无限高并发

数据层的水平扩展

user0 库，存储偶数 uid 数据

user1 库，存储奇数 uid 数据

user0 库，存储 uid 范围 1 -1kw

user1 库，存储 uid 范围 1kw-2kw

数据层（缓存，数据库）涉及数据的水平扩展，将原本存储在一台服务器上的数据（缓存，数据库）水平拆分到不同服务器上去，以达到扩充系统性能的目的。

存储一定范围的数据

按照哈希水平拆分

三 单台 Linux 服务器提升并发 3.1 iptables 相关

关闭 iptables 防火墙，阻止 kernel 加载 iptables 模块

单进程最大打开文件数限制（默认单个进程最大打开 1024 个文件）

ulimit –n 65535

修改 Linux 系统对用户的打开文件数的软限制和硬限制

vim /etc/security/limits.conf
* soft nofile 65535   # * 表示修改所有用户的限制 
* hard nofile 65535

# 用户完成系统登录后读取 /etc/security/limits.conf 文件 
vim /etc/pam.d/login
sessionrequired /lib/security/pam_limits.so

3.2 内核 TCP 参数

TIME_WAIT 状态

TCP 连接断开后，会以 TIME_WAIT 状态保留一定的时间，然后才会释放端口。当并发请求过多的时候，就会产生大量的 TIME_WAIT 状态的连接，无法及时断开的话，会占用大量的端口资源和服务器资源

# 查看 TIME_WAIT 状态连接
netstat -n | grep tcp | grep TIME_WAIT |wc -l

# vim /etc/sysctl.conf
net.ipv4.tcp_syncookies= 1 # 表示开启 SYNCookies。当出现 SYN 等待队列溢出时，启用 cookies 来处理，可防范少量 SYN 攻击，默认为 0，表示关闭；net.ipv4.tcp_tw_reuse= 1 # 表示开启重用。允许将 TIME-WAITsockets 重新用于新的 TCP 连接，默认为 0，表示关闭；net.ipv4.tcp_tw_recycle= 1 # 表示开启 TCP 连接中 TIME-WAITsockets 的快速回收，默认为 0，表示关闭；net.ipv4.tcp_fin_timeout= 30 # 修改系統默认的 TIMEOUT  时间。

读到这里，这篇“linux 高并发的概念是什么”文章已经介绍完毕，想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会，如果想了解更多相关内容的文章，欢迎关注丸趣 TV 行业资讯频道。