LNMP的并发与资源分配优化的详解

写作背景
好久没有写博客了,前端时间来了一场说走就走的旅行,和爱人一起辞职,去云南玩了半个月,才刚回来,最近一段时间在找工作,没事就上网看看技术相关的文章,充充电,昨天偶尔发现一遍讲解LNMP的并发与资源分配的文章,感觉不错,和大家分享下。
很多时候面试官都会问你,你们的程序性能如何?程序的并发可以达到多少?程序的瓶颈在哪儿?为了满足业务需求应该购买多少台服务器?负载均衡中php应用服务器需要多少台?
可能这些问题在面试中会设置一个应用的场景及一些前提条件,让面试的人去设计,并提出看法建议,能够回答得很好的人还是比较少的。
概念
LNMP中的N是nginx充当Web Server
内容的分发者,会在文件系统找到相应的文件,就返回给浏览器,如:nginx。如果是静态的文件,就可以直接返回,但是如果是index.php需要解析并执行的脚本文件时,Web Server就无力了,需要将请求转发给相应的脚本语言的解析器来解释并执行,最终将程序的执行结果,返回给Web Server,再返回给浏览器。
LNMP中的P是php充当后端的逻辑处理程序
那么php与nginx的常规协作方式是如何的呢?需要我们明确几个概念
cgi
通用网关接口,是HTTP协议中描述的,Web Server与后端处理程序进程间通信的协议
php-cgi
php实现了cgi协议,使得web server与php共同完成一个动态网页的请求响应
fastcgi
是为了解决cgi性能问题,而规范的另外一种协议,为什么说解决cgi性能问题,因为在面对各大中型网站的业务需求中,cgi程序表现得越来越无力,因为cgi程序在每次接收到请求时都需要启动新的进程,并初始化环境,然后执行程序,具体的协议内容,在此不引述。
php-fpm
实现了fastcgi协议,是php-cgi的进程管理器,解决高并发网站的性能问题。
在最终回答LNMP的并发考虑与资源分配还需要明确的几个概念
并发
一般由单位内完成的请求数来衡量,如,每秒事务数(TPS),每秒HTTP请求数(HPS),每秒查询数(QPS)。通常情况下,我们说PHP的并发,都是指一秒内PHP完成的动态请求的次数。如某网站高峰期的动态请求并发为5000每秒,这个数字不算太高,但也不低。一般日活跃用户数在1000万-5000万的网站应用才能达到这个级别。
性能
一般是指应用程序的处理速度,如果php的应用程序,打开一个页面(执行一个脚本程序)通常需要在50-100ms完成,这对程序的性能要求还是比较高的。但是这还仅仅只是程序处理,php处理完成之后,还要交给web server,web server再将数据返回浏览器,这中间会有一个网络延迟,通常网络正常的情况下,需要大约100ms,最终一个动态网页的请求大约200ms(理想的情况下)可以到达用户浏览器端(仅仅是一个html结构)。
资源分配
php-fpm进程数
按照上面的描述,并发为5000每秒,每个请求完成大约200ms(具体页面要具体分析,这里只是一个理想值),如果只有5台PHP应用程序服务器,那么每台机器平均为并发1000每秒,如果是使用nginx+php-fpm的架构,php-fpm的php-cgi进程管理器的配置应该如何呢?我计算的结果为(具体的配置项说明在后文):
pm=static
pm.max_children=100
上面的100是如何得来的,由于机器平均并发为1000每秒,每个动态请求的处理时间为100ms,也就是说1个php-fpm的worker处理进程在1秒内可以处理10个请求,100个php-fpm的worker处理进程,就可以处理1000个请求。
当然需要结合服务器硬件资源来进行配置,如果配置不当,很容易在请求高峰期或者流量猛增导致服务器宕机。
网络带宽
网络带宽也会是一个重要的因素,如果你的服务处理很强,但是用户的请求和响应不能及时到达也是白忙活,这个参数如何计算呢?
并发5000每秒,每个请求的输出为20K,则5000x20K=100000K=100M
这就要求你的公网负载均衡器外网出口带宽至少要达到100M
内存
上述中100个php-fpm的worker处理进程,理论上如果服务器只运行php-fpm,那么我们可以将服务器内存的一半分配给php-fpm,通常情况下,我们可以认为一个php-fpm的worker处理进程占用内存20M,那么100x20M=2G,也就是说明服务器的内存大约为4G
CPU
由于php-fpm是一个多进程的模型应用,CPU进程调度消耗也是很大的,并且PHP应用程序有问题也会导致CPU占用率高,这就没有量化的指标,需要具体情况具体分析了。但是有一个小建议,可以部署一个crontab每隔一分钟检测cpu占用率超过多少就kill掉相应的php-fpm的worker处理进程。
php-fpm Unix Socket
如果nginx与php在同一台机器,nginx与php-fpm使用unix域套接字代替tcp socke进行通信,这个配置挺关键的,纯echo的ab测试,采用unix域套接字每秒请求数提升10%-20%
即nginx中配置:
fastcgi_pass unix:/data/server/var/php/php-fpm.sock;
php-fpm.conf中配置:
listen = /data/server/var/php/php-fpm.sock
最后遇到很多同学对php-fpm的进程管理器的核心配置不太了解,下面是我翻译的配置说明:
php-fpm配置项
pm
static 一个固定的值,由pm.max_children指定
dynamic 动态的(工作方式和Apache的prefork模式一致),但是保持至少一个,由
pm.max_children 在同一时间最大的进程数
pm.start_servers php-fpm启动时开启的等待请求到来的进程数
pm.min_spare_servers 在空闲状态下,运行的最小进程数,如果小于此值,会创建新的进程
pm.max_spare_servers 在空闲状态下,运行的最大进程数,如果大于此值,会kill部分进程
ondemand 启动时不会创建进程,当请求达到时创建子进程处理请求
pm.max_children 在同一时间最大的进程数
pm.process_idle_timeout 空闲多少秒之后进程会被kill
pm = static
pm.max_children
在同一时间最大的进程数
pm.max_children = 120
pm.start_servers
php-fpm启动时开启的等待请求到来的进程数,默认值为:min_spare_servers + (max_spare_servers – min_spare_servers) / 2
pm.start_servers = 80
pm.min_spare_servers
在空闲状态下,运行的最小进程数,如果小于此值,会创建新的进程
pm.min_spare_servers = 60
pm.max_spare_servers
在空闲状态下,运行的最大进程数,如果大于此值,会kill部分进程
pm.max_spare_servers = 120
pm.process_idle_timeout
空闲多少秒之后进程会被kill,默认为10s
pm.process_idle_timeout = 10s
pm.max_requests
每个进程处理多少个请求之后自动终止,可以有效防止内存溢出,如果为0则不会自动终止,默认为0
pm.max_requests = 5000
pm.status_path
注册的URI,以展示php-fpm状态的统计信息
pm.status_path = /status
其中统计页面信息有:
pool 进程池名称
process manager 进程管理器名称(static, dynamic or ondemand)
start time php-fpm启动时间
start since php-fpm启动的总秒数
accepted conn 当前进程池接收的请求数
listen queue 等待队列的请求数
max listen queue 自启动以来等待队列中最大的请求数
listen queue len 等待连接socket队列大小
idle processes 当前空闲的进程数
active processes 活动的进程数
total processes 总共的进程数(idle+active)
max active processes 自启动以来活动的进程数最大值
max children reached 达到最大进程数的次数
ping.path
ping url,可以用来测试php-fpm是否存活并可以响应
ping.path = /ping
ping.response
ping url的响应正文
ping.response = pong

时间: 2024-10-13 12:07:08

LNMP的并发与资源分配优化的详解的相关文章

Java并发编程总结——慎用CAS详解_java

一.CAS和synchronized适用场景 1.对于资源竞争较少的情况,使用synchronized同步锁进行线程阻塞和唤醒切换以及用户态内核态间的切换操作额外浪费消耗cpu资源:而CAS基于硬件实现,不需要进入内核,不需要切换线程,操作自旋几率较少,因此可以获得更高的性能. 2.对于资源竞争严重的情况,CAS自旋的概率会比较大,从而浪费更多的CPU资源,效率低于synchronized.以java.util.concurrent.atomic包中AtomicInteger类为例,其getAn

正则表达式的优化全面详解( 三江小渡)_正则表达式

就像之前写的mysql全面优化详解一样,就是因为这样工具应用十分广泛,所以对这样的工具全面的进行优化策略总结是非常划算的,因为无论你是PHP.Perl.Python.C++.C#.Java等等语言的程序员,你都是有非常大可能用上Mysql.正则表达式这样的工具的. 先说一下你可能不知道的一点关于正则表达式的知识,这对我们将来的优化是有用的. 大家常见的grep(global regular expression print)算是现在的正则的起源吧(从神经学家提出正则概念到数学家建立模型到被IBM

CentOS6.3下nginx性能优化配置详解(1/2)

一.NGINX优化配置 1.主配置文件优化: # vi /usr/local/nginx/conf/nginx.conf ----------------------------------------- user nginx nginx; worker_processes 8; worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000; error_log  /usr/local/ngi

浅谈TCP/IP优化方法详解

很多人常常对TCP优化有一种雾里看花的感觉,实际上只要理解了TCP的运行方式就能掀开它的神秘面纱.Ilya Grigorik 在「High Performance Browser Networking」中做了很多细致的描述,让人读起来醍醐灌顶,我大概总结了一下,以期更加通俗易懂.   流量控制 传输数据的时候,如果发送方传输的数据量超过了接收方的处理能力,那么接收方会出现丢包.为了避免出现此类问题,流量控制要求数据传输双方在每次交互时声明各自的接收窗口「rwnd」大小,用来表示自己最大能保存多少

正则表达式的优化全面详解( 三江小渡)

就像之前写的mysql全面优化详解一样,就是因为这样工具应用十分广泛,所以对这样的工具全面的进行优化策略总结是非常划算的,因为无论你是PHP.Perl.Python.C++.C#.Java等等语言的程序员,你都是有非常大可能用上Mysql.正则表达式这样的工具的. 先说一下你可能不知道的一点关于正则表达式的知识,这对我们将来的优化是有用的. 大家常见的grep(global regular expression print)算是现在的正则的起源吧(从神经学家提出正则概念到数学家建立模型到被IBM

tomcat的并发优化配置详解

tomcat的并发优化,用于提高并发连接数  代码如下 复制代码 <Connector port="8087" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8444" URIEncoding="UTF-8"  maxHttpHeaderSize="8192" maxThreads="50000&q

关于MYSQL的优化全面详解_Mysql

先说一下最常见基本的系统瓶颈: 1.硬盘搜索.现代磁盘的平均时间通常小于10ms,因此理论上我们每秒能够大约搜索1000次,这样我们在这样一个磁盘上搜索一个数据,很难优化,一个办法就是将数据分布在多个磁盘. 2.IO读写.就磁盘来讲,一般传输10-20Mb/s,同样的,优化可以从多个磁盘并行读写. 3.CPU周期.我们将数据读入内存后,需要对它进行处理并获取我们需要的结果.表相对于内存较小时常见的限制因素.但是对于小表,速度通常不成问题. 4.内存带宽.当CPU需要的数据超出CPU缓存,主缓存带

linux中512M VPS内存优化步骤详解

512M的VPS优化apache内存 查看目前占用内存 Ps aux|grep httpd 基本一个占用50M左右 ps aux|grep httpd | wc –l 一共13个,减去grep httpd 那行 12个,说明占用大约600M 超过了服务器512M内存, (相比之下nginx主进程占用50M,带着php-fpm跑,一个fpm占用2M,开启10个fpm进程,一共70M的内存就足够了.) 标准Linux Apache配置在Apache的配置文件在/etc/httpd/conf/http

LNMP一键安装包安装配置方法详解

系统需求: CentOS/RHEL/Fedora/Debian/Ubuntu/Raspbian Linux系统 需要3GB以上硬盘剩余空间 需要128MB以上内存(如果为128MB的小内存VPS,Xen的需要有SWAP,OpenVZ的至少要有128MB以上的vSWAP或突发内存),注意小内存请勿使用64位系统! 安装MySQL 5.6或5.7及MariaDB 10必须1G以上内存!. VPS或服务器必须已经联网,且必须设置的是网络源不能是光盘源,同时VPS/服务器 DNS要正常! Linux下区