flyinweb's blog

摘要: Apache模块 mod_rewrite 提供了一个基于正则表达式分析器的重写引擎来实时重写URL请求。它支持每个完整规则可以拥有不限数量的子规则以及附加条件规则的灵活而且强大的URL操作机制。这里着重介绍 RewriteRule 规则以及参数说明。

　　这两天搭建了一组Apache服务器，每台服务器4G内存，采用的是prefork模式，一开始设置的连接数太少了，需要较长的时间去响应用户的请求，后来修改了一下Apache 2.0.59的配置文件httpd.conf：

# prefork MPM  
# StartServers: number of server processes to start  
# MinSpareServers: minimum number of server processes which are kept spare  
# MaxSpareServers: maximum number of server processes which are kept spare  
# MaxClients: maximum number of server processes allowed to start  
# MaxRequestsPerChild: maximum number of requests a server process serves  
 
StartServers         10  
MinSpareServers      10  
MaxSpareServers      15  
ServerLimit          2000  
MaxClients           2000  
MaxRequestsPerChild  10000 

　　查看httpd进程数（即prefork模式下Apache能够处理的并发请求数）：
　　Linux命令：

ps -ef | grep httpd | wc -l 

　　返回结果示例：
　　1388
　　表示Apache能够处理1388个并发请求，这个值Apache可根据负载情况自动调整，我这组服务器中每台的峰值曾达到过2002。

　　查看Apache的并发请求数及其TCP连接状态：
　　Linux命令：

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 

　　（这条语句是从 新浪互动社区事业部技术总监王老大那儿获得的，非常不错）
　　返回结果示例：
　　LAST_ACK 5
　　SYN_RECV 30
　　ESTABLISHED 1597
　　FIN_WAIT1 51
　　FIN_WAIT2 504
　　TIME_WAIT 1057
　　其中的SYN_RECV表示正在等待处理的请求数；ESTABLISHED表示正常数据传输状态；TIME_WAIT表示处理完毕，等待超时结束的请求数。

　　关于TCP状态的变迁，可以从下图形象地看出：

　　状态：描述
　　CLOSED：无连接是活动的或正在进行
　　LISTEN：服务器在等待进入呼叫
　　SYN_RECV：一个连接请求已经到达，等待确认
　　SYN_SENT：应用已经开始，打开一个连接
　　ESTABLISHED：正常数据传输状态
　　FIN_WAIT1：应用说它已经完成
　　FIN_WAIT2：另一边已同意释放
　　ITMED_WAIT：等待所有分组死掉
　　CLOSING：两边同时尝试关闭
　　TIME_WAIT：另一边已初始化一个释放
　　LAST_ACK：等待所有分组死掉

减少TCP连接中的TIME-WAIT

sockets[原创]
　　新增的一组Apache服务器上线以来，我用netstat -an命令发现服务器中有大量状态为TIME-WAIT的TCP连接，于是用/sbin/sysctl -a查看了一下Linux的各项内核参数，并翻阅有关资料，决定修改其中的两项参数，以达到减少TCP连接中TIME-WAIT sockets的目的。

vi /etc/sysctl.conf
　　编辑/etc/sysctl.conf文件，增加三行：

net.ipv4.tcp_syncookies = 1  
net.ipv4.tcp_tw_reuse = 1  
net.ipv4.tcp_tw_recycle = 1 

　　说明：
　　net.ipv4.tcp_syncookies = 1 表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭；
　　net.ipv4.tcp_tw_reuse = 1 表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接，默认为0，表示关闭；
　　net.ipv4.tcp_tw_recycle = 1 表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭。

　　再执行以下命令，让修改结果立即生效：

/sbin/sysctl -p 

　　用以下语句看了一下服务器的TCP状态：

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 

　　返回结果如下：
　　ESTABLISHED 1423
　　FIN_WAIT1 1
　　FIN_WAIT2 262
　　SYN_SENT 1
　　TIME_WAIT 962

　　效果：处于TIME_WAIT状态的sockets从原来的10000多减少到1000左右。处于SYN_RECV等待处理状态的sockets为0，原来的为50～300。减少Linux服务器TIME_WAIT过多问题

在Squid服务器中可输入如下命令:
#netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'

LAST_ACK 14
SYN_RECV 348
ESTABLISHED 70
FIN_WAIT1 229
FIN_WAIT2 30
CLOSING 33
TIME_WAIT 18122

状态：描述
CLOSED：无连接是活动的或正在进行
LISTEN：服务器在等待进入呼叫
SYN_RECV：一个连接请求已经到达，等待确认
SYN_SENT：应用已经开始，打开一个连接
ESTABLISHED：正常数据传输状态
FIN_WAIT1：应用说它已经完成
FIN_WAIT2：另一边已同意释放
ITMED_WAIT：等待所有分组死掉
CLOSING：两边同时尝试关闭
TIME_WAIT：另一边已初始化一个释放
LAST_ACK：等待所有分组死掉

也就是说，这条命令可以把当前系统的网络连接状态分类汇总。

下面解释一下为啥要这样写：

一个简单的管道符连接了netstat和awk命令。

——————————————————————

先来看看netstat：

netstat -n

Active Internet connections (w/o servers)
Proto Recv-Q Send-Q Local Address Foreign Address State
tcp 0 0 123.123.123.123:80 234.234.234.234:12345 TIME_WAIT

你实际执行这条命令的时候，可能会得到成千上万条类似上面的记录，不过我们就拿其中的一条就足够了。

——————————————————————

再来看看awk：

/^tcp/
滤出tcp开头的记录，屏蔽udp, socket等无关记录。

state[]
相当于定义了一个名叫state的数组

NF
表示记录的字段数，如上所示的记录，NF等于6

$NF
表示某个字段的值，如上所示的记录，$NF也就是$6，表示第6个字段的值，也就是TIME_WAIT

state[$NF]
表示数组元素的值，如上所示的记录，就是state[TIME_WAIT]状态的连接数

++state[$NF]
表示把某个数加一，如上所示的记录，就是把state[TIME_WAIT]状态的连接数加一

END
表示在最后阶段要执行的命令

for(key in state)
遍历数组

print key,”\t”,state[key]
打印数组的键和值，中间用\t制表符分割，美化一下。

如发现系统存在大量TIME_WAIT状态的连接，通过调整内核参数解决，
vim /etc/sysctl.conf
编辑文件，加入以下内容：
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_fin_timeout = 30
然后执行 /sbin/sysctl -p 让参数生效。

TIME_WAIT状态的意义：

客户端与服务器端建立TCP/IP连接后关闭SOCKET后，服务器端连接的端口
状态为TIME_WAIT

是不是所有执行主动关闭的socket都会进入TIME_WAIT状态呢？
有没有什么情况使主动关闭的socket直接进入CLOSED状态呢？

主动关闭的一方在发送最后一个 ack 后
就会进入 TIME_WAIT 状态 停留2MSL（max segment lifetime）时间
这个是TCP/IP必不可少的，也就是“解决”不了的。

也就是TCP/IP设计者本来是这么设计的
主要有两个原因
1。防止上一次连接中的包，迷路后重新出现，影响新连接
（经过2MSL，上一次连接中所有的重复包都会消失）
2。可靠的关闭TCP连接
在主动关闭方发送的最后一个 ack(fin) ，有可能丢失，这时被动方会重新发
fin, 如果这时主动方处于 CLOSED 状态 ，就会响应 rst 而不是 ack。所以
主动方要处于 TIME_WAIT 状态，而不能是 CLOSED 。

TIME_WAIT 并不会占用很大资源的，除非受到攻击。

Linux下高并发的Squid服务器，TCP TIME_WAIT套接字数量经常达到两、三万，服务器很容易被拖死。通过修改Linux内核参数，可以减少Squid服务器的TIME_WAIT套接字数量。
　　vi /etc/sysctl.conf

　　增加以下几行：引用
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.tcp_max_syn_backlog = 8192
net.ipv4.tcp_max_tw_buckets = 5000


　　说明：
　　net.ipv4.tcp_syncookies = 1 表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭；
　　net.ipv4.tcp_tw_reuse = 1 表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接，默认为0，表示关闭；
　　net.ipv4.tcp_tw_recycle = 1 表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭。
　　net.ipv4.tcp_fin_timeout = 30 表示如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间。
　　net.ipv4.tcp_keepalive_time = 1200 表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为20分钟。
　　net.ipv4.ip_local_port_range = 1024 65000 表示用于向外连接的端口范围。缺省情况下很小：32768到61000，改为1024到65000。
　　net.ipv4.tcp_max_syn_backlog = 8192 表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。
　　net.ipv4.tcp_max_tw_buckets = 5000表示系统同时保持TIME_WAIT套接字的最大数量，如果超过这个数字，TIME_WAIT套接字将立刻被清除并打印警告信息。默认为180000，改为5000。对于Apache、Nginx等服务器，上几行的参数可以很好地减少TIME_WAIT套接字数量，但是对于Squid，效果却不大。此项参数可以控制TIME_WAIT套接字的最大数量，避免Squid服务器被大量的TIME_WAIT套接字拖死。

　　执行以下命令使配置生效：
/sbin/sysctl -p

　　1、如果未安装Apache。编译时，加上--enable-deflate，例如：（仅针对Linux版，Windows版无须此步骤）

./configure --prefix=/usr/local/apache --enable-rewrite --enable-so --enable-deflate 

　　2、如果已安装Apache。添加mod_deflate模块，例如：（仅针对Linux版，Windows版无须此步骤）

　　/usr/local/apache/bin/apxs -i -a -c /home/zhangyan/software/httpd-2.0.59/modules/filters/mod_deflate.c 

　　注：/home/zhangyan/software/httpd-2.0.59/为Apache源码路径。

　　3、进行以上步骤后，会在httpd.conf中自动加入一行：（Windows版请将下行最前面的#号去掉）

LoadModule deflate_module     modules/mod_deflate.so 

　　4、编辑httpd.conf，增加：
　　Linux版：

<ifmodule mod_deflate.c> 
DeflateCompressionLevel 9  
SetOutputFilter DEFLATE  
#DeflateFilterNote Input instream  
#DeflateFilterNote Output outstream  
#DeflateFilterNote Ratio ratio  
#LogFormat '"%r" %{outstream}n/%{instream}n (%{ratio}n%%)' deflate  
#CustomLog logs/deflate_log.log deflate  
</ifmodule> 

<ifmodule deflate_module> 
DeflateCompressionLevel 9  
SetOutputFilter DEFLATE  
#DeflateFilterNote Input instream  
#DeflateFilterNote Output outstream  
#DeflateFilterNote Ratio ratio  
#LogFormat '"%r" %{outstream}n/%{instream}n (%{ratio}n%%)' deflate  
#CustomLog logs/deflate_log.log deflate  
</ifmodule> 

　　[文章作者：张宴 本文版本：v1.0 最后修改：2007.09.10 转载请注明出处：http://blog.s135.com]

　　在 Apache 服务器中，KeepAlive 是一个布尔值，On 代表打开，Off 代表关闭，这个指令在其他众多的 HTTPD 服务器中都是存在的。

　　KeepAlive 配置指令决定当处理完用户发起的 HTTP 请求后是否立即关闭 TCP 连接，如果 KeepAlive 设置为On，那么用户完成一次访问后，不会立即断开连接，如果还有请求，那么会继续在这一次 TCP 连接中完成，而不用重复建立新的 TCP 连接和关闭TCP 连接，可以提高用户访问速度。

LAMP 系统性能调优，第 1 部分: 理解 LAMP 架构
LAMP 系统的工作原理、性能度量方法及底层操作系统的调优方法

LAMP 系统性能调优，第 2 部分: 优化 Apache 和 PHP
是什么降低了 Apache 的速度，如何使 PHP 发挥最大效力

LAMP 系统性能调优，第 3 部分: MySQL 服务器调优
利用服务器的几个调优技巧，让 MySQL 服务器飞速运行

综述 

　　SSI是英文Server Side Includes的缩写，翻译成中文就是服务器端包含的意思。从技术角度上说，SSI就是在HTML文件中，可以通过注释行调用的命令或指针。SSI具有强大的功能，只要使用一条简单的SSI 命令就可以实现整个网站的内容更新，时间和日期的动态显示，以及执行shell和CGI脚本程序等复杂的功能。SSI 可以称得上是那些资金短缺、时间紧张、工作量大的网站开发人员的最佳帮手。本文将主要结合Apache服务器介绍SSI的使用方法。 

如何启动SSI？ 

　　在Apache服务器下，可以通过直接编辑服务器配置文件或者在需要使用SSI的目录中创建.htaccess文件来启动SSI。具体过程如下： 

　　1.服务器配置文件 

　　如果用户具有对服务器配置文件的访问权限，可以通过编辑文件access.conf和srm.conf启动SSI。 

　　首先登录到服务器，找到配置文件的存放目录，使用任何一种文字编辑器打开文件srm.conf，找到以下几行： 

　　　　# If you want to use server side includes, or CGI outside  
　　　　# ScriptAliased directories, uncomment the following lines.  
　　　　#AddType text/x-server-parsed-html .shtml  
　　　　#AddType application/x-httpd-CGI .CGI 

　　注意, 高版本的Apache可能是这几行:

　　　　#  
　　　　# To use server-parsed HTML files  
　　　　#  
　　　　#AddType text/html .shtml  
　　　　#AddHandler server-parsed .shtml  

 

　　用户的配置文件中可能没有上述的注释指令行，但是只要找到以AddType开头的两行并且去掉每一行最前面的"#"符号即可。 

　　保存所做的修改，然后再打开文件access.conf。用户需要在文件中找到设置DocumentRoot（根文件）的部分。一般来说该段文本如下： 

　　　　# This should be changed to whatever you set DocumentRoot to.  
<Directory /usr/local/etc/httpd/htdocs> 
　　　　# This may also be "None", "All", or any combination of "Indexes",  
　　　　# "Includes", or "FollowSymLinks"  
　　　　Options Indexes FollowSymLinks  
</Directory> 

将其中的Options Indexes FollowSymLinks改为:  

　　　　Options Indexes FollowSymLinks Includes 

　　如果用户不希望执行脚本或shell命令，可以在options选项行中加入关键字IncludesNOEXEC，这样可以允许SSI，但是不能执行CGI或脚本命令（注：高版本的Apache服务器中,以上所提到的内容都已经被包含在配置文件httpd.conf中）。 

　　2.创建文件.htaccess 

　　如果用户不能直接访问服务器配置文件，可以使用文件编辑器创建一个名为.htaccess的文件。注意，文件名前一定要有符号"."，这样服务器才能知道该文件是隐藏文件，从而提高文件的安全性，以避免错误操作。在.htaccess文件中需要加入以下三行文字： 

　　　　Options Indexes FollowSymLinks Includes  
　　　　AddType application/x-httpd-CGI .CGI  
　　　　AddType text/x-server-parsed-html .shtml    

　　完成之后，可以把.htaccess文件上传到服务端的相应目录，该文件对所有子目录有效。如果用户希望在目录级上禁止CGI或shell命令，可以在.htaccess文件中的Options选项行加入关键字IncludesNOEXEC。 

　　3.使用.shtml还是.html？ 

　　任何包含SSI的文件在下传到客户端之前，都必须经过服务器的解析过程。这样会增加服务器的负载，如果用户只希望在几个特殊页面中使用SSI，可以将文件的后缀名改为.shtml，这样服务器就可以只解析包含SSI的.shtml文件。另一方面，如果有多个页面使用了SSI，但是用户不希望使用.shtml的后缀名时，可以在.htaccess文件中使用以下命令行： 

　　　　AddType text/x-server-parsed-html .html  

怎样使用SSI? 

　　SSI在使用时遵循以下格式： 

<!--#directive parameter="value"--> 

　　其中，directive是向服务器发送的指令名称，parameter是指令的操作对象，而value则是用户希望得到的指令处理结果。 

　　所有的SSI命令都是以""。 

　　SSI命令包含六大类指令以及各自的参数，具体如下： 

指令名称 参数列表  
Config errmsg, timefmt, sizefmt  
include virtual, file  
echo var 
fsize file 
flastmod file 
exec cmd, cgi 

　　下面我们将逐一进行介绍。 

　　1、Config命令 

　　Config命令主要用于修改SSI的默认设置。其中： 

　　Errmsg：设置默认错误信息。为了能够正常的返回用户设定的错误信息，在HTML文件中Errmsg参数必须被放置在其它SSI命令的前面，否则客户端只能显示默认的错误信息，而不是由用户设定的自定义信息。 

<!--#config errmsg="Error! Please email webmaster@mydomain.com --> 

　　Timefmt：定义日期和时间的使用格式。Timefmt参数必须在echo命令之前使用。 

<!--#config timefmt="%A, %B %d, %Y"--> 
<!--#echo var="LAST_MODIFIED" --> 

　　显示结果为： 

　　　　Wednesday, April 12, 2000  

　　也许用户对上例中所使用的%A %B %d感到很陌生，下面我们就以表格的形式总结一下SSI中较为常用的一些日期和时间格式。 

　　Sizefmt：决定文件大小是以字节、千字节还是兆字节为单位表示。如果以字节为单位，参数值为"bytes"；对于千字节和兆字节可以使用缩写形式。同样，sizefmt参数必须放在fsize命令的前面才能使用。 

<!--#config sizefmt="bytes" --> 
<!--#fsize file="index.html" --> 

　　2、Include命令 

　　Include命令可以把其它文档中的文字或图片插入到当前被解析的文档中，这是整个SSI的关键所在。通过Include命令只需要改动一个文件就可以瞬间更新整个站点！ 

　　Include命令具有两个不同的参数： 

　　Virtual：给出到服务器端某个文档的虚拟路径。例如： 

<!--#include virtual="/includes/header.html" --> 

　　File：给出到当前目录的相对路径，其中不能使用"../"，也不能使用绝对路径。例如： 

<!--#include file="header.html" --> 

　　这就要求每一个目录中都包含一个header.html文件。 

　　3、Echo命令 
　　3、Echo命令 

　　Echo命令可以显示以下各环境变量：

　　DOCUMENT_NAME：显示当前文档的名称。

　　　　＜!--#echo var="DOCUMENT_NAME" --＞ 
　　显示结果为：

　　　　index.html

　　DOCUMENT_URI：显示当前文档的虚拟路径。例如：

　　　　＜!--#echo var="DOCUMENT_URI" --＞ 

　　显示结果为： 

　　　　/YourDirectory/YourFilename.html  

　　随着网站的不断发展，那些越来越长的URL地址肯定会让人头疼。如果使用SSI，一切就会迎刃而解。因为我们可以把网站的域名和SSI命令结合在一起显示完整的URL，即： 

http://YourDomain＜!--#echo var="DOCUMENT_URI" --＞  

　　QUERY_STRING_UNESCAPED：显示未经转义处理的由客户端发送的查询字串，其中所有的特殊字符前面都有转义符"\"。例如： 

　　＜!--#echo var="QUERY_STRING_UNESCAPED" --＞  

　　DATE_LOCAL：显示服务器设定时区的日期和时间。用户可以结合config命令的timefmt参数，定制输出信息。例如： 

　　＜!--#config timefmt="%A, the %d of %B, in the year %Y" --＞
　　＜!--#echo var="DATE_LOCAL" --＞  

　　显示结果为： 

　　Saturday, the 15 of April, in the year 2000  

　　DATE_GMT：功能与DATE_LOCAL一样，只不过返回的是以格林尼治标准时间为基准的日期。例如： 

　　＜!--#echo var="DATE_GMT" --＞  

　　LAST_MODIFIED：显示当前文档的最后更新时间。同样，这是SSI中非常实用的一个功能，只要在HTML文档中加入以下这行简单的文字，就可以在页面上动态的显示更新时间。 

　　＜!--#echo var="LAST_MODIFIED" --＞  

　　CGI环境变量 

　　除了SSI环境变量之外，echo命令还可以显示以下CGI环境变量： 

　　　　SERVER_SOFTWARE：显示服务器软件的名称和版本。例如：
　　　　＜!--#echo var="SERVER_SOFTWARE" --＞
　　　　SERVER_NAME： 显示服务器的主机名称，DNS别名或IP地址。例如：
　　　　＜!--#echo var="SERVER_NAME" --＞
　　　　SERVER_PROTOCOL：显示客户端请求所使用的协议名称和版本，如HTTP/1.0。例如：
　　　　＜!--#echo var="SERVER_PROTOCOL" --＞
　　　　SERVER_PORT：显示服务器的响应端口。例如：
　　　　＜!--#echo var="SERVER_PORT" --＞
　　　　REQUEST_METHOD：显示客户端的文档请求方法，包括GET, HEAD, 和POST。例如：
　　　　＜!--#echo var="REQUEST_METHOD" --＞
　　　　REMOTE_HOST：显示发出请求信息的客户端主机名称。
　　　　＜!--#echo var="REMOTE_HOST" --＞
　　　　REMOTE_ADDR：显示发出请求信息的客户端IP地址。
　　　　＜!--#echo var="REMOTE_ADDR" --＞
　　　　AUTH_TYPE：显示用户身份的验证方法。
　　　　＜!--#echo var="AUTH_TYPE" --＞
　　　　REMOTE_USER：显示访问受保护页面的用户所使用的帐号名称。
　　　　＜!--#echo var="REMOTE_USER" --＞  

　　4、Fsize：显示指定文件的大小，可以结合config命令的sizefmt参数定制输出格式。 

　　　　＜!--#fsize file="index_working.html" --＞  

　　5、Flastmod：显示指定文件的最后修改日期，可以结合config 命令的timefmt参数控制输出格式。 

　　　　＜!--#config timefmt="%A, the %d of %B, in the year %Y" --＞
　　　　＜!--#flastmod file="file.html" --＞  

　　这里，我们可以利用flastmod参数显示出一个页面上所有链接页面的更新日期。方法如下： 

<!--#config timefmt=" %B %d, %Y" --> 
<A HREF="/directory/file.html">File</A> 
<!--#flastmod virtual="/directory/file.html" --> 
<A HREF="/another_directory/another_file.html">Another File</A> 
<!--#flastmod virtual="/another_directory/another_file.html" --> 

　　显示结果为：
　　　　File April 19, 2000
　　　　Another File January 08, 2000  

　　6、Exec 

　　Exec命令可以执行CGI脚本或者shell命令。使用方法如下：

　　　Cmd：使用/bin/sh执行指定的字串。如果SSI使用了IncludesNOEXEC选项，则该命令将被屏蔽。 

　　　Cgi：可以用来执行CGI脚本。例如，下面这个例子中使用服务端cgi-bin目录下的counter.pl脚本程序在每个页面放置一个计数器： 

<!--#exec cgi="/cgi-bin/counter.pl" -->