【正文】 39。 39。$_user_agent $_x_forwarded_for39。 打日志 access_log /usr/local/nginx/logs/ access。 允許客戶端請(qǐng)求的最大的單個(gè)文件字節(jié)數(shù) client_max_body_size 10m。 緩沖區(qū)代理緩沖用戶端請(qǐng)求的最大字節(jié)數(shù) 可以理解為先保存到本地再大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第38頁(yè)傳給用戶 client_body_buffer_size 128k。 跟后端服務(wù)器連接的超時(shí)時(shí)間_ 發(fā)起握手等候響應(yīng)超時(shí)時(shí)間 proxy_connect_timeout 600。 連接成功后 _等候后端服務(wù)器響應(yīng)時(shí)間 _其實(shí)已經(jīng)進(jìn)入后端的排隊(duì)之中等候處理 proxy_read_timeout 600。 后端服務(wù)器數(shù)據(jù)回傳時(shí)間_ 就是在規(guī)定時(shí)間之內(nèi)后端服務(wù)器必須傳完所有的數(shù)據(jù) proxy_send_timeout 600。 代理請(qǐng)求緩存區(qū)_ 這個(gè)緩存區(qū)間會(huì)保存用戶的頭信息以供 Nginx進(jìn)行規(guī)則處理_一般只要能保存下頭信息即可 proxy_buffer_size 8k。 同上 告訴Nginx保存單個(gè)用的幾個(gè)Buffer 最大用多大空間 proxy_buffers 4 32k。 如果系統(tǒng)很忙的時(shí)候可以申請(qǐng)更大的proxy_buffers 官方推薦*2 proxy_busy_buffers_size 64k。 proxy緩存臨時(shí)文件的大小 proxy_temp_file_write_size 64k。 }}3. Tomcat設(shè)置主要配置如下：? ? MaxThread 500大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第39頁(yè)? MinSpareThread 25? MaxSpareThread75? Xmx 1740M4. Java環(huán)境? 。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第40 頁(yè) 測(cè)試結(jié)果 單個(gè)TOMCAT的WEB服務(wù)器NO客戶數(shù) 線程數(shù)請(qǐng)求次數(shù)間隔時(shí)間測(cè)試服務(wù)器占用內(nèi)存服務(wù)器負(fù)載持續(xù)時(shí)間平均速度完成請(qǐng)求 結(jié)果說(shuō)明1 1 500 200萬(wàn) 0 毫秒 Test1 150 82 秒 12986條/秒 106萬(wàn)從第 82 秒開(kāi)始，tomcat 占用內(nèi)存 ，但 CPU 資源被 tomcat 耗盡，服務(wù)器負(fù)載急劇升高，top 顯示已達(dá) 150，服務(wù)器停止響應(yīng)客戶端請(qǐng)求，客戶端請(qǐng)求速度急劇下降，錯(cuò)包率 100%，測(cè)試被迫中斷。Test1 288秒4765條/秒137萬(wàn)22 500 200萬(wàn) 25 毫秒 Test2 6 293秒4123條/秒120萬(wàn)從第 280 秒左右開(kāi)始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，出現(xiàn)錯(cuò)包，錯(cuò)包率超過(guò)6%，且仍在增加，測(cè)試終止。tomcat 拋出“: GC overhead limit exceeded “異常。Test1 422秒2863條/秒120萬(wàn)3 2 500 200萬(wàn)50 毫秒 Test2 3 413秒2922條/秒120萬(wàn)服務(wù)端從第 400 秒左右開(kāi)始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開(kāi)始出現(xiàn)大量錯(cuò)包，422 秒以后的錯(cuò)包率超過(guò) %，且仍在在增加中，之前的錯(cuò)包率約為 %，測(cè)試終止。Test1 742秒1727條/秒128萬(wàn)42 500 200萬(wàn) 200毫秒 Test2 2 744秒1608條/秒119萬(wàn)服務(wù)端從第 740 秒左右開(kāi)始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開(kāi)始出現(xiàn)大量錯(cuò)包，測(cè)試終止，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，且仍在在增加中。 web 服務(wù)器負(fù)載小于 2。Test1 1595秒742 條/秒118萬(wàn)52 500 200萬(wàn) 500毫秒 Test2 1 1575秒737 條/秒116萬(wàn)服務(wù)端從第 1595 秒左右開(kāi)始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開(kāi)始出現(xiàn)大量錯(cuò)包，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，測(cè)試終止。Test1 6362秒 471 條/秒 300萬(wàn)6 2 500 300萬(wàn) 1000毫秒Test2 1 6351秒472 條/秒300萬(wàn)在測(cè)試進(jìn)度到 80%左右時(shí)，tomcat1 占用內(nèi)存達(dá)到了 Xmx 指定上限 ，但TestTest2 請(qǐng)求速度并未下降，直到 600 萬(wàn)次請(qǐng)求全部完成，兩個(gè)客戶端分別有 9 個(gè)丟包，丟包率只有 %，最長(zhǎng)的響應(yīng)時(shí)長(zhǎng)為 秒。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第41 頁(yè) Nginx+2個(gè)TOMCAT的WEB服務(wù)器NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí) 間 平均速度 完成請(qǐng) 求數(shù) 最大響應(yīng)時(shí)長(zhǎng) 平均響應(yīng) 時(shí)長(zhǎng) 測(cè)試結(jié)果Test1 1G 347 秒 4322 條/秒 150 萬(wàn) 93005毫秒 毫秒1 2 250 150萬(wàn) 0 毫秒Test1 1G 2322 秒 4658 條/秒 150 萬(wàn) 21244毫秒 毫秒300 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 542 秒 3690 條/秒 200 萬(wàn) 45016毫秒 毫秒2 2 500 200萬(wàn) 25 毫秒Test2 2544 秒 3676 條/秒 200 萬(wàn) 45014毫秒 毫秒400 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 1140 秒 2445 條/秒 278 萬(wàn) 　 　3 2 500 300萬(wàn) 50 毫秒Test2 21141 秒 2424 條/秒 276 萬(wàn) 　 　服務(wù)端從第 1100 秒左右開(kāi)始，TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，TestTest2 請(qǐng)求速度緩慢下降，但并無(wú)錯(cuò)包，人為終止測(cè)試。 Test1 1860 秒 1490 條/秒 277 萬(wàn) 　 　4 2 500 300萬(wàn) 200毫秒Test2 11863 秒 1482 條/秒 276 萬(wàn) 　 　服務(wù)端從第 1800 秒左右開(kāi)始，TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，TestTest2 請(qǐng)求速度緩慢下降，但并無(wú)錯(cuò)包，人為終止測(cè)試。Test1 5475 秒 913 條/秒 500 萬(wàn) 93000毫秒 毫秒5 2 500 500萬(wàn) 500毫秒Test2 15565 秒 898 條/秒 500 萬(wàn) 92987毫秒 毫秒完成測(cè)試，但 TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，無(wú)錯(cuò)包。Test1 968M 10149秒 492 條/秒 500 萬(wàn) 9077毫秒 毫秒6 2 500 500萬(wàn) 1000毫秒Test2 1G 110149秒 492 條/秒 500 萬(wàn)9044毫秒 毫秒完成測(cè)試，無(wú)一錯(cuò)包。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第42 頁(yè) Nginx+2個(gè)TOMCAT的WEB服務(wù)器+ 緩沖NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí)間 平均速度 (條/秒) 完成請(qǐng) 求數(shù) 最大響應(yīng) 時(shí)長(zhǎng) 平均響應(yīng)時(shí) 長(zhǎng) 測(cè)試結(jié)果Test1 64 秒 23437 150 萬(wàn) 9993 毫秒 毫秒1 2 250 150萬(wàn)0 毫秒 Test2 1 59 秒 25423 150 萬(wàn) 3472 毫秒 毫秒 　Test1 196秒 10202 200 萬(wàn) 9616 毫秒 毫秒2 2 500 200萬(wàn) 25 毫秒Test2 1 194秒 10361 200 萬(wàn) 9608 毫秒 毫秒開(kāi)啟 Nginx 緩存后，400萬(wàn)次請(qǐng)求全部完成，分別有 241 和 216 個(gè)錯(cuò)包。Test1 379秒 7915 300 萬(wàn) 9015 毫秒 毫秒3 2 500 300萬(wàn) 50 毫秒Test2 1 384秒 7812 300 萬(wàn)10234 毫秒 毫秒開(kāi)啟 Nginx 緩存后，600萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 1220秒 2459 300 萬(wàn) 3018 毫秒 毫秒4 2 500 300萬(wàn) 200毫秒Test2 1 1241秒 2417 300 萬(wàn) 3384 毫秒 毫秒開(kāi)啟 Nginx 緩存后，600萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 5031秒 993 500 萬(wàn) 3020 毫秒 毫秒5 2 500 500萬(wàn) 500毫秒Test2 1 5055秒 989 500 萬(wàn) 3394 毫秒 毫秒開(kāi)啟 Nginx 緩存后，1000萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 10040 秒 498 500 萬(wàn) 3020 毫秒 毫秒6 2 500 500萬(wàn) 1000毫秒Test2 1 10038 秒 498 500 萬(wàn) 78 毫秒 毫秒開(kāi)啟 Nginx 緩存后，1000 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。注：本次測(cè)試所用 jsp頁(yè)面僅 100個(gè)字節(jié)大小，測(cè)試過(guò)程中帶寬壓力可以忽略不計(jì)。測(cè)試過(guò)程中曾嘗試過(guò)使用 100k大小靜態(tài)頁(yè)面，結(jié)果顯示在千兆內(nèi)網(wǎng)下，無(wú)論是單 Tomcat亦或是 Nginx+2Tomcat，請(qǐng)求速度最大均不超過(guò) 1000條 /秒，網(wǎng)絡(luò)帶寬使用已經(jīng)達(dá)到 800M，接近千 M內(nèi)網(wǎng)上限。因此，實(shí)際應(yīng)用中，網(wǎng)絡(luò)帶寬對(duì)整個(gè) web服務(wù)的影響會(huì)非常大第43頁(yè) 測(cè)試結(jié)果分析1. 系統(tǒng)參數(shù)的影響分析1） worker_processes 參數(shù)對(duì)Nginx性能的影響測(cè)試過(guò)程中分別設(shè)定worker_processes為8 、1 時(shí)發(fā)現(xiàn)，該參數(shù)對(duì)nginx性能影響不大，對(duì)服務(wù)器資源消耗也沒(méi)有太大影響，相關(guān)資料顯示，該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測(cè)試nginx所在服務(wù)器為2 顆雙核cpu ，因此最終測(cè)試設(shè)定為4。2） MaxThread參數(shù)對(duì)tomcat并發(fā)性的影響本次測(cè)試tomcat的 MaxThread參數(shù)設(shè)定為 500，進(jìn)行13000條/秒并發(fā)測(cè)試時(shí)，tomcat啟動(dòng)并發(fā)線程過(guò)多，將服務(wù)器cpu耗盡。分析MaxThread雖能夠提高 tomcat并發(fā)能力，但前提是在一個(gè)合理的范圍內(nèi)，要確保服務(wù)器負(fù)載不會(huì)因?yàn)椴l(fā)線程過(guò)多而急劇升高，從而停止響應(yīng)。3） Xmx最大內(nèi)存值對(duì)Tomcat能夠持續(xù)響應(yīng)高并發(fā)的影響持續(xù)高并發(fā)請(qǐng)求狀態(tài)下，有6次測(cè)試是因?yàn)閠omcat 內(nèi)存達(dá)到指定最大值導(dǎo)致響應(yīng)變慢，直至內(nèi)存溢出停止響應(yīng)，因此，Tomcat最大內(nèi)存對(duì)tomcat能夠持續(xù)響應(yīng)高并發(fā)請(qǐng)求有很大的影響，調(diào)整該值，應(yīng)該可以增加Tomcat響應(yīng)高并發(fā)請(qǐng)求的總數(shù)，進(jìn)而延長(zhǎng)WEB 服務(wù)能夠支撐峰值的時(shí)間。2. 各架構(gòu)下的性能分析1) Nginx+2Tomcat的最大并發(fā)性低于單Tomcat，Nginx+2Tomcat最快為8980條/秒，單Tomcat為12986條/秒，分析可能是受 nginx所在服務(wù)器性能影響所致。2) ，在持續(xù)超過(guò)1479 條/ 秒的并發(fā)請(qǐng)求下，在穩(wěn)定支撐約240萬(wàn)次響應(yīng)后，之后Tomcat響應(yīng)會(huì)急劇變慢，錯(cuò)包急劇上升。第44頁(yè)3) Nginx+2tomcat架構(gòu)下，在持續(xù)超過(guò)2900 條/ 秒的并發(fā)請(qǐng)求下，能夠穩(wěn)定支撐約540萬(wàn)次左右響應(yīng)，之后兩個(gè)Tomcat ，響應(yīng)會(huì)急劇變慢，但錯(cuò)包情況并未出現(xiàn)。4) 在Nginx+2tomcat，同時(shí)配置了緩存的情況下，可以達(dá)到 的并發(fā)處理能力 評(píng)測(cè)結(jié)果1) 單個(gè)tomcat 的處理能力在500條/秒左右單個(gè)tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請(qǐng)求。2) Nginx+Tomcat比單個(gè) Tomcat更穩(wěn)定，不易出現(xiàn)錯(cuò)包，可以通過(guò)擴(kuò)充tomcat集群（新增tomcat 服務(wù)器）來(lái)提升系統(tǒng)的并發(fā)能力單個(gè)tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯(cuò)包，而采用Nginx+2Tomcat架構(gòu)在各種測(cè)試下，均未出現(xiàn)錯(cuò)包，但處理能力也會(huì)下降。單個(gè)tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請(qǐng)求，而Nginx+2Tomcat能支持每秒1000左右的并發(fā)請(qǐng)求。所以可以通過(guò)新加tomcat服務(wù)器來(lái)提升系統(tǒng)的并發(fā)能力，但在tomcat的總體處理能力超過(guò)nginx的處理能力時(shí)無(wú)效。3) Nginx+2Tomcat配置了