【導(dǎo)讀】未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。

　　

【正文】 2986條 /秒 106萬(wàn) 從第 82 秒開始， tomcat 占用內(nèi)存 ，但 CPU 資源被 tomcat 耗盡，服務(wù)器負(fù)載急劇升高， top 顯示已達(dá) 150，服務(wù)器停止響應(yīng)客戶端請(qǐng)求，客戶端請(qǐng)求速度急劇下降，錯(cuò)包率 100%， 測(cè)試被迫中斷 。 2 2 500 200萬(wàn) 25毫秒 Test1 6 288秒 4765條 /秒 137萬(wàn) 從第 280 秒左右開始， tomcat 占用內(nèi)存到達(dá) Xmx 指定上限 ， Test Test2請(qǐng)求速度急劇下降，出現(xiàn)錯(cuò)包，錯(cuò)包率超過(guò) 6%，且仍在增加， 測(cè)試終止 。 tomcat拋出“ : GC overhead limit exceeded “異常。 Test2 293秒 4123條 /秒 120萬(wàn) 3 2 500 200萬(wàn) 50毫秒 Test1 3 422秒 2863條 /秒 120萬(wàn) 服務(wù)端從第 400 秒左右開始， tomcat 占用內(nèi)存到達(dá) Xmx 指定上限 ， TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包， 422 秒以后的錯(cuò)包率超過(guò) %，且仍在在增加中，之前的錯(cuò)包率約為 %， 測(cè)試終止 。 Test2 413秒 2922條 /秒 120萬(wàn) 4 2 500 200萬(wàn) 200毫秒 Test1 2 742秒 1727條 /秒 128萬(wàn) 服務(wù)端從第 740 秒左右開始， tomcat 占用內(nèi)存到達(dá) Xmx 指定上限 ， TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包， 測(cè)試終止 ，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，且仍在在增加中。 web 服務(wù)器負(fù)載小于 2。 Test2 744秒 1608條 /秒 119萬(wàn) 5 2 500 200萬(wàn) 500毫秒 Test1 1 1595秒 742條/秒 118萬(wàn) 服務(wù)端從第 1595 秒左右開始， tomcat占用內(nèi)存到達(dá) Xmx 指定上限 ， TestTest2請(qǐng)求速度急劇下降 ，開始出現(xiàn)大量錯(cuò)包，達(dá)到 ，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %， 測(cè)試終止 。 Test2 1575秒 737條/秒 116萬(wàn) 6 2 500 300萬(wàn) 1000毫秒 Test1 1 6362秒 471條/秒 300萬(wàn) 在測(cè)試進(jìn)度到 80%左右時(shí)， tomcat1 占用內(nèi)存達(dá)到了 Xmx指定上限 ，但 TestTest2請(qǐng)求速度并未下降，直到 600萬(wàn)次請(qǐng)求全部完成，兩個(gè)客戶端分別有 9個(gè)丟包，丟包率只有 %，最長(zhǎng)的響應(yīng)時(shí)長(zhǎng)為 。 Test2 6351秒 472條/秒 300萬(wàn) Nginx+2個(gè) TOMCAT的 WEB服務(wù)器 NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí) 間 平均速度 完成請(qǐng) 求數(shù) 最大響應(yīng)時(shí)長(zhǎng) 平均響應(yīng) 時(shí)長(zhǎng) 測(cè)試結(jié)果 1 2 250 150萬(wàn) 0毫秒 Test1 1G 2 347秒 4322條 /秒 150萬(wàn) 93005毫秒 300 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test1 1G 322秒 4658條 /秒 150萬(wàn) 21244毫秒 2 2 500 200萬(wàn) 25毫秒 Test1 2 542秒 3690條 /秒 200萬(wàn) 45016毫秒 400 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test2 544秒 3676條 /秒 200萬(wàn) 45014毫秒 3 2 500 300萬(wàn) 50毫秒 Test1 2 1140秒 2445條 /秒 278萬(wàn) 服務(wù)端從第 1100 秒左右開始， TomcatTomcat2占用內(nèi)存到達(dá) Xmx指 定上限 ，Test Test2 請(qǐng)求速度緩慢下降 ，但并無(wú)錯(cuò)包，人為終止測(cè)試。 Test2 1141秒 2424條 /秒 276萬(wàn) 4 2 500 300萬(wàn) 200毫秒 Test1 1 1860秒 1490條 /秒 277萬(wàn) 服務(wù)端從第 1800 秒左右開始， TomcatTomcat2占用內(nèi)存到達(dá) Xmx指定上限 ，Test Test2 請(qǐng)求速度緩慢下降 ，但并無(wú)錯(cuò)包，人為終止測(cè)試。 Test2 1863秒 1482條 /秒 276萬(wàn) 5 2 500 500萬(wàn) 500毫秒 Test1 1 5475秒 913條 /秒 500萬(wàn) 93000毫秒 完成測(cè)試，但 Tomcat Tomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，無(wú)錯(cuò)包。 Test2 5565秒 898條 /秒 500萬(wàn) 92987毫秒 6 2 500 500萬(wàn) 1000毫秒 Test1 968M 1 10149秒 492條 /秒 500萬(wàn) 9077毫秒 完成測(cè)試，無(wú)一錯(cuò)包。 Test2 1G 10149秒 492條 /秒 500萬(wàn) 9044毫秒 Nginx+2個(gè) TOMCAT的 WEB服務(wù)器 +緩沖 NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí)間 平均速度 (條 /秒 ) 完成請(qǐng) 求數(shù) 最大響應(yīng) 時(shí)長(zhǎng) 平均響應(yīng)時(shí) 長(zhǎng) 測(cè)試結(jié)果 1 2 250 150萬(wàn) 0毫秒 Test1 1 64秒 23437 150萬(wàn) 9993毫秒 Test2 59秒 25423 150萬(wàn) 3472毫秒 2 2 500 200萬(wàn) 25毫秒 Test1 1 196秒 10202 200萬(wàn) 9616毫秒 開啟 Nginx 緩存后， 400萬(wàn)次請(qǐng)求全部完成，分別有 241 和 216 個(gè)錯(cuò)包。 Test2 194秒 10361 200萬(wàn) 9608毫秒 3 2 500 300萬(wàn) 50毫秒 Test1 1 379秒 7915 300萬(wàn) 9015毫秒 開啟 Nginx 緩存后， 600萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test2 384秒 7812 300萬(wàn) 10234毫秒 4 2 500 300萬(wàn) 200毫秒 Test1 1 1220秒 2459 300萬(wàn) 3018毫秒 開啟 Nginx 緩存后， 600萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test2 1241秒 2417 300萬(wàn) 3384毫秒 5 2 500 500萬(wàn) 500毫秒 Test1 1 5031秒 993 500萬(wàn) 3020毫秒 開啟 Nginx 緩存后， 1000萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test2 5055秒 989 500萬(wàn) 3394毫秒 6 2 500 500萬(wàn) 1000毫秒 Test1 1 10040秒 498 500萬(wàn) 3020毫秒 開啟 Nginx 緩存后， 1000萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。 Test2 10038秒 498 500萬(wàn) 78毫秒 注：本次測(cè)試所用 jsp頁(yè)面僅 100個(gè)字節(jié)大小，測(cè)試過(guò)程中帶寬 壓力可以忽略不計(jì)。測(cè)試過(guò)程中曾嘗試過(guò)使用 100k大小靜態(tài)頁(yè)面，結(jié)果顯示在千兆內(nèi)網(wǎng)下，無(wú)論是單 Tomcat亦或是 Nginx+2Tomcat，請(qǐng)求速度最大均不超過(guò) 1000條 /秒， 網(wǎng)絡(luò)帶寬使用已經(jīng)達(dá)到 800M，接近千 M內(nèi)網(wǎng)上限。因此，實(shí)際應(yīng)用中，網(wǎng)絡(luò)帶寬對(duì)整個(gè) web服務(wù)的影響會(huì)非常大 公開 內(nèi)部公開 √ 機(jī)密 12/14/2020 Page 33 12/14/202020200217 版權(quán)所有，侵權(quán)必究 All rights reserved 第 33頁(yè) ,共 38頁(yè) Page 33 , Total38 測(cè)試結(jié)果 分析 1. 系統(tǒng)參數(shù)的影響分析 1） worker_processes 參數(shù)對(duì) Nginx性能的影響 測(cè)試過(guò)程中分別設(shè)定 worker_processes為 1時(shí)發(fā)現(xiàn)，該參數(shù)對(duì) nginx性能影響不大，對(duì)服務(wù)器資源消耗也沒有太大影響 ，相關(guān)資料顯示，該參數(shù)的值最好跟 cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測(cè)試 nginx所在服務(wù)器為 2顆雙核 cpu，因此最終測(cè)試設(shè)定為 4。 2） MaxThread參數(shù)對(duì) tomcat并發(fā)性的影響 本次測(cè)試 tomcat的 MaxThread參數(shù)設(shè)定為 500，進(jìn)行 13000條 /秒并發(fā)測(cè)試時(shí)， tomcat啟動(dòng)并發(fā)線程過(guò)多，將服務(wù)器 cpu耗盡。分析 MaxThread雖能夠提高 tomcat并發(fā)能力，但前提是在一個(gè)合理的范圍內(nèi)，要確保服務(wù)器負(fù)載不會(huì)因?yàn)椴l(fā)線程過(guò)多而急劇升高，從而停止響應(yīng)。 3） Xmx最大內(nèi)存值對(duì) Tomcat能夠持 續(xù)響應(yīng)高并發(fā)的影響 持續(xù)高并發(fā)請(qǐng)求狀態(tài)下，有 6次測(cè)試是因?yàn)?tomcat內(nèi)存達(dá)到指定最大值導(dǎo)致響應(yīng)變慢，直至內(nèi)存溢出停止響應(yīng)，因此， Tomcat最大內(nèi)存對(duì) tomcat能夠持續(xù)響應(yīng)高并發(fā)請(qǐng)求有很大的影響，調(diào)整該值，應(yīng)該可以增加 Tomcat響應(yīng)高并發(fā)請(qǐng)求的總數(shù)，進(jìn)而延長(zhǎng) WEB服務(wù)能夠支撐峰值的時(shí)間。 2. 各架構(gòu)下的 性能分析 1) Nginx+2Tomcat的最大并發(fā)性低于單 Tomcat， Nginx+2Tomcat最快為 8980條 /秒，單 Tomcat為 12986條 /秒，分析可能是受 nginx所在服務(wù)器性能影響所致。 2) 單 tomcat在配置 ，在持續(xù)超過(guò) 1479條 /秒的并發(fā)請(qǐng)求下，在穩(wěn)定支撐約 240萬(wàn)次響應(yīng)后， Tomcat內(nèi)存達(dá)到 ，之后 Tomcat響應(yīng)會(huì)急劇變慢，錯(cuò)包急劇上升。 3) Nginx+2tomcat架構(gòu)下， 2個(gè) tomcat分別配置 ，在持續(xù)超過(guò) 2900條 /秒的并發(fā)請(qǐng)求下，能夠穩(wěn)定支撐約 540萬(wàn)次左右響應(yīng)，之后兩個(gè) Tomcat內(nèi)存都會(huì)達(dá)到 ，響應(yīng)會(huì)急劇變慢，但錯(cuò)包情況并未出現(xiàn)。 4) 在 Nginx+2tomcat，同時(shí)配置了緩存的情況下，可以達(dá)到 評(píng)測(cè)結(jié)果 1) 單個(gè) tomcat的處理能力在 500條 /秒左右 單個(gè) tomcat能穩(wěn)定支持 每秒 500左右的并發(fā) 請(qǐng)求。 2) Nginx+Tomcat比單個(gè) Tomcat更穩(wěn)定，不易出現(xiàn)錯(cuò)包，可以通過(guò)擴(kuò)充 tomcat集群（新增tomcat服務(wù)器）來(lái)提升系統(tǒng)的并發(fā)能力 單個(gè) tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯(cuò)包，而采用Nginx+2Tomcat架構(gòu)在各種測(cè)試下，均未出現(xiàn)錯(cuò)包，但處理能力也會(huì)下降。 單個(gè) tomcat能穩(wěn)定支持 每秒 500左右的并發(fā) 請(qǐng)求，而 Nginx+2Tomcat能支持 每秒 1000左右 公開 內(nèi)部公開 √ 機(jī)密 12/14/2020 Page 34 12/14/202020200217 版權(quán)所有，侵權(quán)必究 All rights reserved 第 34頁(yè) ,共 38頁(yè) Page 34 , Total38 的并發(fā) 請(qǐng)求 。所以可以通過(guò)新加 tomcat服務(wù)器來(lái)提升系統(tǒng)的并發(fā)能力，但在 tomcat的總體處理能力超過(guò) nginx的處理能力時(shí)無(wú)效。 3) Nginx+2Tomcat配置了緩存后，靜態(tài)頁(yè)面的并發(fā)能力不再受 tomcat的限制，單個(gè) nginx的并發(fā)處理能力能達(dá)到 。 配置了緩存后， nginx+2tomcat的處理能力實(shí)測(cè)數(shù)據(jù)超過(guò)了 /秒，而單個(gè) tomcat可以支撐 500次 /秒，則從理論上計(jì)算一組 Nginx+30個(gè) Tomcat集群可以支撐 /秒的并發(fā)處理。 注：為 tomcat均分配 。 4 配置 選 型 網(wǎng)絡(luò)帶寬 只考慮門戶訪問(wèn)的帶寬占用，后臺(tái)管理頁(yè)面等其他業(yè)務(wù)訪問(wèn)與門戶訪問(wèn)相差 23個(gè)數(shù)量級(jí)，這一部分網(wǎng)絡(luò)流量占用忽略。同時(shí)考慮網(wǎng)絡(luò)帶寬利用率（ 70%） 根據(jù)業(yè)務(wù)設(shè)計(jì)能力，每秒網(wǎng)絡(luò)流量 =WEB網(wǎng)站每秒鐘訪問(wèn)流量 =（每次訪問(wèn)占用的帶寬每秒訪問(wèn)次數(shù)） /帶寬利用率 =(200K*8*n)/ 注：一般門戶的首頁(yè)大小 1M、平均 200K/頁(yè)面 ，我們以平均值來(lái)計(jì)算。 并發(fā)能力 占用的網(wǎng)絡(luò)帶寬 100次 /秒 228 M 200次 /秒 457 M 500次 /秒 1442 M 1000次 /秒 2286 M 架構(gòu)和硬件配置 選型 硬件配置參考 序號(hào) 產(chǎn)品功能 參考型號(hào)、配置 TPMC 1 主機(jī)設(shè)備 數(shù)據(jù)庫(kù)服務(wù)器 IBM System x3850 M2, 4 個(gè)處理器，每處理器為 6 核，共計(jì)24核。 內(nèi)存大小 16G。 SAS 硬盤，硬盤大小 587 GB。 4U 機(jī)架，集成雙千兆以太網(wǎng)接口，兩塊千兆的光纖網(wǎng)卡。 684508 公開 內(nèi)部公開 √ 機(jī)密 12/14/2020 Page 35 12/14/202020200217 版權(quán)所有，侵權(quán)必究 All rights reserved 第 35頁(yè) ,共 38頁(yè) Page 35 , Total38 WEB 服務(wù)器 IBM Syst