【導讀】未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。未定義書簽。

　　

【正文】 2986條 /秒 106萬 從第 82 秒開始， tomcat 占用內(nèi)存 ，但 CPU 資源被 tomcat 耗盡，服務器負載急劇升高， top 顯示已達 150，服務器停止響應客戶端請求，客戶端請求速度急劇下降，錯包率 100%， 測試被迫中斷 。 2 2 500 200萬 25毫秒 Test1 6 288秒 4765條 /秒 137萬 從第 280 秒左右開始， tomcat 占用內(nèi)存到達 Xmx 指定上限 ， Test Test2請求速度急劇下降，出現(xiàn)錯包，錯包率超過 6%，且仍在增加， 測試終止 。 tomcat拋出“ : GC overhead limit exceeded “異常。 Test2 293秒 4123條 /秒 120萬 3 2 500 200萬 50毫秒 Test1 3 422秒 2863條 /秒 120萬 服務端從第 400 秒左右開始， tomcat 占用內(nèi)存到達 Xmx 指定上限 ， TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包， 422 秒以后的錯包率超過 %，且仍在在增加中，之前的錯包率約為 %， 測試終止 。 Test2 413秒 2922條 /秒 120萬 4 2 500 200萬 200毫秒 Test1 2 742秒 1727條 /秒 128萬 服務端從第 740 秒左右開始， tomcat 占用內(nèi)存到達 Xmx 指定上限 ， TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包， 測試終止 ，達到 前，錯包率只有 %，達到 后，截止停止測試時，錯包率增長到 %，且仍在在增加中。 web 服務器負載小于 2。 Test2 744秒 1608條 /秒 119萬 5 2 500 200萬 500毫秒 Test1 1 1595秒 742條/秒 118萬 服務端從第 1595 秒左右開始， tomcat占用內(nèi)存到達 Xmx 指定上限 ， TestTest2請求速度急劇下降 ，開始出現(xiàn)大量錯包，達到 ，錯包率只有 %，達到 后，截止停止測試時，錯包率增長到 %， 測試終止 。 Test2 1575秒 737條/秒 116萬 6 2 500 300萬 1000毫秒 Test1 1 6362秒 471條/秒 300萬 在測試進度到 80%左右時， tomcat1 占用內(nèi)存達到了 Xmx指定上限 ，但 TestTest2請求速度并未下降，直到 600萬次請求全部完成，兩個客戶端分別有 9個丟包，丟包率只有 %，最長的響應時長為 。 Test2 6351秒 472條/秒 300萬 Nginx+2個 TOMCAT的 WEB服務器 NO 客戶端數(shù) 線程 數(shù) 請求次數(shù) 間隔時間 測試服 務器 Tomcat占用內(nèi)存 服務器 負載 持續(xù)時 間 平均速度 完成請 求數(shù) 最大響應時長 平均響應 時長 測試結果 1 2 250 150萬 0毫秒 Test1 1G 2 347秒 4322條 /秒 150萬 93005毫秒 300 萬次請求全部完成，無一錯包。 Test1 1G 322秒 4658條 /秒 150萬 21244毫秒 2 2 500 200萬 25毫秒 Test1 2 542秒 3690條 /秒 200萬 45016毫秒 400 萬次請求全部完成，無一錯包。 Test2 544秒 3676條 /秒 200萬 45014毫秒 3 2 500 300萬 50毫秒 Test1 2 1140秒 2445條 /秒 278萬 服務端從第 1100 秒左右開始， TomcatTomcat2占用內(nèi)存到達 Xmx指 定上限 ，Test Test2 請求速度緩慢下降 ，但并無錯包，人為終止測試。 Test2 1141秒 2424條 /秒 276萬 4 2 500 300萬 200毫秒 Test1 1 1860秒 1490條 /秒 277萬 服務端從第 1800 秒左右開始， TomcatTomcat2占用內(nèi)存到達 Xmx指定上限 ，Test Test2 請求速度緩慢下降 ，但并無錯包，人為終止測試。 Test2 1863秒 1482條 /秒 276萬 5 2 500 500萬 500毫秒 Test1 1 5475秒 913條 /秒 500萬 93000毫秒 完成測試，但 Tomcat Tomcat2 占用內(nèi)存到達 Xmx 指定上限 ，無錯包。 Test2 5565秒 898條 /秒 500萬 92987毫秒 6 2 500 500萬 1000毫秒 Test1 968M 1 10149秒 492條 /秒 500萬 9077毫秒 完成測試，無一錯包。 Test2 1G 10149秒 492條 /秒 500萬 9044毫秒 Nginx+2個 TOMCAT的 WEB服務器 +緩沖 NO 客戶端數(shù) 線程 數(shù) 請求次數(shù) 間隔時間 測試服 務器 Tomcat占用內(nèi)存 服務器 負載 持續(xù)時間 平均速度 (條 /秒 ) 完成請 求數(shù) 最大響應 時長 平均響應時 長 測試結果 1 2 250 150萬 0毫秒 Test1 1 64秒 23437 150萬 9993毫秒 Test2 59秒 25423 150萬 3472毫秒 2 2 500 200萬 25毫秒 Test1 1 196秒 10202 200萬 9616毫秒 開啟 Nginx 緩存后， 400萬次請求全部完成，分別有 241 和 216 個錯包。 Test2 194秒 10361 200萬 9608毫秒 3 2 500 300萬 50毫秒 Test1 1 379秒 7915 300萬 9015毫秒 開啟 Nginx 緩存后， 600萬次請求全部完成，無一錯包。 Test2 384秒 7812 300萬 10234毫秒 4 2 500 300萬 200毫秒 Test1 1 1220秒 2459 300萬 3018毫秒 開啟 Nginx 緩存后， 600萬次請求全部完成，無一錯包。 Test2 1241秒 2417 300萬 3384毫秒 5 2 500 500萬 500毫秒 Test1 1 5031秒 993 500萬 3020毫秒 開啟 Nginx 緩存后， 1000萬次請求全部完成，無一錯包。 Test2 5055秒 989 500萬 3394毫秒 6 2 500 500萬 1000毫秒 Test1 1 10040秒 498 500萬 3020毫秒 開啟 Nginx 緩存后， 1000萬次請求全部完成，無一錯包。 Test2 10038秒 498 500萬 78毫秒 注：本次測試所用 jsp頁面僅 100個字節(jié)大小，測試過程中帶寬 壓力可以忽略不計。測試過程中曾嘗試過使用 100k大小靜態(tài)頁面，結果顯示在千兆內(nèi)網(wǎng)下，無論是單 Tomcat亦或是 Nginx+2Tomcat，請求速度最大均不超過 1000條 /秒， 網(wǎng)絡帶寬使用已經(jīng)達到 800M，接近千 M內(nèi)網(wǎng)上限。因此，實際應用中，網(wǎng)絡帶寬對整個 web服務的影響會非常大 公開 內(nèi)部公開 √ 機密 12/14/2020 Page 33 12/14/202020200217 版權所有，侵權必究 All rights reserved 第 33頁 ,共 38頁 Page 33 , Total38 測試結果 分析 1. 系統(tǒng)參數(shù)的影響分析 1） worker_processes 參數(shù)對 Nginx性能的影響 測試過程中分別設定 worker_processes為 1時發(fā)現(xiàn)，該參數(shù)對 nginx性能影響不大，對服務器資源消耗也沒有太大影響 ，相關資料顯示，該參數(shù)的值最好跟 cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測試 nginx所在服務器為 2顆雙核 cpu，因此最終測試設定為 4。 2） MaxThread參數(shù)對 tomcat并發(fā)性的影響 本次測試 tomcat的 MaxThread參數(shù)設定為 500，進行 13000條 /秒并發(fā)測試時， tomcat啟動并發(fā)線程過多，將服務器 cpu耗盡。分析 MaxThread雖能夠提高 tomcat并發(fā)能力，但前提是在一個合理的范圍內(nèi)，要確保服務器負載不會因為并發(fā)線程過多而急劇升高，從而停止響應。 3） Xmx最大內(nèi)存值對 Tomcat能夠持 續(xù)響應高并發(fā)的影響 持續(xù)高并發(fā)請求狀態(tài)下，有 6次測試是因為 tomcat內(nèi)存達到指定最大值導致響應變慢，直至內(nèi)存溢出停止響應，因此， Tomcat最大內(nèi)存對 tomcat能夠持續(xù)響應高并發(fā)請求有很大的影響，調(diào)整該值，應該可以增加 Tomcat響應高并發(fā)請求的總數(shù)，進而延長 WEB服務能夠支撐峰值的時間。 2. 各架構下的 性能分析 1) Nginx+2Tomcat的最大并發(fā)性低于單 Tomcat， Nginx+2Tomcat最快為 8980條 /秒，單 Tomcat為 12986條 /秒，分析可能是受 nginx所在服務器性能影響所致。 2) 單 tomcat在配置 ，在持續(xù)超過 1479條 /秒的并發(fā)請求下，在穩(wěn)定支撐約 240萬次響應后， Tomcat內(nèi)存達到 ，之后 Tomcat響應會急劇變慢，錯包急劇上升。 3) Nginx+2tomcat架構下， 2個 tomcat分別配置 ，在持續(xù)超過 2900條 /秒的并發(fā)請求下，能夠穩(wěn)定支撐約 540萬次左右響應，之后兩個 Tomcat內(nèi)存都會達到 ，響應會急劇變慢，但錯包情況并未出現(xiàn)。 4) 在 Nginx+2tomcat，同時配置了緩存的情況下，可以達到 評測結果 1) 單個 tomcat的處理能力在 500條 /秒左右 單個 tomcat能穩(wěn)定支持 每秒 500左右的并發(fā) 請求。 2) Nginx+Tomcat比單個 Tomcat更穩(wěn)定，不易出現(xiàn)錯包，可以通過擴充 tomcat集群（新增tomcat服務器）來提升系統(tǒng)的并發(fā)能力 單個 tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯包，而采用Nginx+2Tomcat架構在各種測試下，均未出現(xiàn)錯包，但處理能力也會下降。 單個 tomcat能穩(wěn)定支持 每秒 500左右的并發(fā) 請求，而 Nginx+2Tomcat能支持 每秒 1000左右 公開 內(nèi)部公開 √ 機密 12/14/2020 Page 34 12/14/202020200217 版權所有，侵權必究 All rights reserved 第 34頁 ,共 38頁 Page 34 , Total38 的并發(fā) 請求 。所以可以通過新加 tomcat服務器來提升系統(tǒng)的并發(fā)能力，但在 tomcat的總體處理能力超過 nginx的處理能力時無效。 3) Nginx+2Tomcat配置了緩存后，靜態(tài)頁面的并發(fā)能力不再受 tomcat的限制，單個 nginx的并發(fā)處理能力能達到 。 配置了緩存后， nginx+2tomcat的處理能力實測數(shù)據(jù)超過了 /秒，而單個 tomcat可以支撐 500次 /秒，則從理論上計算一組 Nginx+30個 Tomcat集群可以支撐 /秒的并發(fā)處理。 注：為 tomcat均分配 。 4 配置 選 型 網(wǎng)絡帶寬 只考慮門戶訪問的帶寬占用，后臺管理頁面等其他業(yè)務訪問與門戶訪問相差 23個數(shù)量級，這一部分網(wǎng)絡流量占用忽略。同時考慮網(wǎng)絡帶寬利用率（ 70%） 根據(jù)業(yè)務設計能力，每秒網(wǎng)絡流量 =WEB網(wǎng)站每秒鐘訪問流量 =（每次訪問占用的帶寬每秒訪問次數(shù)） /帶寬利用率 =(200K*8*n)/ 注：一般門戶的首頁大小 1M、平均 200K/頁面 ，我們以平均值來計算。 并發(fā)能力 占用的網(wǎng)絡帶寬 100次 /秒 228 M 200次 /秒 457 M 500次 /秒 1442 M 1000次 /秒 2286 M 架構和硬件配置 選型 硬件配置參考 序號 產(chǎn)品功能 參考型號、配置 TPMC 1 主機設備 數(shù)據(jù)庫服務器 IBM System x3850 M2, 4 個處理器，每處理器為 6 核，共計24核。 內(nèi)存大小 16G。 SAS 硬盤，硬盤大小 587 GB。 4U 機架，集成雙千兆以太網(wǎng)接口，兩塊千兆的光纖網(wǎng)卡。 684508 公開 內(nèi)部公開 √ 機密 12/14/2020 Page 35 12/14/202020200217 版權所有，侵權必究 All rights reserved 第 35頁 ,共 38頁 Page 35 , Total38 WEB 服務器 IBM Syst