【正文】 完成請求 結(jié)果說明1 1 500 200萬 0 毫秒 Test1 150 82 秒 12986條/秒 106萬從第 82 秒開始，tomcat 占用內(nèi)存 ，但 CPU 資源被 tomcat 耗盡，服務(wù)器負載急劇升高，top 顯示已達 150，服務(wù)器停止響應(yīng)客戶端請求，客戶端請求速度急劇下降，錯包率 100%，測試被迫中斷。Test1 742秒1727條/秒128萬42 500 200萬 200毫秒 Test2 2 744秒1608條/秒119萬服務(wù)端從第 740 秒左右開始，tomcat 占用內(nèi)存到達 Xmx 指定上限，TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包，測試終止，達到 前，錯包率只有 %，達到 后，截止停止測試時，錯包率增長到 %，且仍在在增加中。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第41 頁 Nginx+2個TOMCAT的WEB服務(wù)器NO 客戶端數(shù) 線程 數(shù) 請求次數(shù) 間隔時間 測試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負載 持續(xù)時 間 平均速度 完成請 求數(shù) 最大響應(yīng)時長 平均響應(yīng) 時長 測試結(jié)果Test1 1G 347 秒 4322 條/秒 150 萬 93005毫秒 毫秒1 2 250 150萬 0 毫秒Test1 1G 2322 秒 4658 條/秒 150 萬 21244毫秒 毫秒300 萬次請求全部完成，無一錯包。Test1 5475 秒 913 條/秒 500 萬 93000毫秒 毫秒5 2 500 500萬 500毫秒Test2 15565 秒 898 條/秒 500 萬 92987毫秒 毫秒完成測試，但 TomcatTomcat2 占用內(nèi)存到達 Xmx 指定上限 ，無錯包。Test1 1220秒 2459 300 萬 3018 毫秒 毫秒4 2 500 300萬 200毫秒Test2 1 1241秒 2417 300 萬 3384 毫秒 毫秒開啟 Nginx 緩存后，600萬次請求全部完成，無一錯包。測試過程中曾嘗試過使用 100k大小靜態(tài)頁面，結(jié)果顯示在千兆內(nèi)網(wǎng)下，無論是單 Tomcat亦或是 Nginx+2Tomcat，請求速度最大均不超過 1000條 /秒，網(wǎng)絡(luò)帶寬使用已經(jīng)達到 800M，接近千 M內(nèi)網(wǎng)上限。3） Xmx最大內(nèi)存值對Tomcat能夠持續(xù)響應(yīng)高并發(fā)的影響持續(xù)高并發(fā)請求狀態(tài)下，有6次測試是因為tomcat 內(nèi)存達到指定最大值導(dǎo)致響應(yīng)變慢，直至內(nèi)存溢出停止響應(yīng)，因此，Tomcat最大內(nèi)存對tomcat能夠持續(xù)響應(yīng)高并發(fā)請求有很大的影響，調(diào)整該值，應(yīng)該可以增加Tomcat響應(yīng)高并發(fā)請求的總數(shù)，進而延長WEB 服務(wù)能夠支撐峰值的時間。4) 在Nginx+2tomcat，同時配置了緩存的情況下，可以達到 的并發(fā)處理能力 評測結(jié)果1) 單個tomcat 的處理能力在500條/秒左右單個tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請求。3) Nginx+2Tomcat配置了緩存后。單個tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請求，而Nginx+2Tomcat能支持每秒1000左右的并發(fā)請求。2) ，在持續(xù)超過1479 條/ 秒的并發(fā)請求下，在穩(wěn)定支撐約240萬次響應(yīng)后，之后Tomcat響應(yīng)會急劇變慢，錯包急劇上升。2） MaxThread參數(shù)對tomcat并發(fā)性的影響本次測試tomcat的 MaxThread參數(shù)設(shè)定為 500，進行13000條/秒并發(fā)測試時，tomcat啟動并發(fā)線程過多，將服務(wù)器cpu耗盡。Test1 10040 秒 498 500 萬 3020 毫秒 毫秒6 2 500 500萬 1000毫秒Test2 1 10038 秒 498 500 萬 78 毫秒 毫秒開啟 Nginx 緩存后，1000 萬次請求全部完成，無一錯包。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第42 頁 Nginx+2個TOMCAT的WEB服務(wù)器+ 緩沖NO 客戶端數(shù) 線程 數(shù) 請求次數(shù) 間隔時間 測試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負載 持續(xù)時間 平均速度 (條/秒) 完成請 求數(shù) 最大響應(yīng) 時長 平均響應(yīng)時 長 測試結(jié)果Test1 64 秒 23437 150 萬 9993 毫秒 毫秒1 2 250 150萬0 毫秒 Test2 1 59 秒 25423 150 萬 3472 毫秒 毫秒 　Test1 196秒 10202 200 萬 9616 毫秒 毫秒2 2 500 200萬 25 毫秒Test2 1 194秒 10361 200 萬 9608 毫秒 毫秒開啟 Nginx 緩存后，400萬次請求全部完成，分別有 241 和 216 個錯包。Test1 1140 秒 2445 條/秒 278 萬 　 　3 2 500 300萬 50 毫秒Test2 21141 秒 2424 條/秒 276 萬 　 　服務(wù)端從第 1100 秒左右開始，TomcatTomcat2 占用內(nèi)存到達 Xmx 指定上限 ，TestTest2 請求速度緩慢下降，但并無錯包，人為終止測試。Test1 1595秒742 條/秒118萬52 500 200萬 500毫秒 Test2 1 1575秒737 條/秒116萬服務(wù)端從第 1595 秒左右開始，tomcat 占用內(nèi)存到達 Xmx 指定上限，TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包，達到 前，錯包率只有 %，達到 后，截止停止測試時，錯包率增長到 %，測試終止。tomcat 拋出“: GC overhead limit exceeded “異常。 }}3. Tomcat設(shè)置主要配置如下：? ? MaxThread 500大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第39頁? MinSpareThread 25? MaxSpareThread75? Xmx 1740M4. Java環(huán)境? 。 代理請求緩存區(qū)_ 這個緩存區(qū)間會保存用戶的頭信息以供 Nginx進行規(guī)則處理_一般只要能保存下頭信息即可 proxy_buffer_size 8k。 緩沖區(qū)代理緩沖用戶端請求的最大字節(jié)數(shù) 可以理解為先保存到本地再大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第38頁傳給用戶 client_body_buffer_size 128k。 39。 location / { if ($request_uri ~* .*\.(js|css|gif|jpg|jpeg|png|bmp|swf)$) { proxy_pass } if ($request_uri ~* ^/view/(.*)$) { proxy_pass } proxy_pass } 定義日志格式 log_format access 39。 } server { listen 81。 gzip_vary on。 gzip_buffers 4 16k。 keepalive_timeout 1。 client_header_buffer_size 32k。} { include 。pid /usr/local/nginx/logs/。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第34頁3 Web服務(wù)架構(gòu)評測主要對基于tomcat和nginx+tomcat的web服務(wù)器的處理性能進行測試，以作為不同性能要求下架構(gòu)選型的依據(jù) 測試環(huán)境 網(wǎng)絡(luò)環(huán)境1. 內(nèi)網(wǎng)帶寬? 千M內(nèi)網(wǎng)。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第33頁 apache服務(wù)器優(yōu)化加大并發(fā)數(shù)量和關(guān)閉不需要的模塊。pression： 壓縮傳輸，取值 on/off/force，默認值 off。設(shè)置為 0 表示永不超時，這樣設(shè)置有隱患的。maxSpareThreads： 一旦創(chuàng)建的線程超過這個值， Tomcat 就會關(guān)閉不再需要的 socket 線程。acceptCount： 指定當所有可以使用的處理請求的線程數(shù)都被使用時，可以放到處理隊列中的請求數(shù)，超過這個數(shù)的請求將不予處理。 表示初始化內(nèi)存為 256MB，可以使用的最大內(nèi)存為 512MB。Xms【初始化內(nèi)存大小】 Xmx【可以使用的最大內(nèi)存】39。Linux系統(tǒng)中：在/etc/： = 1 = 1大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第31頁 = 1 = 5 tomcat服務(wù)器優(yōu)化增大并發(fā)連接數(shù)，調(diào)整內(nèi)存參數(shù)的設(shè)置。這樣各種服務(wù)如插件一樣組成了一個開放的平臺，這樣團隊的規(guī)模就會比較小，比較靈活。這種架構(gòu)是松散耦合的，并且圍繞著服務(wù)進行構(gòu)建。iBATIS 把對象和存儲過程或者使用 XML 描述符的 SQL 語句進行了關(guān)聯(lián)。目前，國內(nèi)訪問量較高的大型網(wǎng)站如新浪、網(wǎng)易等，均使用 CDN網(wǎng)絡(luò)加速技術(shù)，雖然網(wǎng)站的訪問巨大，但無論在什么地方訪問都會感覺速度很快。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第25頁CDN的全稱是 Content Delivery Network，即內(nèi)容分發(fā)網(wǎng)絡(luò)。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第24頁 網(wǎng)絡(luò)問題解決方案你不可能要求所有的使用人員，都和你的服務(wù)器在一個運營商的網(wǎng)絡(luò)內(nèi)，而不同網(wǎng)絡(luò)之間訪問速度會很慢，我們可以采用鏡像網(wǎng)站和引入CDN來解決這一問題。利用開源的lsync監(jiān)聽某一目錄，如果目錄內(nèi)文件發(fā)生增、刪、改，利用Rsync 協(xié)議自動同步到多臺服務(wù)器。目前Google擁有超過 200個的 GFS集群，其中有些集群的 PC數(shù)量超過5000大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第23頁臺?？蛻舳讼葟腗aster 上得到文件的 Metadata，根據(jù)要讀取的數(shù)據(jù)在文件中的位置與相應(yīng)的 TrunkServer通信，獲取文件數(shù)據(jù)。被共享的目錄和文件存放在服務(wù)器上，客戶機遠程地訪問保存在服務(wù)器上的數(shù)據(jù)。GFS是一個可擴展的分布式文件系統(tǒng)，用于大型的、分布式的、對大量數(shù)據(jù)進行訪問的應(yīng)用。NFS即網(wǎng)絡(luò)文件系統(tǒng)，是由SUN公司開發(fā)的。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第21頁 文件存儲1. 文件共享1） HDFS（GFS）HDFS是Apache Hadoop項目中的一個分布式文件系統(tǒng)實現(xiàn)，基于Google于2022年10月發(fā)表的Google File System(GFS)論文。3. 擁有良好的DB配置和備份很多公司都沒有良好的備份機制，也不知道如 何恰當?shù)赝瓿蛇@項工作。更一般地，這意味著建立主/從副本系統(tǒng)，其中 程序會對主庫編寫所有的Update、Insert和Delete變更語句，而所有Select的數(shù)據(jù)都讀取自從數(shù)據(jù)庫（或者多個從數(shù)據(jù)庫）。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第20頁 數(shù)據(jù)庫配置及優(yōu)化1. 數(shù)據(jù)庫集群對生產(chǎn)數(shù)據(jù)庫采用RAC實現(xiàn)數(shù)據(jù)庫的集群。對于大量內(nèi)容并且頻繁更新的網(wǎng)站，我們無法全部手動去挨個實現(xiàn)頁面靜態(tài)化，所以我們需要引入常見的信息發(fā)布系統(tǒng)(CMS)，信息發(fā)布系統(tǒng)(CMS)可以實現(xiàn)最簡單的信息錄入自動生成靜態(tài)頁面，對于一個大型網(wǎng)站來說，擁有一套高效、可管理的CMS是必不可少的。從服務(wù)器運行的那個時間片來看，這個傳輸過程僅僅占用了很小的CPU資源。1) 用戶基本信息及狀態(tài)的信息緩沖2) 列表緩存，就像論壇里帖子的列表3) 記錄條數(shù)的緩存，比如一個論壇板塊里有多少個帖子，這樣才方便實現(xiàn)分頁。2） Memcachedmemcached是高性能的分布式內(nèi)存緩存服務(wù)器。 2) 擁有全面的API：OSCache API允許你通過編程的方式來控制所有的OSCache特性。支持集群集群緩存數(shù)據(jù)能被單個的進行參數(shù)配置，不需要修改代碼。2. 應(yīng)用程序方面的緩存1） OSCacheOSCache由OpenSymphony 設(shè)計，它是一種開創(chuàng)性的JSP 定制標記應(yīng)用，提供了在現(xiàn)有JSP 頁面之內(nèi)實現(xiàn)快速內(nèi)存緩沖的功能，OSCache是個一個廣泛采用的高性能的J2EE緩存框架，OSCache 能用于任何Java 應(yīng)用程序的普通的緩存解決方案。Nginx 目前沒有寫入 memcached 的任何機制，所以要往 memcached里寫入數(shù)據(jù)得用后臺的動態(tài)語言完成，可以利用 404 定向到后端去寫入數(shù)據(jù)。location /mem/ { if ( $uri ~ ^/mem/([09AZaz_]*)$ ) {大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第16頁 set $memcached_key $1。 緩存1. 系統(tǒng)架構(gòu)方面的緩存1） Squid緩存架構(gòu)方面使用Squid進行緩存。 9) 穩(wěn)定性高用于反向代理，宕機的概率微乎其微。而購買F5 BIGIP 、NetScaler等硬件負載均衡交換機則需要十多萬至幾十萬人民幣。Nginx 特點如下：1) 工作在OSI模型的第 7層（應(yīng)用層）2) 高并發(fā)連接官方測試能夠支撐5萬