【正文】 charset gb2312。 gzip on。 server :8081。 39。 連接成功后 _等候后端服務(wù)器響應(yīng)時(shí)間 _其實(shí)已經(jīng)進(jìn)入后端的排隊(duì)之中等候處理 proxy_read_timeout 600。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第40 頁(yè) 測(cè)試結(jié)果 單個(gè)TOMCAT的WEB服務(wù)器NO客戶數(shù) 線程數(shù)請(qǐng)求次數(shù)間隔時(shí)間測(cè)試服務(wù)器占用內(nèi)存服務(wù)器負(fù)載持續(xù)時(shí)間平均速度完成請(qǐng)求 結(jié)果說(shuō)明1 1 500 200萬(wàn) 0 毫秒 Test1 150 82 秒 12986條/秒 106萬(wàn)從第 82 秒開始，tomcat 占用內(nèi)存 ，但 CPU 資源被 tomcat 耗盡，服務(wù)器負(fù)載急劇升高，top 顯示已達(dá) 150，服務(wù)器停止響應(yīng)客戶端請(qǐng)求，客戶端請(qǐng)求速度急劇下降，錯(cuò)包率 100%，測(cè)試被迫中斷。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第41 頁(yè) Nginx+2個(gè)TOMCAT的WEB服務(wù)器NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí) 間 平均速度 完成請(qǐng) 求數(shù) 最大響應(yīng)時(shí)長(zhǎng) 平均響應(yīng) 時(shí)長(zhǎng) 測(cè)試結(jié)果Test1 1G 347 秒 4322 條/秒 150 萬(wàn) 93005毫秒 毫秒1 2 250 150萬(wàn) 0 毫秒Test1 1G 2322 秒 4658 條/秒 150 萬(wàn) 21244毫秒 毫秒300 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 1220秒 2459 300 萬(wàn) 3018 毫秒 毫秒4 2 500 300萬(wàn) 200毫秒Test2 1 1241秒 2417 300 萬(wàn) 3384 毫秒 毫秒開啟 Nginx 緩存后，600萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。3） Xmx最大內(nèi)存值對(duì)Tomcat能夠持續(xù)響應(yīng)高并發(fā)的影響持續(xù)高并發(fā)請(qǐng)求狀態(tài)下，有6次測(cè)試是因?yàn)閠omcat 內(nèi)存達(dá)到指定最大值導(dǎo)致響應(yīng)變慢，直至內(nèi)存溢出停止響應(yīng)，因此，Tomcat最大內(nèi)存對(duì)tomcat能夠持續(xù)響應(yīng)高并發(fā)請(qǐng)求有很大的影響，調(diào)整該值，應(yīng)該可以增加Tomcat響應(yīng)高并發(fā)請(qǐng)求的總數(shù)，進(jìn)而延長(zhǎng)WEB 服務(wù)能夠支撐峰值的時(shí)間。3) Nginx+2Tomcat配置了緩存后。2) ，在持續(xù)超過(guò)1479 條/ 秒的并發(fā)請(qǐng)求下，在穩(wěn)定支撐約240萬(wàn)次響應(yīng)后，之后Tomcat響應(yīng)會(huì)急劇變慢，錯(cuò)包急劇上升。Test1 10040 秒 498 500 萬(wàn) 3020 毫秒 毫秒6 2 500 500萬(wàn) 1000毫秒Test2 1 10038 秒 498 500 萬(wàn) 78 毫秒 毫秒開啟 Nginx 緩存后，1000 萬(wàn)次請(qǐng)求全部完成，無(wú)一錯(cuò)包。Test1 1140 秒 2445 條/秒 278 萬(wàn) 　 　3 2 500 300萬(wàn) 50 毫秒Test2 21141 秒 2424 條/秒 276 萬(wàn) 　 　服務(wù)端從第 1100 秒左右開始，TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，TestTest2 請(qǐng)求速度緩慢下降，但并無(wú)錯(cuò)包，人為終止測(cè)試。tomcat 拋出“: GC overhead limit exceeded “異常。 代理請(qǐng)求緩存區(qū)_ 這個(gè)緩存區(qū)間會(huì)保存用戶的頭信息以供 Nginx進(jìn)行規(guī)則處理_一般只要能保存下頭信息即可 proxy_buffer_size 8k。 39。 } server { listen 81。 gzip_buffers 4 16k。 client_header_buffer_size 32k。pid /usr/local/nginx/logs/。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第33頁(yè) apache服務(wù)器優(yōu)化加大并發(fā)數(shù)量和關(guān)閉不需要的模塊。設(shè)置為 0 表示永不超時(shí)，這樣設(shè)置有隱患的。acceptCount： 指定當(dāng)所有可以使用的處理請(qǐng)求的線程數(shù)都被使用時(shí)，可以放到處理隊(duì)列中的請(qǐng)求數(shù)，超過(guò)這個(gè)數(shù)的請(qǐng)求將不予處理。Xms【初始化內(nèi)存大小】 Xmx【可以使用的最大內(nèi)存】39。這樣各種服務(wù)如插件一樣組成了一個(gè)開放的平臺(tái)，這樣團(tuán)隊(duì)的規(guī)模就會(huì)比較小，比較靈活。iBATIS 把對(duì)象和存儲(chǔ)過(guò)程或者使用 XML 描述符的 SQL 語(yǔ)句進(jìn)行了關(guān)聯(lián)。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第25頁(yè)CDN的全稱是 Content Delivery Network，即內(nèi)容分發(fā)網(wǎng)絡(luò)。利用開源的lsync監(jiān)聽某一目錄，如果目錄內(nèi)文件發(fā)生增、刪、改，利用Rsync 協(xié)議自動(dòng)同步到多臺(tái)服務(wù)器?？蛻舳讼葟腗aster 上得到文件的 Metadata，根據(jù)要讀取的數(shù)據(jù)在文件中的位置與相應(yīng)的 TrunkServer通信，獲取文件數(shù)據(jù)。GFS是一個(gè)可擴(kuò)展的分布式文件系統(tǒng)，用于大型的、分布式的、對(duì)大量數(shù)據(jù)進(jìn)行訪問(wèn)的應(yīng)用。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第21頁(yè) 文件存儲(chǔ)1. 文件共享1） HDFS（GFS）HDFS是Apache Hadoop項(xiàng)目中的一個(gè)分布式文件系統(tǒng)實(shí)現(xiàn)，基于Google于2022年10月發(fā)表的Google File System(GFS)論文。更一般地，這意味著建立主/從副本系統(tǒng)，其中 程序會(huì)對(duì)主庫(kù)編寫所有的Update、Insert和Delete變更語(yǔ)句，而所有Select的數(shù)據(jù)都讀取自從數(shù)據(jù)庫(kù)（或者多個(gè)從數(shù)據(jù)庫(kù)）。對(duì)于大量?jī)?nèi)容并且頻繁更新的網(wǎng)站，我們無(wú)法全部手動(dòng)去挨個(gè)實(shí)現(xiàn)頁(yè)面靜態(tài)化，所以我們需要引入常見的信息發(fā)布系統(tǒng)(CMS)，信息發(fā)布系統(tǒng)(CMS)可以實(shí)現(xiàn)最簡(jiǎn)單的信息錄入自動(dòng)生成靜態(tài)頁(yè)面，對(duì)于一個(gè)大型網(wǎng)站來(lái)說(shuō)，擁有一套高效、可管理的CMS是必不可少的。1) 用戶基本信息及狀態(tài)的信息緩沖2) 列表緩存，就像論壇里帖子的列表3) 記錄條數(shù)的緩存，比如一個(gè)論壇板塊里有多少個(gè)帖子，這樣才方便實(shí)現(xiàn)分頁(yè)。 2) 擁有全面的API：OSCache API允許你通過(guò)編程的方式來(lái)控制所有的OSCache特性。2. 應(yīng)用程序方面的緩存1） OSCacheOSCache由OpenSymphony 設(shè)計(jì)，它是一種開創(chuàng)性的JSP 定制標(biāo)記應(yīng)用，提供了在現(xiàn)有JSP 頁(yè)面之內(nèi)實(shí)現(xiàn)快速內(nèi)存緩沖的功能，OSCache是個(gè)一個(gè)廣泛采用的高性能的J2EE緩存框架，OSCache 能用于任何Java 應(yīng)用程序的普通的緩存解決方案。location /mem/ { if ( $uri ~ ^/mem/([09AZaz_]*)$ ) {大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第16頁(yè) set $memcached_key $1。 9) 穩(wěn)定性高用于反向代理，宕機(jī)的概率微乎其微。Nginx 特點(diǎn)如下：1) 工作在OSI模型的第 7層（應(yīng)用層）2) 高并發(fā)連接官方測(cè)試能夠支撐5萬(wàn)并發(fā)連接，在實(shí)際生產(chǎn)環(huán)境中跑到2～3萬(wàn)并發(fā)連接數(shù)。1） Squid Squid 是一個(gè)開源的軟件，利用它的反向代理技術(shù)可以提高網(wǎng)站系統(tǒng)的訪問(wèn)速度,下面將重點(diǎn)介紹 Squid 反向代理的實(shí)現(xiàn)原理和在提高網(wǎng)站性能方面的應(yīng)用。Yahoo中國(guó)當(dāng)初接近2022臺(tái)服務(wù)器使用了三四臺(tái)Alteon就搞定了3. 通過(guò)軟件四層交換實(shí)現(xiàn)負(fù)載均衡軟件四層交換我們可以使用Linux上常用的LVS來(lái)解決，LVS就是Linux Virtual Server，他提供了基于心跳線heartbeat的實(shí)時(shí)災(zāi)難應(yīng)對(duì)解決方案，提高系統(tǒng)的魯棒性，同時(shí)可供了靈活的虛擬VIP配置和管理功能，可以同時(shí)滿足多種應(yīng)用需求，這對(duì)于分布式的系統(tǒng)來(lái)說(shuō)必不可少。2) 采用硬件設(shè)備負(fù)載均衡器，實(shí)現(xiàn)網(wǎng)絡(luò)流量的負(fù)載均衡使用硬件設(shè)備負(fù)載均衡器，將網(wǎng)絡(luò)流量均衡的分擔(dān)到WEB服務(wù)器集群各節(jié)點(diǎn)服務(wù)器，保障平臺(tái)服務(wù)器資源均衡的使用。3) 通過(guò)web服務(wù)器的配置來(lái)實(shí)現(xiàn)負(fù)載均衡即通過(guò)apache或是Nginx 將客戶請(qǐng)求均衡的分給tomcat1,tomcat2....去處理。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案目 錄1 網(wǎng)站的性能瓶頸分析 .........................................................................................................12 系統(tǒng)架構(gòu)設(shè)計(jì) .....................................................................................................................3 總體思路 ......................................................................................................................3 負(fù)載均衡 ................................................................................................................3 WEB應(yīng)用開發(fā)架構(gòu)思路 .......................................................................................3 數(shù)據(jù)存儲(chǔ)的設(shè)計(jì)思路 ............................................................................................3 不同網(wǎng)絡(luò)用戶訪問(wèn)考慮 ........................................................................................4 總體架構(gòu) ......................................................................................................................5 網(wǎng)站的系統(tǒng)分層架構(gòu) ............................................................................................5 網(wǎng)站的物理架構(gòu) ....................................................................................................6 網(wǎng)站的開發(fā)架構(gòu) ....................................................................................................7 網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu) ........................................................................................................8 架構(gòu)涉及技術(shù)的詳解 ..................................................................................................9 負(fù)載均衡 ................................................................................................................9 緩存 ......................................................................................................................15 頁(yè)面靜態(tài)化 ..........................................................................................................19 數(shù)據(jù)庫(kù)配置及優(yōu)化 ..............................................................................................20 文件存儲(chǔ) ..............................................................................................................21 網(wǎng)絡(luò)問(wèn)題解決方案 ..............................................................................................24 WEB應(yīng)用開發(fā)架構(gòu)設(shè)計(jì)思路 .........................................................................