【正文】 所以可以通過新加tomcat服務(wù)器來提升系統(tǒng)的并發(fā)能力，但在tomcat的總體處理能力超過nginx的處理能力時(shí)無效。第44頁3) Nginx+2tomcat架構(gòu)下，在持續(xù)超過2900 條/ 秒的并發(fā)請(qǐng)求下，能夠穩(wěn)定支撐約540萬次左右響應(yīng)，之后兩個(gè)Tomcat ，響應(yīng)會(huì)急劇變慢，但錯(cuò)包情況并未出現(xiàn)。分析MaxThread雖能夠提高 tomcat并發(fā)能力，但前提是在一個(gè)合理的范圍內(nèi)，要確保服務(wù)器負(fù)載不會(huì)因?yàn)椴l(fā)線程過多而急劇升高，從而停止響應(yīng)。注：本次測(cè)試所用 jsp頁面僅 100個(gè)字節(jié)大小，測(cè)試過程中帶寬壓力可以忽略不計(jì)。Test1 379秒 7915 300 萬 9015 毫秒 毫秒3 2 500 300萬 50 毫秒Test2 1 384秒 7812 300 萬10234 毫秒 毫秒開啟 Nginx 緩存后，600萬次請(qǐng)求全部完成，無一錯(cuò)包。 Test1 1860 秒 1490 條/秒 277 萬 　 　4 2 500 300萬 200毫秒Test2 11863 秒 1482 條/秒 276 萬 　 　服務(wù)端從第 1800 秒左右開始，TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，TestTest2 請(qǐng)求速度緩慢下降，但并無錯(cuò)包，人為終止測(cè)試。Test1 6362秒 471 條/秒 300萬6 2 500 300萬 1000毫秒Test2 1 6351秒472 條/秒300萬在測(cè)試進(jìn)度到 80%左右時(shí)，tomcat1 占用內(nèi)存達(dá)到了 Xmx 指定上限 ，但TestTest2 請(qǐng)求速度并未下降，直到 600 萬次請(qǐng)求全部完成，兩個(gè)客戶端分別有 9 個(gè)丟包，丟包率只有 %，最長的響應(yīng)時(shí)長為 秒。Test1 422秒2863條/秒120萬3 2 500 200萬50 毫秒 Test2 3 413秒2922條/秒120萬服務(wù)端從第 400 秒左右開始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包，422 秒以后的錯(cuò)包率超過 %，且仍在在增加中，之前的錯(cuò)包率約為 %，測(cè)試終止。 同上 告訴Nginx保存單個(gè)用的幾個(gè)Buffer 最大用多大空間 proxy_buffers 4 32k。 跟后端服務(wù)器連接的超時(shí)時(shí)間_ 發(fā)起握手等候響應(yīng)超時(shí)時(shí)間 proxy_connect_timeout 600。$_user_agent $_x_forwarded_for39。$remote_addr $remote_user [$time_local] $request 39。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第37頁 server_name localhost。 upstream tomcats { server :8081。 gzip__version 。 tcp_nodelay on。 large_client_header_buffers 4 32k。 default_type application/octetstream。worker_rlimit_nofile 51200。? 內(nèi)網(wǎng)ping包延遲： 2. 網(wǎng)絡(luò)拓?fù)涫疽? 9 2 . 1 6 8 . 1 3 1 . 5 7T o m c a t 11 9 2 . 1 6 8 . 1 3 1 . 5 6T o m c a t 21 9 2 . 1 6 8 . 1 3 1 . 6 0 : 8 1N g i n x 服 務(wù) 端W E B 服 務(wù) 高 可 用 測(cè) 試 網(wǎng) 絡(luò) 示 意 圖1 9 2 . 1 6 8 . 1 3 1 . 1 9t e s t 11 9 2 . 1 6 8 . 1 3 1 . 6 1t e s t 2W E B 服 務(wù)測(cè) 試 服 務(wù) 器千 兆 交 換 機(jī)大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第35頁 服務(wù)器配置設(shè)備 硬件配置 操作系統(tǒng)NginxIBM X3650CPU: Intel(R) Xeon(R) E5150 2核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as4Tomcat1 Hp DL580 G4CPU: Intel(R) Xeon(TM) 4核*2內(nèi)存：8G千兆網(wǎng)卡Redhat linux as5Tomcat2Hp DL580 G4CPU: Intel(R) Xeon(TM) 4核*2內(nèi)存：8G千兆網(wǎng)卡Redhat linux as5Test1Hp DL580 G5CPU:Intel(R) Xeon(R) E7310 4核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as5Test2IBM X3650CPU: Intel(R) Xeon(R) E5150 2核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as4 軟件環(huán)境1. 操作系統(tǒng)網(wǎng)絡(luò)參數(shù)優(yōu)化用做測(cè)試的各臺(tái)服務(wù)器，均在/etc/ 配置文件中增加如下內(nèi)核參數(shù)： = 1 = 1 = 1 = 52. Nginx設(shè)置主要配置如下：user 。因?yàn)閍pache非常消耗內(nèi)存，盡量輕量化。 其中和最大連接數(shù)相關(guān)的參數(shù)為 maxThreads 和 acceptCount。通常可設(shè)置為30000 毫秒。默認(rèn)值 75。默認(rèn)值 10。連接器優(yōu)化： 在 tomcat 配置文件 中的配置中，和連接數(shù)相關(guān)的參數(shù)有：maxThreads： Tomcat 使用線程來處理接收的每個(gè)請(qǐng)求。 需要把這個(gè)兩個(gè)參數(shù)值調(diào)大。JDK 內(nèi)存優(yōu)化：當(dāng)應(yīng)用程序需要的內(nèi)存超出堆的最大值時(shí)虛擬機(jī)就會(huì)提示內(nèi)存溢出，并且導(dǎo)致應(yīng)用服務(wù)崩潰。注 Amazon 就是采用了這種架構(gòu)來構(gòu) 建的，它擁有上千臺(tái)服務(wù)器。面向服務(wù)的架構(gòu)提供給他們隔離特性，一個(gè)服務(wù)可能有很多臺(tái)數(shù)據(jù)庫服務(wù)器，他們之間的數(shù)據(jù)是相通的，而對(duì)外他們的接口只有一個(gè)，外面是無法知道這個(gè)服務(wù)后面的數(shù)據(jù)組織是如何搭建的。簡(jiǎn)單是 iBATIS 最大的優(yōu)勢(shì)? ibatis使用ibatis的十個(gè)理由1. 至少能操作 10 種以上的數(shù)據(jù)庫2. 可配置的 caching(包括從屬)3. 支持 DataSource、local transaction managemen 和 global transaction4. 簡(jiǎn)單的 XML 配置文檔5. 支持 Map, Collection, List 和簡(jiǎn)單類型包裝(如 Integer, String)6. 支持 JavaBeans 類(get/set 方法)7. 支持復(fù)雜的對(duì)象映射(如 populating lists, plex object models)8. 對(duì)象模型從不完美(不需要修改)9. 數(shù)據(jù)模型從不完美(不需要修改)10. 你已經(jīng)知道 SQL，為什么還要學(xué)習(xí)其他東西大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第27頁1） MVC架構(gòu)示意大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第28頁2） Struts架構(gòu)客戶端發(fā)送一個(gè)HTTP請(qǐng)求，通過Struts框架最后獲得一個(gè)HTTP響應(yīng)，這一過程非常重要，它是理解Struts框架的重點(diǎn)。而一般的網(wǎng)站如果服務(wù)器在網(wǎng)通，電信用戶訪問很慢，如果服務(wù)器在電信，網(wǎng)通用戶訪問又很慢。它采取了分布式網(wǎng)絡(luò)緩存結(jié)構(gòu)（即國際上流行的 web cache技術(shù)），其目的是通過在現(xiàn)有的 Inter中增加一層新的網(wǎng)絡(luò)架構(gòu)，將網(wǎng)站的內(nèi)容發(fā)布到最接近用戶的網(wǎng)絡(luò) 邊緣 ，使用戶可以就近取得所需的內(nèi)容，解決 Inter網(wǎng)絡(luò)擁擠的狀況，提高用戶訪問網(wǎng)站的響應(yīng)速度。智 能 D N S解 析電 信 機(jī) 房服 務(wù) 器 1 服 務(wù) 器 n動(dòng)態(tài)內(nèi)容 （ 社區(qū) 、 投票 、 調(diào)查 、 搜索 、 點(diǎn)評(píng) 、 視頻 ）靜態(tài)內(nèi)容（ 靜態(tài)網(wǎng)頁 、 圖片 ）多 線 機(jī) 房服 務(wù) 器 1 服 務(wù) 器 n服 務(wù) 器 1 服 務(wù) 器 n網(wǎng) 通 機(jī) 房其 他用 戶網(wǎng) 通用 戶用戶C D N電 信用 戶1. 智能DNS解析我們可以在不同的網(wǎng)絡(luò)運(yùn)營商部署web服務(wù)器，通過linux上的rsync工具自動(dòng)同步到不同網(wǎng)絡(luò)接入商的web服務(wù)器上，以作為主站的鏡像。3. 圖片服務(wù)器分離特別是如果程序與圖片都放在同一個(gè) APAHCE 的服務(wù)器下，每一個(gè)圖片的請(qǐng)求都有可能導(dǎo)致一個(gè) HTTPD 進(jìn)程的調(diào)用。集群的數(shù)據(jù)存儲(chǔ)規(guī)?？梢赃_(dá)到5個(gè)PB ，并且集群中的數(shù)據(jù)讀寫吞吐量可達(dá)到每秒40G。再從跨平臺(tái)性上，NFS的基本原則是“容許不同的客戶端及服務(wù)端通過一組RPCs分享相同的文件系統(tǒng) ”，它是獨(dú)立于操作系統(tǒng)的，容許不同的操作系統(tǒng)共同地進(jìn)行文件的共享。GFS則由一臺(tái)Master(通常有幾臺(tái)備份)和若干臺(tái)TrunkServer構(gòu)成。它是針對(duì)Google的計(jì)算機(jī)集群進(jìn)行設(shè)計(jì)的，專門是為Google頁面搜索的存儲(chǔ)進(jìn)行了優(yōu)化。它是FreeBSD 支持的文件系統(tǒng)中的一種，允許一個(gè)系統(tǒng)在網(wǎng)絡(luò)上與它人共享目錄和文件。? 特性1) 硬件要求低2) 高容錯(cuò)性3) 易可擴(kuò)展4) 配置簡(jiǎn)單5) 超大文件HDFS采用master/slave架構(gòu)。只有imp是不夠的，還需要進(jìn)行熱備份，從而得到超快的速度和超高的可靠性。盡管概念上很簡(jiǎn)單，但是想要合理、精確地實(shí) 現(xiàn)并不容易，這可能需要大量的代碼工作。2. 數(shù)據(jù)庫及表的散列把生產(chǎn)數(shù)據(jù)庫和查詢數(shù)據(jù)庫進(jìn)行分離，針對(duì)系統(tǒng)業(yè)務(wù)數(shù)據(jù)的特點(diǎn)，把大的表進(jìn)行拆分，對(duì)于訪問較多的表采用分區(qū)表。同時(shí)，HTML靜態(tài)化也是某些緩存策略使用的手段，對(duì)于系統(tǒng)中頻繁使用數(shù)據(jù)庫查詢但是內(nèi)容更新很小的應(yīng)用，可以考慮使用HTML靜態(tài)化來實(shí)現(xiàn)，比如論壇中論壇的公用設(shè)置信息，這些信息目前的主流論壇都可以進(jìn)行后臺(tái)管理并且存儲(chǔ)再數(shù)據(jù)庫中，這些信息其實(shí)大量被前臺(tái)程序調(diào)用，但是更新頻率很小，可以考慮將這部分內(nèi)容進(jìn)行后臺(tái)更新的時(shí)候進(jìn)行靜態(tài)化，這樣避免了大量的數(shù)據(jù)庫訪問請(qǐng)求。頁面靜態(tài)化就是采用效率最高、消耗最小的純靜態(tài)化的html頁面來替換動(dòng)態(tài)頁面。4) 復(fù)雜一點(diǎn)的group，sum，count查詢，比如積分的分類排名b） 集成在WEB應(yīng)用中的內(nèi)存緩存在web應(yīng)用中對(duì)于熱點(diǎn)的功能，考慮使用完全裝載到內(nèi)存，保證絕對(duì)的響應(yīng)速度，對(duì)于需要頻繁訪問的熱點(diǎn)數(shù)據(jù)，采用集中緩存(多個(gè)可以采用負(fù)載均衡)，減輕數(shù)據(jù)庫的壓力，比如：很多配置信息，操作員信息等等。一般的使用目的是，通過緩存數(shù)據(jù)庫查詢結(jié)果，減少數(shù)據(jù)庫訪問次數(shù)，以提高動(dòng)態(tài)Web應(yīng)用的速度、 提高可擴(kuò)展性。 3) 永久緩存：緩存能被配置寫入硬盤，因此允許在應(yīng)用服務(wù)器的多次生命周期間緩存創(chuàng)建開銷昂貴的數(shù)據(jù)。緩存記錄的過期你可以有最大限度的控制緩存對(duì)象的過期，包括可插入式的刷新策略（如果默認(rèn)性能不需要時(shí)）。OSCache 有以下特點(diǎn)：緩存任何對(duì)象，你可以不受限制的緩存部分jsp頁面或HTTP請(qǐng)求，任何java對(duì)象都可以緩存。Nginx傳統(tǒng)緩存的缺點(diǎn)也是它和 squid等緩存軟件的不同之特色，所以也可看作其優(yōu)點(diǎn)。 memcached_pass :11211。注： SQUID使用了 LM算法， LM就是頁面 Header里時(shí)間(Date)和 LastModified時(shí)間的差。 3） Nginx+squid頁面緩存來實(shí)現(xiàn)反向代理負(fù)載均衡通過Nginx反向代理和squid緩存實(shí)現(xiàn)動(dòng)靜分離的架構(gòu)圖如下所示：大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第14頁5. Apache +tomcat集群實(shí)現(xiàn)負(fù)載均衡。 6) 支持Rewrite重寫規(guī)則能夠根據(jù)域名、URL的不同，將 HTTP 請(qǐng)求分到不同的后端服務(wù)器群組。 3) 內(nèi)存消耗少在3萬并發(fā)連接下，開啟的10個(gè)Nginx 進(jìn)程才消耗150M內(nèi)存（15M*10=150M）。2） NginxNginx (“engine x”) 是俄羅斯人Igor Sysoev(塞索耶夫)編寫的一大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第13頁款高性能的 HTTP 和反向代理服務(wù)器。Squid反向代理服務(wù)器位于本地 WEB 服務(wù)器和 Inter 之間 , 組織架構(gòu)如下圖：大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第12頁客戶端請(qǐng)求訪問 WEB 服務(wù)時(shí)，DNS 將訪問的域名解析為 Squid 反向代理服務(wù)器的 IP 地址，這樣客戶端的 URL 請(qǐng)求將被發(fā)送到反向代理服務(wù)器。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第11頁目前有許多反向代理軟件，比較有名的有 Nginx 和 Squid 。一個(gè)典型的使用負(fù)載均衡的策略就是，在軟件或者硬件四層交換的基礎(chǔ)上搭建squid集群，這種思路在很多大型網(wǎng)站包括搜索引擎上被采用，這樣的架構(gòu)低成本、高性能還有很強(qiáng)的擴(kuò)張性。最后一點(diǎn)是致命的，有可能造成相當(dāng)一部分客戶不能享受Web服務(wù)，并且由于DNS緩存的原因，所造成的后果要持續(xù)相當(dāng)長一段時(shí)間( 一般 DNS的刷新周期約為 24小時(shí))。3) 采用代理服務(wù)器，實(shí)現(xiàn)軟件級(jí)的網(wǎng)絡(luò)負(fù)載均衡。2) 在不同運(yùn)營商機(jī)房部署服務(wù)器，通過鏡像技術(shù)來實(shí)現(xiàn)不同網(wǎng)絡(luò)服務(wù)商的接入速度問題。 WEB應(yīng)用開發(fā)架構(gòu)思路1) 應(yīng)用開發(fā)實(shí)現(xiàn)MVC架構(gòu)三層架構(gòu)進(jìn)行web應(yīng)用開發(fā)2) 頁面盡可能靜態(tài)化以減少動(dòng)態(tài)數(shù)