【正文】 ，提高用戶訪問網(wǎng)站的響應(yīng)速度。 (也就是一個服務(wù)器的內(nèi)容，平均分部到多個服務(wù)器上，服務(wù)器智能識別，讓用戶獲取離用戶最近的服務(wù)器，提高速度。而一般的網(wǎng)站如果服務(wù)器在網(wǎng)通，電信用戶訪問很慢，如果服務(wù)器在電信，網(wǎng)通用戶訪問又很慢。iBATIS 是一個可以設(shè)計和實現(xiàn)更好的 Java 應(yīng)用程序持久化層的框架。簡單是 iBATIS 最大的優(yōu)勢? ibatis使用ibatis的十個理由1. 至少能操作 10 種以上的數(shù)據(jù)庫2. 可配置的 caching(包括從屬)3. 支持 DataSource、local transaction managemen 和 global transaction4. 簡單的 XML 配置文檔5. 支持 Map, Collection, List 和簡單類型包裝(如 Integer, String)6. 支持 JavaBeans 類(get/set 方法)7. 支持復(fù)雜的對象映射(如 populating lists, plex object models)8. 對象模型從不完美(不需要修改)9. 數(shù)據(jù)模型從不完美(不需要修改)10. 你已經(jīng)知道 SQL，為什么還要學(xué)習(xí)其他東西大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第27頁1） MVC架構(gòu)示意大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第28頁2） Struts架構(gòu)客戶端發(fā)送一個HTTP請求，通過Struts框架最后獲得一個HTTP響應(yīng)，這一過程非常重要，它是理解Struts框架的重點。最終數(shù)據(jù)庫演變成一個非常龐大的共享資源。面向服務(wù)的架構(gòu)提供給他們隔離特性，一個服務(wù)可能有很多臺數(shù)據(jù)庫服務(wù)器，他們之間的數(shù)據(jù)是相通的，而對外他們的接口只有一個，外面是無法知道這個服務(wù)后面的數(shù)據(jù)組織是如何搭建的。這些應(yīng)用服務(wù)器從數(shù)據(jù)眾多的服務(wù)（每個服務(wù)背后都有數(shù)據(jù)庫或集群數(shù)據(jù)庫）中聚合信息，然后生成我們。注 Amazon 就是采用了這種架構(gòu)來構(gòu) 建的，它擁有上千臺服務(wù)器。 操作系統(tǒng)優(yōu)化調(diào)整系統(tǒng)的內(nèi)核參數(shù)，增大連接數(shù)及TCP/IP的超時設(shè)置。JDK 內(nèi)存優(yōu)化：當(dāng)應(yīng)用程序需要的內(nèi)存超出堆的最大值時虛擬機就會提示內(nèi)存溢出，并且導(dǎo)致應(yīng)用服務(wù)崩潰。 Tomcat 默認可以使用的內(nèi)存為 128MB，在較大型的應(yīng)用項目中，這點內(nèi)存是不夠的，需要調(diào)大.Tomcat 默認可以使用的內(nèi)存為 128MB,Windows 下, 在文件/bin/，Unix 下，在文件 /bin/ 的前面，增加如下設(shè)置： JAVA_OPTS=39。 需要把這個兩個參數(shù)值調(diào)大。Xms256m Xmx512m39。連接器優(yōu)化： 在 tomcat 配置文件 中的配置中，和連接數(shù)相關(guān)的參數(shù)有：maxThreads： Tomcat 使用線程來處理接收的每個請求。默認值 150。默認值 10。默認值25。默認值 75。為了提高處理能力，應(yīng)設(shè)置為 falseconnnectionTimeout： 網(wǎng)絡(luò)連接超時，默認值 60000，單位：毫秒。通?？稍O(shè)置為30000 毫秒。 bufferSize： 輸入流緩沖大小，默認值 2048 bytes。 其中和最大連接數(shù)相關(guān)的參數(shù)為 maxThreads 和 acceptCount。web server 允許的最大連接數(shù)還受制于*作系統(tǒng)的內(nèi)核參數(shù)設(shè)置，通常 Windows 是 2022 個左右，Linux 是 1000 個左右。因為apache非常消耗內(nèi)存，盡量輕量化。在處理靜態(tài)頁面或者圖片、js等訪問方面，可以考慮使用ligd 代替Apache，它提供了更輕量級和更高效的處理能力 Nginx服務(wù)器的優(yōu)化worker_processes：該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，如果nginx所在服務(wù)器為2 顆雙核cpu ，則建議設(shè)定為4。? 內(nèi)網(wǎng)ping包延遲： 2. 網(wǎng)絡(luò)拓撲示意1 9 2 . 1 6 8 . 1 3 1 . 5 7T o m c a t 11 9 2 . 1 6 8 . 1 3 1 . 5 6T o m c a t 21 9 2 . 1 6 8 . 1 3 1 . 6 0 : 8 1N g i n x 服 務(wù) 端W E B 服 務(wù) 高 可 用 測 試 網(wǎng) 絡(luò) 示 意 圖1 9 2 . 1 6 8 . 1 3 1 . 1 9t e s t 11 9 2 . 1 6 8 . 1 3 1 . 6 1t e s t 2W E B 服 務(wù)測 試 服 務(wù) 器千 兆 交 換 機大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第35頁 服務(wù)器配置設(shè)備 硬件配置 操作系統(tǒng)NginxIBM X3650CPU: Intel(R) Xeon(R) E5150 2核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as4Tomcat1 Hp DL580 G4CPU: Intel(R) Xeon(TM) 4核*2內(nèi)存：8G千兆網(wǎng)卡Redhat linux as5Tomcat2Hp DL580 G4CPU: Intel(R) Xeon(TM) 4核*2內(nèi)存：8G千兆網(wǎng)卡Redhat linux as5Test1Hp DL580 G5CPU:Intel(R) Xeon(R) E7310 4核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as5Test2IBM X3650CPU: Intel(R) Xeon(R) E5150 2核*2內(nèi)存：4G千兆網(wǎng)卡Redhat linux as4 軟件環(huán)境1. 操作系統(tǒng)網(wǎng)絡(luò)參數(shù)優(yōu)化用做測試的各臺服務(wù)器，均在/etc/ 配置文件中增加如下內(nèi)核參數(shù)： = 1 = 1 = 1 = 52. Nginx設(shè)置主要配置如下：user 。error_log /usr/local/nginx/logs/ debug。worker_rlimit_nofile 51200。 worker_connections 51200。 default_type application/octetstream。 server_names_hash_bucket_size 128。 large_client_header_buffers 4 32k。 tcp_nopush on。 tcp_nodelay on。 gzip_min_length 1k。 gzip__version 。 gzip_types text/plain application/xjavascript text/css application/xml。 upstream tomcats { server :8081。 server :8080。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第37頁 server_name localhost。 location / { proxy_pass } 后端的 Web服務(wù)器可以通過 XForwardedFor獲取用戶真實IP proxy_set_header XForwardedFor $remote_addr。$remote_addr $remote_user [$time_local] $request 39。$status $body_bytes_sent $_referer 39。$_user_agent $_x_forwarded_for39。 允許客戶端請求的最大的單個文件字節(jié)數(shù) client_max_body_size 10m。 跟后端服務(wù)器連接的超時時間_ 發(fā)起握手等候響應(yīng)超時時間 proxy_connect_timeout 600。 后端服務(wù)器數(shù)據(jù)回傳時間_ 就是在規(guī)定時間之內(nèi)后端服務(wù)器必須傳完所有的數(shù)據(jù) proxy_send_timeout 600。 同上 告訴Nginx保存單個用的幾個Buffer 最大用多大空間 proxy_buffers 4 32k。 proxy緩存臨時文件的大小 proxy_temp_file_write_size 64k。Test1 288秒4765條/秒137萬22 500 200萬 25 毫秒 Test2 6 293秒4123條/秒120萬從第 280 秒左右開始，tomcat 占用內(nèi)存到達 Xmx 指定上限，TestTest2 請求速度急劇下降，出現(xiàn)錯包，錯包率超過6%，且仍在增加，測試終止。Test1 422秒2863條/秒120萬3 2 500 200萬50 毫秒 Test2 3 413秒2922條/秒120萬服務(wù)端從第 400 秒左右開始，tomcat 占用內(nèi)存到達 Xmx 指定上限，TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包，422 秒以后的錯包率超過 %，且仍在在增加中，之前的錯包率約為 %，測試終止。 web 服務(wù)器負載小于 2。Test1 6362秒 471 條/秒 300萬6 2 500 300萬 1000毫秒Test2 1 6351秒472 條/秒300萬在測試進度到 80%左右時，tomcat1 占用內(nèi)存達到了 Xmx 指定上限 ，但TestTest2 請求速度并未下降，直到 600 萬次請求全部完成，兩個客戶端分別有 9 個丟包，丟包率只有 %，最長的響應(yīng)時長為 秒。Test1 542 秒 3690 條/秒 200 萬 45016毫秒 毫秒2 2 500 200萬 25 毫秒Test2 2544 秒 3676 條/秒 200 萬 45014毫秒 毫秒400 萬次請求全部完成，無一錯包。 Test1 1860 秒 1490 條/秒 277 萬 　 　4 2 500 300萬 200毫秒Test2 11863 秒 1482 條/秒 276 萬 　 　服務(wù)端從第 1800 秒左右開始，TomcatTomcat2 占用內(nèi)存到達 Xmx 指定上限 ，TestTest2 請求速度緩慢下降，但并無錯包，人為終止測試。Test1 968M 10149秒 492 條/秒 500 萬 9077毫秒 毫秒6 2 500 500萬 1000毫秒Test2 1G 110149秒 492 條/秒 500 萬9044毫秒 毫秒完成測試，無一錯包。Test1 379秒 7915 300 萬 9015 毫秒 毫秒3 2 500 300萬 50 毫秒Test2 1 384秒 7812 300 萬10234 毫秒 毫秒開啟 Nginx 緩存后，600萬次請求全部完成，無一錯包。Test1 5031秒 993 500 萬 3020 毫秒 毫秒5 2 500 500萬 500毫秒Test2 1 5055秒 989 500 萬 3394 毫秒 毫秒開啟 Nginx 緩存后，1000萬次請求全部完成，無一錯包。注：本次測試所用 jsp頁面僅 100個字節(jié)大小，測試過程中帶寬壓力可以忽略不計。因此，實際應(yīng)用中，網(wǎng)絡(luò)帶寬對整個 web服務(wù)的影響會非常大第43頁 測試結(jié)果分析1. 系統(tǒng)參數(shù)的影響分析1） worker_processes 參數(shù)對Nginx性能的影響測試過程中分別設(shè)定worker_processes為8 、1 時發(fā)現(xiàn)，該參數(shù)對nginx性能影響不大，對服務(wù)器資源消耗也沒有太大影響，相關(guān)資料顯示，該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測試nginx所在服務(wù)器為2 顆雙核cpu ，因此最終測試設(shè)定為4。分析MaxThread雖能夠提高 tomcat并發(fā)能力，但前提是在一個合理的范圍內(nèi)，要確保服務(wù)器負載不會因為并發(fā)線程過多而急劇升高，從而停止響應(yīng)。2. 各架構(gòu)下的性能分析1) Nginx+2Tomcat的最大并發(fā)性低于單Tomcat，Nginx+2Tomcat最快為8980條/秒，單Tomcat為12986條/秒，分析可能是受 nginx所在服務(wù)器性能影響所致。第44頁3) Nginx+2tomcat架構(gòu)下，在持續(xù)超過2900 條/ 秒的并發(fā)請求下，能夠穩(wěn)定支撐約540萬次左右響應(yīng)，之后兩個Tomcat ，響應(yīng)會急劇變慢，但錯包情況并未出現(xiàn)。2) Nginx+Tomcat比單個 Tomcat更穩(wěn)定，不易出現(xiàn)錯包，可以通過擴充tomcat集群（新增tomcat 服務(wù)器）來提升系統(tǒng)的并發(fā)能力單個tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯包，而采用Nginx+2Tomcat架構(gòu)在各種測試下，均未出現(xiàn)錯包，但處理能力也會下降。所以可以通過新加tomcat服務(wù)器來提升系統(tǒng)的并發(fā)能力，但在tomcat的總體處理能力超過nginx的處理能力