【正文】 Test2 1141 秒 2424 條 /秒 276 萬 4 2 500 300萬 200毫秒 Test1 1 1860 秒 1490 條 /秒 277 萬 服務端從第 1800 秒左右開始， TomcatTomcat2 占用內(nèi)存到達 Xmx 指定上限 ，Test Test2 請求速度緩慢下降 ，但并無錯包，人為終止測試。 Test2 1575秒 737 條/秒 116萬 6 2 500 300萬 1000毫秒 Test1 1 6362秒 471 條/秒 300萬 在測試進度到 80%左右時， tomcat1 占用內(nèi)存達到了 Xmx 指定上限 ，但 TestTest2 請求速度并未下降，直到 600 萬次請求全部完成，兩 個客戶端分別有 9 個丟包，丟包率只有 %，最長的響應時長為 秒。 Test2 293秒 4123條 /秒 120萬 3 2 500 200萬 50 毫秒 Test1 3 422秒 2863條 /秒 120萬 服務端從第 400 秒左右開始， tomcat 占用內(nèi)存到達 Xmx 指定上限 ， TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包， 422 秒以后的錯包率超過 %，且仍在在增加中，之前的錯包率約為 %， 測試終止 。 使用 Tes測試 t進程。 同上 告訴 Nginx保存單個用的幾個 Buffer 最大用多大空間 proxy_buffers 4 32k。 跟后端服務器連接的超時時間 _發(fā)起握手等候響應超時時間 proxy_connect_timeout 600。$_user_agent $_x_forwarded_for39。$remote_addr $remote_user [$time_local] $request 39。 server_name localhost。 upstream tomcats { server :8081。 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 28頁 ,共 39頁 Page 28 , Total39 gzip__version 。 tcp_nodelay on。 large_client_header_buffers 4 32k。 default_type application/octetstream。 worker_rlimit_nofile 51200。 ? 內(nèi)網(wǎng) ping包延遲： 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 26頁 ,共 39頁 Page 26 , Total39 2. 網(wǎng)絡拓撲示意 1 9 2 . 1 6 8 . 1 3 1 . 5 7T o m c a t 11 9 2 . 1 6 8 . 1 3 1 . 5 6T o m c a t 21 9 2 . 1 6 8 . 1 3 1 . 6 0 : 8 1N g i n x 服 務 端W E B 服 務 高 可 用 測 試 網(wǎng) 絡 示 意 圖1 9 2 . 1 6 8 . 1 3 1 . 1 9t e s t 11 9 2 . 1 6 8 . 1 3 1 . 6 1t e s t 2W E B 服 務測 試 服 務 器千 兆 交 換 機 服務器配置 設備 硬件配置 操作系統(tǒng) Nginx IBM X3650 CPU: Intel(R) Xeon(R) E5150 2核 *2 內(nèi)存： 4G 千兆 網(wǎng)卡 Redhat linux as4 Tomcat1 Hp DL580 G4 CPU: Intel(R) Xeon(TM) 4核 *2 內(nèi)存： 8G 千兆網(wǎng)卡 Redhat linux as5 Tomcat2 Hp DL580 G4 CPU: Intel(R) Xeon(TM) 4核 *2 內(nèi)存： 8G 千兆網(wǎng)卡 Redhat linux as5 Test1 Hp DL580 G5 CPU:Intel(R) Xeon(R) E7310 4核 *2 內(nèi)存： 4G 千兆網(wǎng)卡 Redhat linux as5 Test2 IBM X3650 CPU: Intel(R) Xeon(R) E5150 2核 *2 內(nèi)存： 4G 千兆網(wǎng)卡 Redhat linux as4 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 27頁 ,共 39頁 Page 27 , Total39 軟件環(huán)境 1. 操作系統(tǒng)網(wǎng)絡參數(shù)優(yōu)化 用做測試的各臺服務器，均在 /etc/： = 1 = 1 = 1 = 5 2. Nginx設置 主要配置如下： user 。因 為 apache非常消耗內(nèi)存，盡量輕 量化。 其中和最大連接數(shù)相關的參數(shù)為maxThreads 和 acceptCount。通?？稍O置為 30000 毫秒。默認值 75。默認值 10。 連接器優(yōu)化： 在 tomcat 配置文件 中的配置中，和連接數(shù)相關的參數(shù)有： maxThreads： Tomcat 使用線程來處理接收的每個請求。 需要把這個兩個參數(shù)值調(diào)大。 JDK 內(nèi)存優(yōu)化： 當應用程序需要的內(nèi)存超出堆的最大值時虛擬機就會提示內(nèi)存溢出 ，并且導致應用服務崩潰。 注 Amazon 就是采用了這種架構來構 建的，它擁有上千臺服務器。面向服務的架構提供給他們隔離特性，一個服務可能有很多臺數(shù)據(jù)庫服務器，他們之間的數(shù)據(jù)是相通的，而對外他們的接口只有一個，外面是無法知道這個服務后面的數(shù)據(jù)組織是如何搭建的。 簡單是 iBATIS 最大的優(yōu)勢 ? ibatis使用 ibatis的十個理由 1. 至少能 操作 10 種以上的數(shù)據(jù)庫 2. 可配置的 caching(包括從屬 ) 3. 支持 DataSource、 local transaction management 和 global transaction 4. 簡單的 XML 配置文檔 5. 支持 Map, Collection, List 和簡單類型包裝 (如 Integer, String) 6. 支持 JavaBeans 類 (get/set 方法 ) 7. 支持復雜的對象映射 (如 populating lists, plex object models) 8. 對象模型從不完美 (不需要修改 ) 9. 數(shù)據(jù)模型從不完美 (不需要修改 ) 10. 你已經(jīng)知道 SQL，為什么還要學習其他東西 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 21頁 ,共 39頁 Page 21 , Total39 1） MVC架構示意 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 22頁 ,共 39頁 Page 22 , Total39 2） Struts架構 客戶端發(fā)送一個 HTTP請求，通過 Struts框架最后獲得一個 HTTP響應，這一過程非常重要，它是理解 Struts框架的重點。而一般的網(wǎng)站如果服務器在網(wǎng)通，電信用戶訪問很慢，如果服務器在電信，網(wǎng)通用戶訪問又很慢。 它采取了分布式網(wǎng)絡緩存結構（即國際上流行的 web cache技術） ， 其目的是通過在現(xiàn)有的 Inter中增加一層新的網(wǎng)絡架構，將網(wǎng)站的內(nèi)容發(fā)布到最接近用戶的網(wǎng)絡 邊緣 ，使用戶可以就近取得所需的內(nèi)容，解決 Inter網(wǎng)絡擁擠的狀況，提高用戶訪問網(wǎng)站的響應速度。 智 能 D N S解 析電 信 機 房服 務 器 1 服 務 器 n動 態(tài) 內(nèi) 容 （ 社 區(qū) 、 投 票 、 調(diào)查 、 搜 索 、 點 評 、 視 頻 ）靜 態(tài) 內(nèi) 容（ 靜 態(tài) 網(wǎng) 頁 、 圖 片 ）多 線 機 房服 務 器 1 服 務 器 n服 務 器 1 服 務 器 n網(wǎng) 通 機 房其 他用 戶網(wǎng) 通用 戶用 戶C D N電 信用 戶 1. 智能 DNS解析 我們可 以在不同的網(wǎng)絡運營 商部署 web服務器， 通過 linux上的 rsync工具自動同步到 不同網(wǎng)絡接入商的 web服務器 上 ，以作為主站的鏡像。 3. 圖片服務器分離 特別是如果程序與圖片都放在同一個 APAHCE 的服務器下，每一個圖片的請求都有可能導致一個 HTTPD 進程的調(diào)用。集群的數(shù)據(jù)存儲規(guī)?？梢赃_到 5個 PB，并且集群中的數(shù)據(jù)讀寫吞吐量可達到每秒 40G。 再從跨平臺性上， NFS的基本原則是“容許不同的客戶端及服務端通過一組 RPCs分享相同的文件系統(tǒng)”，它是獨立于操作系統(tǒng)的，容 許不同的操作系統(tǒng)共同地進行文件的共享。 GFS則由一臺 Master(通常有幾臺備份 )和若干臺 TrunkServer構成。它是針對 Google的計算機集群進行設計的，專門是為 Google頁面搜索的存儲進行了優(yōu)化。它是 FreeBSD支持的文件系統(tǒng)中的一種，允許一個系統(tǒng)在網(wǎng)絡上與它人共享目錄和文件。 ? 特性 1) 硬件要求低 2) 高容錯性 3) 易可擴展 4) 配置簡單 5) 超大文件 HDFS采用 master/slave架構。 只有 imp是不夠的，還需要 進行熱備份，從而得到超快的速度和超高的可靠性。 盡管概念上很簡單，但是想要合理、精確地實 現(xiàn)并不容易，這可能需要大量的代碼工作。 2. 數(shù)據(jù)庫及表的散列 把生產(chǎn)數(shù)據(jù)庫和查詢數(shù)據(jù)庫進行分離，針對系統(tǒng)業(yè)務數(shù)據(jù)的特點，把大的表進行拆分，對于訪問較多的表采用分區(qū)表。 同時， HTML靜態(tài)化也是 某些緩存策略使用的手段，對于系統(tǒng)中頻繁使用數(shù)據(jù)庫查詢但是內(nèi)容更新很小的應用，可以考慮使用 HTML靜態(tài)化來實現(xiàn)，比如論壇中論壇的公用設置信息，這些信息目前的主流論壇都可以進行后臺管理并且 存儲 再數(shù)據(jù)庫中，這些信息其實大量被前臺程序調(diào)用，但是更新頻率很小，可以考慮將這部分內(nèi)容進行后臺更新的時候進行靜態(tài)化，這樣避免了大量的數(shù)據(jù)庫訪問請求。 頁面 靜態(tài)化 就是采用 效率最高、消耗最小的純靜態(tài)化的 html頁面 來替換動態(tài)頁面。 4) 復雜一點的 group， sum， count查詢，比如積分的分類排名 b） 集成在 WEB應用 中 的內(nèi)存緩存 在 web應用中 對于熱點的功能，考慮使用完全裝載到內(nèi)存，保證絕對的響應速度，對于需要頻繁訪問的熱點數(shù)據(jù)，采用集中緩存 (多個可以采用負載均衡 )，減輕數(shù)據(jù)庫的壓力，比如：很多配置信息，操作員信息等等。一般的使用目的是，通過緩存數(shù)據(jù)庫查詢結果，減少數(shù)據(jù)庫訪問次數(shù)，以提高動態(tài) Web應用的速度、 提高可擴展性。 3) 永久緩存：緩存能被配置寫入硬盤， 因此允許在應用服務器的多次生命周期間緩存創(chuàng)建開銷昂貴的數(shù)據(jù)。緩存記錄的過期 你可以有最大限度的控制緩存對象的過期，包括可插入式的刷新策略（如果默認性能不需要時）。 OSCache有以下特點：緩存任何對象，你可以不受限制的緩存部分 jsp頁面或 HTTP請求，任何 java對象都可以緩存。 Nginx傳統(tǒng)緩存的缺點也是它和 squid等緩存軟件的不同之特色，所以也可看作其優(yōu)點。 memcached_pass :11211。 注： SQUID使用了 LM算法， LM就是頁面 Header里時間 (Date)和 LastModified時間的差。 3） Nginx+squid頁面 緩存 來實現(xiàn) 反向代理負載均衡 通過 Nginx反向代理 和 squid緩存 實現(xiàn)動靜分離的 架 構圖如下所示： 公開 內(nèi)部公開 機密 絕密 √ 11/17/2020 版權所有，侵權必究 All rights reserved 第 12頁 ,共 39頁 Page 12 , Total39 5. Apache +tomcat集群 實現(xiàn) 負載均衡 。 6) 支持 Rewrite重寫規(guī)則 能夠根據(jù)域名、 URL的不同，將 HTTP 請求分到不同的后端服務器群組。 3) 內(nèi)存消耗少 在 3萬并發(fā)連接下，開啟的 10個 Nginx 進程才消耗 150M內(nèi)存（ 15M*10=150M）。 2） Nginx Nginx (“ engine x” ) 是俄羅斯人 Igor Sysoev(塞索耶夫 )編寫的一款高性能的 HTTP 和反向代理服務器。 Squid反向代理服務器位于本地 WEB 服務器和 Inter 之間 , 組織架構如 下