【正文】 st_uri ~* ^/view/(.*)$) { proxy_pass } proxy_pass } 定義日志格式 log_format access 39。 緩沖區(qū)代理緩沖用戶端請(qǐng)求的最大字節(jié)數(shù) 可以理解為先保存到本地再傳給用戶 client_body_buffer_size 128k。 } } 3. Tomcat設(shè)置 主要配置如下： ? ? MaxThread 500 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 30頁 ,共 39頁 Page 30 , Total39 ? MinSpareThread 25 ? MaxSpareThread75 ? Xmx 1740M 4. Java環(huán)境 ? 使用 Tomcat。 Test2 744秒 1608條 /秒 119萬 5 2 500 200萬 500毫秒 Test1 1 1595秒 742 條/秒 118萬 服務(wù)端從第 1595 秒左右開始， tomcat 占用內(nèi)存到 達(dá) Xmx指定上限 ， TestTest2請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包，達(dá)到 ，錯(cuò)包率只有 %，達(dá)到 ，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %， 測(cè)試終止 。 Test2 1863 秒 1482 條 /秒 276 萬 5 2 500 500萬 500毫秒 Test1 1 5475 秒 913 條 /秒 500 萬 93000毫秒 毫秒 完成測(cè)試，但 Tomcat Tomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，無錯(cuò)包。 Test2 413秒 2922條 /秒 120萬 4 2 500 200萬 200毫秒 Test1 2 742秒 1727條 /秒 128萬 服務(wù)端從第 740 秒左右開始， tomcat 占用內(nèi)存到達(dá) Xmx 指定上限 ， TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包， 測(cè)試終止 ，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，且仍在在增加中。 如果系統(tǒng)很忙的時(shí)候可以申請(qǐng)更大的 proxy_buffers 官方推薦 *2 proxy_busy_buffers_size 64k。 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 29頁 ,共 39頁 Page 29 , Total39 打日志 access_log /usr/local/nginx/logs/ access。 proxy_redirect off。 gzip_p_level 2。 sendfile on。 events { use epoll。 Apache在配置 ContentType的時(shí) 候可以盡量少支持，盡可能少的 LoadModule，保證更高的系統(tǒng)消耗和執(zhí)行效率 同時(shí)配置 apache和 tomcat的組合使之能作到動(dòng)靜分離， apache處理靜態(tài)頁面， tomcat處理動(dòng)態(tài)頁面。 maxKeepAliveRequests： 保持請(qǐng)求數(shù)量，默認(rèn)值 100。 minSpareThreads： Tomcat 初始化時(shí)創(chuàng)建的線程 數(shù)。例如： JAVA_OPTS=39。 系統(tǒng) 軟件 參數(shù) 優(yōu)化 在一定的架構(gòu)基礎(chǔ)上，要提高并發(fā)處理能力則需要調(diào)整服務(wù)器的操作系統(tǒng)內(nèi)核參數(shù)、 web服務(wù)器（ tomcat的參數(shù)、 apache的參數(shù)、 Nginx的參數(shù)），以使其性能達(dá)到最優(yōu)化。上圖描述了 Struts框架的結(jié)構(gòu)，而下圖通過一個(gè)活動(dòng)圖更具體描述接受請(qǐng)求直至返回響應(yīng)的整個(gè)過程 ： 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 23頁 ,共 39頁 Page 23 , Total39 2. 面向服務(wù)的應(yīng)用架構(gòu) 面向服務(wù) 的應(yīng)用架構(gòu)是指 構(gòu)建可 分布式的、去中心化的服務(wù)器平臺(tái)， 以 提供許多不同的應(yīng)用，數(shù) 據(jù)庫被分成很多個(gè)小部分，圍繞每個(gè)部分都會(huì)創(chuàng)建一個(gè)服務(wù)接口 (API),并且該接口是訪問數(shù)據(jù)庫的唯一途徑。從技術(shù)上全面解決由于網(wǎng)絡(luò)帶寬小、用戶訪問量大、網(wǎng)點(diǎn)分布不均等原因所造成的用戶訪問網(wǎng)站響應(yīng)速度慢的問題。 使用獨(dú)立的圖片服務(wù)器不但可以避免以上這個(gè)情況，更可以對(duì)不同的使用性質(zhì)的圖片設(shè)置不同的過期時(shí)間，以便同一個(gè)用戶在不同頁面 訪問相同圖片時(shí)不會(huì)再次從服務(wù)器（基于是緩存服務(wù)器）取數(shù)據(jù)，不但快速，而且還省了帶寬。 而 GFS則沒有這一特點(diǎn)，文件只能被集群系統(tǒng)中的 PC所訪問，而且這些 PC的操作系統(tǒng)一般是 Linux。 所以從功能上看，它們兩者是完全不同的概念。 一個(gè) HDFS集群是由一個(gè) Namenode和一定數(shù)目的 Datanodes組成。因此，即便在開始時(shí)使用同一臺(tái)數(shù)據(jù)庫服務(wù)器，也要盡早計(jì)劃在 PHP中使用分離的 DB連接來進(jìn)行讀寫操作。 在進(jìn)行 html靜態(tài)化的時(shí)候 還 可以使用一種折中的方法，就 是前端 繼續(xù) 使用動(dòng)態(tài)實(shí)現(xiàn)，在一定的策略下 通過后臺(tái)模塊 進(jìn)行定時(shí) 把動(dòng)態(tài)網(wǎng)頁生成 靜態(tài) 頁面，并定時(shí)判斷調(diào)用，這個(gè)能實(shí)現(xiàn)很多靈活性的操作。 頁面 靜態(tài)化 靜態(tài)的 HTML頁面嚴(yán)格地由標(biāo)準(zhǔn)的 HTML標(biāo)示語言構(gòu)成，并不需要服務(wù)器端即時(shí)運(yùn)算生成。 4) 支持集群：集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。擁有全面的APIOSCache API給你全面的程序來控制所有的 OSCache特性。 } expires 70。 使用 apache和多個(gè) tomcat 配置一個(gè)可以應(yīng)用的 web網(wǎng)站， 用 Apache進(jìn)行分流，把請(qǐng)求按照權(quán)重以及當(dāng)時(shí)負(fù)荷分 tomcat1,tomcat2...去處理 ，要達(dá)到以下要求： 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 13頁 ,共 39頁 Page 13 , Total39 1) Apache 做為 HttpServer ，通過 mod_jk連接器連接多個(gè) tomcat 應(yīng)用實(shí)例，并進(jìn)行負(fù)載均衡。 4) 配置文件非常簡(jiǎn)單 風(fēng)格跟程序一樣通俗易懂。如果 Squid 反向代理服務(wù)器中緩存了該請(qǐng)求的資源，則將該請(qǐng)求的資源直接返回給客戶端，否則反向代理服務(wù)器將向后臺(tái)的 WEB 服務(wù)器請(qǐng)求資源，然后將請(qǐng)求的應(yīng)答返回給客戶端，同時(shí)也將該應(yīng)答緩存在本地，供下一個(gè)請(qǐng)求者使用。 4. 通過 反向代理服務(wù)器 實(shí)現(xiàn)負(fù)載均衡 反向代理服務(wù)器又稱為 WEB 加速服務(wù)器，它位于 WEB 服務(wù)器的前端，充當(dāng) WEB服務(wù)器的內(nèi)容緩存器 ,反向代理服務(wù)器是針對(duì) WEB 服務(wù)器設(shè)置的，后臺(tái) WEB 服務(wù)器對(duì)互聯(lián)網(wǎng)用戶是透明的，用戶只能看到反向 代理服務(wù)器的地址，不清楚后臺(tái) WEB 服務(wù)器是如何組織架構(gòu)的。 4) 數(shù)據(jù)庫服務(wù)器分離成生產(chǎn)數(shù)據(jù)庫集群和查詢數(shù)據(jù)庫集群，實(shí)現(xiàn)生產(chǎn)讀寫與后臺(tái)查詢統(tǒng)計(jì)進(jìn)行分離，同時(shí)生產(chǎn)數(shù)據(jù)庫采用 rac技術(shù)進(jìn)行 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 9頁 ,共 39頁 Page 9 , Total39 架構(gòu)涉及技術(shù)的詳解 負(fù)載均衡 1. 基于 DNS的負(fù)載均衡 一個(gè)域名綁定多個(gè) IP DNS負(fù)載均衡技術(shù)是最早的負(fù)載均衡解決方案，它是通過 DNS服務(wù)中的隨機(jī)名字解析來實(shí)現(xiàn)的，在 DNS服務(wù)器中，可以為多個(gè)不同的地址配置同一個(gè)名字，而最終查詢這個(gè)名字的客戶機(jī)將在解析這個(gè)名字時(shí)得到其中的一個(gè)地址。 3) 采用 Oscache實(shí)現(xiàn) 頁面緩存 ,采用 Memcached實(shí)現(xiàn) 數(shù)據(jù)緩存 4) 采用獨(dú)立的圖片服務(wù)器集群來實(shí)現(xiàn)圖片資源的存儲(chǔ)及 WEB請(qǐng)求 數(shù)據(jù)存儲(chǔ)的設(shè)計(jì)思路 1) 數(shù)據(jù)庫拆分 ,把生產(chǎn)數(shù)據(jù)庫和查詢數(shù)據(jù)庫分離，對(duì)生產(chǎn)數(shù)據(jù)庫采用 RAC實(shí)現(xiàn)數(shù)據(jù)庫的集群。從服務(wù)器運(yùn)行的那個(gè)時(shí)間片來看，這個(gè)傳輸過程僅僅占用了很小的 CPU資源。 1個(gè)客戶端模擬不同線和并發(fā)請(qǐng)求結(jié)果 .............................................................. 錯(cuò)誤 !未定義書簽。 系統(tǒng)話務(wù)模型 ............................................................................................................ 錯(cuò)誤 !未定義書簽。 系統(tǒng)處理能力要 求 ..................................................................................................................................... 34 業(yè)務(wù)處理能力要求 ................................................................................................... 錯(cuò)誤 !未定義書簽。 測(cè)試結(jié)果 .............................................................................................................................. 錯(cuò)誤 !未定義書簽。這意味著，對(duì)一個(gè)靜態(tài) HTML文檔發(fā)出訪問請(qǐng)求后，服務(wù)器端只是簡(jiǎn)單地將該文檔傳輸?shù)娇蛻舳恕? WEB應(yīng)用 開發(fā) 架構(gòu)思路 1) 應(yīng)用開發(fā)實(shí)現(xiàn) MVC架構(gòu)三層架構(gòu)進(jìn)行 web應(yīng)用開發(fā) 2) 頁面盡可能靜態(tài)化以減少動(dòng)態(tài)數(shù)據(jù)訪問 ，如果是資訊類的網(wǎng)站可以考慮 采用第三方開源的 CMS系統(tǒng)來 生成靜態(tài)的內(nèi)容頁面 。 3) 采用代理服務(wù)器，實(shí)現(xiàn)軟件級(jí)的網(wǎng)絡(luò)負(fù)載均衡。 一個(gè)典型的使用負(fù)載均衡的策略就是，在軟件或者硬件四層交換的基礎(chǔ)上搭建 squid集群，這種思路在很多大型網(wǎng)站包括搜索引擎上被采用，這樣的架構(gòu)低成本、高性能還有很強(qiáng)的擴(kuò)張性 。 Squid反向代理服務(wù)器位于本地 WEB 服務(wù)器和 Inter 之間 , 組織架構(gòu)如 下 圖： 客戶端請(qǐng)求訪問 WEB 服務(wù)時(shí)， DNS 將訪問的域名解析為 Squid 反向代理服務(wù)器的 IP 地址， 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 11頁 ,共 39頁 Page 11 , Total39 這樣客戶端的 URL 請(qǐng)求將被發(fā)送到反向代理服務(wù)器。 3) 內(nèi)存消耗少 在 3萬并發(fā)連接下，開啟的 10個(gè) Nginx 進(jìn)程才消耗 150M內(nèi)存（ 15M*10=150M）。 3） Nginx+squid頁面 緩存 來實(shí)現(xiàn) 反向代理負(fù)載均衡 通過 Nginx反向代理 和 squid緩存 實(shí)現(xiàn)動(dòng)靜分離的 架 構(gòu)圖如下所示： 公開 內(nèi)部公開 機(jī)密 絕密 √ 11/17/2020 版權(quán)所有，侵權(quán)必究 All rights reserved 第 12頁 ,共 39頁 Page 12 , Total39 5. Apache +tomcat集群 實(shí)現(xiàn) 負(fù)載均衡 。 memcached_pass :11211。 OSCache有以下特點(diǎn)：緩存任何對(duì)象，你可以不受限制的緩存部分 jsp頁面或 HTTP請(qǐng)求，任何 java對(duì)象都可以緩存。 3) 永久緩存：緩存能被配置寫入硬盤， 因此允許在應(yīng)用服務(wù)器的多次生命周期間緩存創(chuàng)建開銷昂貴的數(shù)據(jù)。 4) 復(fù)雜一點(diǎn)的 group， sum， count查詢，比如積分的分類排名 b） 集成在 WEB應(yīng)用 中 的內(nèi)存緩存 在 web應(yīng)用中 對(duì)于熱點(diǎn)的功能，考慮使用完全裝載到內(nèi)存，保證絕對(duì)的響應(yīng)速度，對(duì)于需要頻繁訪問的熱點(diǎn)數(shù)據(jù)，采用集中緩存 (多個(gè)可以采用負(fù)載均衡 )，減輕數(shù)據(jù)庫的壓力，比如：很多配置信息，操作員信息等等。 同時(shí)， HTML靜態(tài)化也是 某些緩存策略使用的手段，對(duì)于系統(tǒng)中頻繁使用數(shù)據(jù)庫查詢但是內(nèi)容更新很小的應(yīng)用，可以考慮使用 HTML靜態(tài)化來實(shí)現(xiàn)，比如論壇中論壇的公用設(shè)置信息，這些信息目前的主流論壇都可以進(jìn)行后臺(tái)管理并且 存儲(chǔ) 再數(shù)據(jù)庫中，這些信息其實(shí)大量被前臺(tái)程序調(diào)用，但是更新頻率很小，可以考慮將這部分內(nèi)容進(jìn)行后臺(tái)更新的時(shí)候進(jìn)行靜態(tài)化，這樣避免了大量的數(shù)據(jù)庫訪問請(qǐng)求。 盡管概