【正文】 大值設(shè)置為可用內(nèi)存的最大值的 80%。Linux系統(tǒng)中：在/etc/： = 1 = 1 = 1 = 5 tomcat服務(wù)器優(yōu)化增大并發(fā)連接數(shù)，調(diào)整內(nèi)存參數(shù)的設(shè)置。 系統(tǒng)軟件參數(shù)優(yōu)化在一定的架構(gòu)基礎(chǔ)上，要提高并發(fā)處理能力則需要調(diào)整服務(wù)器的操作系統(tǒng)內(nèi)核參數(shù)、web服務(wù)器（tomcat 的參數(shù)、 apache的參數(shù)、Nginx的參數(shù)），以使其性能達(dá)到最優(yōu)化。這樣各種服務(wù)如插件一樣組成了一個(gè)開放的平臺，這樣團(tuán)隊(duì)的規(guī)模就會比較小，比較靈活。這樣就有了越來越多的應(yīng)用服務(wù)器。這種架構(gòu)是松散耦合的，并且圍繞著服務(wù)進(jìn)行構(gòu)建。上圖描述了Struts 框架的結(jié)構(gòu)，而下圖通過一個(gè)活動圖更具體描述接受請求直至返回響應(yīng)的整個(gè)過程：2. 面向服務(wù)的應(yīng)用架構(gòu)面向服務(wù)的應(yīng)用架構(gòu)是指構(gòu)建可分布式的、去中心化的服務(wù)器平臺，以提供許多不同的應(yīng)用，數(shù)據(jù)庫被分成很多個(gè)小部分，圍繞每個(gè)部分都會創(chuàng)建一個(gè)服務(wù)接口(API), 并且該接口是訪問數(shù)據(jù)庫的唯一途徑。iBATIS 把對象和存儲過程或者使用 XML 描述符的 SQL 語句進(jìn)行了關(guān)聯(lián)。 WEB應(yīng)用開發(fā)架構(gòu)設(shè)計(jì)思路1. 基于MVC的三層應(yīng)用開發(fā)架構(gòu)應(yīng)用開發(fā)實(shí)現(xiàn)MVC三層架構(gòu)進(jìn)行web應(yīng)用開發(fā)，采用ibatis作為持久層框架，c3p0作為數(shù)據(jù)庫連接池。目前，國內(nèi)訪問量較高的大型網(wǎng)站如新浪、網(wǎng)易等，均使用 CDN網(wǎng)絡(luò)加速技術(shù)，雖然網(wǎng)站的訪問巨大，但無論在什么地方訪問都會感覺速度很快。從技術(shù)上全面解決由于網(wǎng)絡(luò)帶寬小、用戶訪問量大、網(wǎng)點(diǎn)分布不均等原因所造成的用戶訪問網(wǎng)站響應(yīng)速度慢的問題。CDN的全稱是 Content Delivery Network，即內(nèi)容分發(fā)網(wǎng)絡(luò)。然后通過配置智能DNS解析來引導(dǎo)不同網(wǎng)絡(luò)的訪問用戶到對應(yīng)的網(wǎng)絡(luò)運(yùn)營商的web服務(wù)器。 網(wǎng)絡(luò)問題解決方案你不可能要求所有的使用人員，都和你的服務(wù)器在一個(gè)運(yùn)營商的網(wǎng)絡(luò)內(nèi)，而不同網(wǎng)絡(luò)之間訪問速度會很慢，我們可以采用鏡像網(wǎng)站和引入CDN來解決這一問題。使用獨(dú)立的圖片服務(wù)器不但可以避免以上這個(gè)情況，更可以對不同的使用性質(zhì)的圖片設(shè)置不同的過期時(shí)間，以便同一個(gè)用戶在不同頁面訪問相同圖片時(shí)不會再次從服務(wù)器（基于是緩存服務(wù)器）取數(shù)據(jù)，不但快速，而且還省了帶寬。利用開源的lsync監(jiān)聽某一目錄，如果目錄內(nèi)文件發(fā)生增、刪、改，利用Rsync協(xié)議自動同步到多臺服務(wù)器。而NFS一般沒有這么巨大的規(guī)模。目前Google擁有超過200 個(gè)的GFS集群，其中有些集群的PC數(shù)量超過5000臺。而GFS則沒有這一特點(diǎn)，文件只能被集群系統(tǒng)中的PC所訪問，而且這些 PC的操作系統(tǒng)一般是Linux 。客戶端先從Master上得到文件的Metadata ，根據(jù)要讀取的數(shù)據(jù)在文件中的位置與相應(yīng)的 TrunkServer通信，獲取文件數(shù)據(jù)。GFS中文件備份成固定大小的Trunk分別存儲在不同的 TrunkServer上，每個(gè)Trunk 有多份(比如3)拷貝，也存儲在不同的TrunkServer上。被共享的目錄和文件存放在服務(wù)器上，客戶機(jī)遠(yuǎn)程地訪問保存在服務(wù)器上的數(shù)據(jù)。所以從功能上看，它們兩者是完全不同的概念。 GFS是一個(gè)可擴(kuò)展的分布式文件系統(tǒng)，用于大型的、分布式的、對大量數(shù)據(jù)進(jìn)行訪問的應(yīng)用。通過使用NFS，用戶和程序訪問遠(yuǎn)端系統(tǒng)上的文件就像訪問本地文件一樣。NFS即網(wǎng)絡(luò)文件系統(tǒng)，是由SUN公司開發(fā)的。一個(gè)HDFS集群是由一個(gè) Namenode和一定數(shù)目的Datanodes組成。 文件存儲1. 文件共享1） HDFS（GFS ）HDFS是Apache Hadoop項(xiàng)目中的一個(gè)分布式文件系統(tǒng)實(shí)現(xiàn)，基于Google于2022年10 月發(fā)表的Google File System(GFS)論文。另外，在將所有備份文件從服務(wù)器上轉(zhuǎn)移出來之前要進(jìn)行壓縮和加密。3. 擁有良好的DB配置和備份很多公司都沒有良好的備份機(jī)制，也不知道如 何恰當(dāng)?shù)赝瓿蛇@項(xiàng)工作。因此，即便在開始時(shí)使用同一臺數(shù)據(jù)庫服務(wù)器，也要盡早計(jì)劃在PHP中使用分離的DB連接來進(jìn)行讀寫操作。更一般地，這意味著建立主/從副本系統(tǒng)，其中 程序會對主庫編寫所有的Update、Insert和Delete變更語句，而所有Select的數(shù)據(jù)都讀取自從數(shù)據(jù)庫（或者多個(gè)從數(shù)據(jù)庫）。使用讀/寫數(shù)據(jù)庫分離，隨著系統(tǒng)變得越來越龐大，特別是當(dāng)它們擁有 很差的SQL時(shí)，一臺數(shù)據(jù)庫服務(wù)器通常不足以處理負(fù)載。 數(shù)據(jù)庫配置及優(yōu)化1. 數(shù)據(jù)庫集群對生產(chǎn)數(shù)據(jù)庫采用RAC實(shí)現(xiàn)數(shù)據(jù)庫的集群。在進(jìn)行html靜態(tài)化的時(shí)候還可以使用一種折中的方法，就是前端繼續(xù)使用動態(tài)實(shí)現(xiàn)，在一定的策略下通過后臺模塊進(jìn)行定時(shí)把動態(tài)網(wǎng)頁生成靜態(tài)頁面，并定時(shí)判斷調(diào)用，這個(gè)能實(shí)現(xiàn)很多靈活性的操作。對于大量內(nèi)容并且頻繁更新的網(wǎng)站，我們無法全部手動去挨個(gè)實(shí)現(xiàn)頁面靜態(tài)化，所以我們需要引入常見的信息發(fā)布系統(tǒng)(CMS)，信息發(fā)布系統(tǒng)(CMS) 可以實(shí)現(xiàn)最簡單的信息錄入自動生成靜態(tài)頁面，對于一個(gè)大型網(wǎng)站來說，擁有一套高效、可管理的CMS 是必不可少的。我們盡可能使我們的網(wǎng)站上的頁面采用靜態(tài)頁面來實(shí)現(xiàn)，這個(gè)最簡單的方法其實(shí)也是最有效的方法。從服務(wù)器運(yùn)行的那個(gè)時(shí)間片來看，這個(gè)傳輸過程僅僅占用了很小的CPU資源。 頁面靜態(tài)化靜態(tài)的HTML頁面嚴(yán)格地由標(biāo)準(zhǔn)的 HTML標(biāo)示語言構(gòu)成，并不需要服務(wù)器端即時(shí)運(yùn)算生成。1) 用戶基本信息及狀態(tài)的信息緩沖2) 列表緩存，就像論壇里帖子的列表3) 記錄條數(shù)的緩存，比如一個(gè)論壇板塊里有多少個(gè)帖子，這樣才方便實(shí)現(xiàn)分頁。Memcached是以Key/Value的形式單個(gè)對象緩存。2） Memcachedmemcached是高性能的分布式內(nèi)存緩存服務(wù)器。 4) 支持集群：集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。 2) 擁有全面的API ：OSCache API允許你通過編程的方式來控制所有的OSCache特性。OSCache是當(dāng)前運(yùn)用最廣的緩存方案，JBoss,Hibernate,Spring等都對其有支持。支持集群 集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。擁有全面的APIOSCache API給你全面的程序來控制所有的OSCache特性。2. 應(yīng)用程序方面的緩存1） OSCacheOSCache由OpenSymphony設(shè)計(jì)，它是一種開創(chuàng)性的JSP定制標(biāo)記應(yīng)用，提供了在現(xiàn)有JSP頁面之內(nèi)實(shí)現(xiàn)快速內(nèi)存緩沖的功能，OSCache是個(gè)一個(gè)廣泛采用的高性能的J2EE緩存框架，OSCache能用于任何Java 應(yīng)用程序的普通的緩存解決方案。在生產(chǎn)應(yīng)用中它常常用作和 squid的搭檔， squid對于帶 ?的鏈接往往無法阻擋，而 nginx能將其訪問攔住，例如： squid上會被當(dāng)做兩個(gè)鏈接，所以會造成兩次穿透；而 nginx只會保存一次，無論鏈接變成 nginx緩存，從而有效地保護(hù)了后端主機(jī)。Nginx 目前沒有寫入 memcached 的任何機(jī)制，所以要往 memcached 里寫入數(shù)據(jù)得用后臺的動態(tài)語言完成，可以利用 404 定向到后端去寫入數(shù)據(jù)。 } expires 70。location /mem/ { if ( $uri ~ ^/mem/([09AZaz_]*)$ ) { set $memcached_key $1。 Date一般是 Squid從后面取頁面的時(shí)間， LastModified 一般是頁面生成時(shí)間。 緩存1. 系統(tǒng)架構(gòu)方面的緩存1） Squid緩存架構(gòu)方面使用Squid 進(jìn)行緩存。使用 apache和多個(gè)tomcat 配置一個(gè)可以應(yīng)用的web網(wǎng)站，用Apache進(jìn)行分流，把請求按照權(quán)重以及當(dāng)時(shí)負(fù)荷分tomcat1,tomcat2...去處理，要達(dá)到以下要求：1) Apache 做為HttpServer ，通過mod_jk連接器連接多個(gè) tomcat 應(yīng)用實(shí)例，并進(jìn)行負(fù)載均衡。 9) 穩(wěn)定性高用于反向代理，宕機(jī)的概率微乎其微。 7) 內(nèi)置的健康檢查功能如果 Nginx Proxy 后端的某臺 Web 服務(wù)器宕機(jī)了，不會影響前端訪問。而購買F5 BIGIP、NetScaler等硬件負(fù)載均衡交換機(jī)則需要十多萬至幾十萬人民幣。 4) 配置文件非常簡單風(fēng)格跟程序一樣通俗易懂。Nginx 特點(diǎn)如下：1) 工作在OSI模型的第7層（應(yīng)用層）2) 高并發(fā)連接官方測試能夠支撐5萬并發(fā)連接，在實(shí)際生產(chǎn)環(huán)境中跑到2～3萬并發(fā)連接數(shù)。Nginx 已經(jīng)在俄羅斯最大的門戶網(wǎng)站 ── Rambler Media（）上運(yùn)行了4年時(shí)間，同時(shí)俄羅斯超過20%的虛擬主機(jī)平臺采用Nginx作為反向代理服務(wù)器。它根據(jù)從 WEB 服務(wù)器返回的 HTTP 頭標(biāo)記來緩沖靜態(tài)頁面, 有四個(gè)最重要 HTTP 頭標(biāo)記：? LastModified: 告訴反向代理頁面什么時(shí)間被修改? Expires: 告訴反向代理頁面什么時(shí)間應(yīng)該從緩沖區(qū)中刪除? CacheControl: 告訴反向代理頁面是否應(yīng)該被緩沖? Pragma: 用來包含實(shí)現(xiàn)特定的指令，最常用的是 Pragma:nocache 注：DNS 的輪詢機(jī)制將某一個(gè)域名解析為 多個(gè)IP地址。如果 Squid 反向代理服務(wù)器中緩存了該請求的資源，則將該請求的資源直接返回給客戶端，否則反向代理服務(wù)器將向后臺的 WEB 服務(wù)器請求資源，然后將請求的應(yīng)答返回給客戶端，同時(shí)也將該應(yīng)答緩存在本地，供下一個(gè)請求者使用。1） Squid Squid 是一個(gè)開源的軟件，利用它的反向代理技術(shù)可以提高網(wǎng)站系統(tǒng)的訪問速度,下面將重點(diǎn)介紹 Squid 反向代理的實(shí)現(xiàn)原理和在提高網(wǎng)站性能方面的應(yīng)用。Nginx 是由 Igor Sysoev 為俄羅斯訪問量第二的 站點(diǎn)開發(fā)的，是一個(gè)高性能的 HTTP 和反向代理服務(wù)器，也是一個(gè) IMAP/POP3/SMTP 代理服務(wù)器。利用反向代理服務(wù)器減輕了后臺 WEB 服務(wù)器的負(fù)載，提高了訪問速度，同時(shí)避免了因用戶直接與 WEB 服務(wù)器通信帶來的安全隱患。4. 通過反向代理服務(wù)器實(shí)現(xiàn)負(fù)載均衡反向代理服務(wù)器又稱為 WEB 加速服務(wù)器，它位于 WEB 服務(wù)器的前端，充當(dāng)WEB服務(wù)器的內(nèi)容緩存器,反向代理服務(wù)器是針對 WEB 服務(wù)器設(shè)置的，后臺 WEB 服務(wù)器對互聯(lián)網(wǎng)用戶是透明的，用戶只能看到反向代理服務(wù)器的地址，不清楚后臺 WEB 服務(wù)器是如何組織架構(gòu)的。Yahoo中國當(dāng)初接近2022臺服務(wù)器使用了三四臺Alteon就搞定了3. 通過軟件四層交換實(shí)現(xiàn)負(fù)載均衡軟件四層交換我們可以使用Linux上常用的LVS來解決，LVS就是Linux Virtual Server，他提供了基于心跳線heartbeat的實(shí)時(shí)災(zāi)難應(yīng)對解決方案，提高系統(tǒng)的魯棒性，同時(shí)可供了靈活的虛擬VIP配置和管理功能，可以同時(shí)滿足多種應(yīng)用需求，這對于分布式的系統(tǒng)來說必不可少。所以在國外最新的建設(shè)中心Web 站點(diǎn)方案中，已經(jīng)很少采用這種方案了。這種技術(shù)的優(yōu)點(diǎn)是，實(shí)現(xiàn)簡單、實(shí)施容易、成本低、適用于大多數(shù)TCP/IP應(yīng)用；但是，其缺點(diǎn)也非常明顯，首先這種方案不是真正意義上的負(fù)載均衡，DNS 服務(wù)器將Http請求平均地分配到后臺的Web服務(wù)器上，而不考慮每個(gè)Web服務(wù)器當(dāng)前的負(fù)載情況；如果后臺的Web服務(wù)器的配置和處理能力不同，最慢的 Web服務(wù)器將成為系統(tǒng)的瓶頸，處理能力強(qiáng)的服務(wù)器不能充分發(fā)揮作用；其次未考慮容錯(cuò)，如果后臺的某臺Web服務(wù)器出現(xiàn)故障，DNS服務(wù)器仍然會把DNS 請求分配到這臺故障服務(wù)器上，導(dǎo)致不能響應(yīng)客戶端。4) 數(shù)據(jù)庫服務(wù)器分離成生產(chǎn)數(shù)據(jù)庫集群和查詢數(shù)據(jù)庫集群，實(shí)現(xiàn)生產(chǎn)讀寫與后臺查詢統(tǒng)計(jì)進(jìn)行分離，同時(shí)生產(chǎn)數(shù)據(jù)庫采用rac技術(shù)進(jìn)行 架構(gòu)涉及技術(shù)的詳解 負(fù)載均衡1. 基于DNS的負(fù)載均衡 一個(gè)域名綁定多個(gè)IPDNS負(fù)載均衡技術(shù)是最早的負(fù)載均衡解決方案，它是通過DNS服務(wù)中的隨機(jī)名字解析來實(shí)現(xiàn)的，在DNS服務(wù)器中，可以為多個(gè)不同的地址配置同一個(gè)名字，而最終查詢這個(gè)名字的客戶機(jī)將在解析這個(gè)名字時(shí)得到其中的一個(gè)地址。2) 采用硬件設(shè)備負(fù)載均衡器，實(shí)現(xiàn)網(wǎng)絡(luò)流量的負(fù)載均衡使用硬件設(shè)備負(fù)載均衡器，將網(wǎng)絡(luò)流量均衡的分擔(dān)到WEB服務(wù)器集群各節(jié)點(diǎn)服務(wù)器，保障平臺服務(wù)器資源均衡的使用。 總體架構(gòu) 網(wǎng)站的系統(tǒng)分層架構(gòu)T o m a tA p a c h eW E B 服 務(wù) 器架 構(gòu)數(shù) 據(jù) 存 儲文 件共 享T o m a tN g i n x p r o x yS q u i d反 向 代 理 軟 件（ 數(shù) 據(jù) 緩 存 ）數(shù) 據(jù) 庫生 產(chǎn) 數(shù) 據(jù) 庫 查 詢 數(shù) 據(jù) 庫H D F S負(fù) 載 均 衡 器負(fù) 載 均 衡. . .W E B 服 務(wù)（ A p a c h e + t o m c a t負(fù) 載 均 衡 ）硬 件 四 層 交 換C o n t r o lM V C應(yīng) 用 架 構(gòu) M o d e l V i e w數(shù) 據(jù) 持 久 層( i b a t i s )應(yīng) 用 級 緩 存頁 面 緩 存( O S C a c h e )S q u i d c a c h e N g i n x c a c h eN F SL V S軟 件 四 層 交 換數(shù) 據(jù) 緩 存( M e m c a c h e d ) 網(wǎng)站的物理架構(gòu)I n t e r n e t服 務(wù) 器 2代 理 服 務(wù) 器 集 群（ N g i n x ）W e b 服 務(wù) 器 集 群 B負(fù) 載 均 衡 器 1. . .服 務(wù) 器 n服 務(wù) 器 2服 務(wù) 器 n服 務(wù) 器