【正文】 而且通過免疫記憶機制，該算法可以保存各個局部最優(yōu)解，這對于多峰函數優(yōu)化十分重要。 Step2：基于親和度度量確定群體 P中的 b個最佳個體 Pb。 Step3：通過連續(xù)地將 R 中的檢測器與 S比較來監(jiān)測 S 的改變。王磊 [17]提出了免疫規(guī)劃算法 , 其核心在于構造一個包含免疫選擇和接種疫苗兩個步驟的免疫算子 ,該算法可以有效抑制進化過程中出現的退化現象 ,其搜索性能有了很大的改善。免疫系統(tǒng)的分布式特性有利于加強系統(tǒng)的健壯特性(robust),從而使得免疫系統(tǒng)不會因為局部組織損傷而使整體功能受到很大影響。 克隆選擇的主要特征是免疫細胞在抗原刺激下產生克隆增殖 ,隨后通過遺傳 中國圖象圖形網 變異分化為多樣性效應細胞 (抗體細胞 )和記憶細胞。Farmer[9]首先指出免疫記憶可以看作一種聯(lián)想式記憶 (associative memory)模型。 (2)親合度成熟 ,對應于AIS中的個體經遺傳操作后其親合度逐步提高的過程 ,屬于遺傳學習。免疫細胞對抗原 的識別是通過結合 (或匹配 )過程實現的 ,相應地 AIS 中的抗原識別通過特征匹配來實現 ,其核心是定義一個匹配閾值。 AIS 的仿生機理 仿生機理概述 從信息處理的角度來看，免疫系統(tǒng)具備強大的識別、學習和記憶的能力及分布式、自組織和多樣性特性，這些顯著的特性不斷地吸引著研究人員從免疫系統(tǒng) 中國圖象圖形網 中抽取有用的隱喻機制，開發(fā)相應的 AIS 模型和算法用于信息處理和問題求解。獲得性免疫所具有的優(yōu)良特性是 AIS 隱喻機制的不竭之源。 Dasgupta 給出的定義為 :“ AIS是由生物免疫系統(tǒng)啟發(fā)而來的智能策 中國圖象圖形網 略所組成 ,主要用于 信息處理和問題求解”。人們希望從生物免疫系統(tǒng)的運行機制中獲取靈感 ,開發(fā)出面向應用的免疫系統(tǒng)模型――人工免疫系統(tǒng) (Artificial ImmuneSystem,AIS),用于解決實際問題。其一在于沒有考慮按照時間順序收集到的數據間可能存在的關聯(lián)關系。 基于支持向量機分類 支持向量機 (SVM)分類算法是在有較堅實數學理論基礎的統(tǒng)計學理論及優(yōu)化技術之上發(fā)展起來的機器學習方法。該算法使用關系數據庫系統(tǒng)提供的聚集運算功能 ， 利用 SQL語句完成主要的計算任務。而用于分類的屬性的尋找過程則通過創(chuàng)建若干表和視圖 ， 利用連接查詢來實現 [47]。該算法相比其他的分類算法準確度更佳，但該算法存在與貝葉斯和 CBA 算法相同的缺點。第一步：發(fā)現所有的右部為類別的類別關聯(lián)規(guī)則（ classification association rules 即 CAR）。由上述公式可以知道樸素貝葉斯算法分類的準確度取決于屬性之間的獨立性，獨立性好的準確度高，否則偏低。 ②先驗知識可以與實例樣本數據一起決定假設的最終概率。但 SLIQ 算法依然存在缺點，由于類別列表存 放內存，算法在一定程度上限制了可處理的數據集大小。決策樹上每個分支對應一個分類規(guī)則，可以得到一個容易理解的規(guī)則集 ,且算法速度相對統(tǒng)計算法較 快。 下面簡單描述一下 ID3 算法。這些基于不同數據集合的分析結果除了通過可視化工具提供給用戶外還可以存儲在知識庫中，供日后進一步分析和比較。 與 IBM 白皮書對 DM 方法的分類相比， DATAMATION 白皮書的分類層次更高，例如數據庫分段和聯(lián)系分析涵蓋了分類分析法、聚類分析法、關聯(lián)分析和序列分析法，而預測模型在 IBM 白皮書 中所列的四種方法中都包含了，只不過在DATAMATION 白皮書中被特別提出來了。在 DM中是歸納推理。 與分類分析法不同，聚類分析法的輸入集是一組未標定的記錄，也就是說此時輸入的記錄還沒有進行任何分類。分類分析時首先為每一個記錄賦 予一個標記，即按標記分類記錄，然后檢查這些標定的記錄，描述出這些記錄的特征， 然后再用這些分類的描述或模型來對未知的新的數據進行分類 ?！逼渲邪俜直?72 稱為規(guī)則“包含 Item A， B 和 C 的記錄同時也包含 Item D 和 E”的置信度，而 A， B， C則被稱為 D， E的對立面。預測性挖掘任務是在當前數據上進行推斷，用以預測。 7. 人工免疫系統(tǒng)模型（ Artificial Immune System） 目前 ,AIS 已發(fā)展成為計算智能研究的一個嶄新的分支，在數據挖掘、機器學習、自動控制、故障診斷等諸多領域 ,顯示出 AIS 強大的信息處理和問題求解能力以及廣闊的研究前景。具體做法是在數據庫中，將行元素看成對象，列元素是屬性（分為條件屬性和決策屬性）。國際上最早的、也是最有影響的決策樹方法是 Quiulan 研究的 ID3 方法 [3]。即對選擇的兩個不同的個體（染色體）的部分（基因）進行交換，形成新個體的過程。 （ 2）反饋式網絡。 確切地講， DM是 KDD 過程中的一個步驟， 其處理對象是大量的日常業(yè)務數據， 它主要基于人工只能、機器學習、統(tǒng)計學等技術，高度自動化地分析原有的海量數據，做出歸納的推理，從中采掘出潛在的模式，預測未知的行為， 提高信息的利用，改變“人們被數據淹沒 ，同時卻仍感到知識饑渴”的資源浪費的局面。對 AIS 在數據挖掘中的已有應用也做了一些說明。 Gartner Group 的一次高級技術調查將數據挖掘和人工智能列為“未 來三到五年內將對工業(yè)產生深遠影響的五大關鍵技術”之首，并且還將并行處理體系和數據挖掘列為未來五年內投資焦點的十大新興技術前兩位 [29]。另一份在線周刊為 DS*(DS 代表決策支持 )， 1997 年 10 月 7 日開始出版，可向 提出免費訂閱申請。數據挖掘的研究規(guī)模由原來的專題討論會發(fā)展到國際學術大會，人數由二三十人發(fā)展到到七八百人，研究重點也逐漸從發(fā)現方法轉向系統(tǒng)應用，并且注重多種發(fā)現策略和技術的集成，以及多種學科之間的相互滲透。 有人把數據挖掘視為 KDD 的同義詞，有人把數據挖掘當做 KDD 過程中的一個步驟， 認為 KDD=數據預處理 +數據挖掘 DM+解釋評價 [1]。機器學習從不同學科中吸收概念，這些學科包括人工智能、概率統(tǒng)計、心理學、哲學等，然后根據學習的不同模式提出學習的方法，如： 實例學習、觀察和發(fā)現學習、神經網絡和遺傳算法等等 。該算法的問題表示采用了二進制的位串編碼方式，把從問題空間提取的屬性當做基因對待，屬性間特定的組合就形成了染色體，算法的主要特點就是多次使用了陰性選擇機制來充當過濾器。 該算法先從預先選定的一類樣本中生成規(guī)則集，在這過程中使用了陰性選擇算子淘汰了一部分能夠發(fā)生免疫識別的個體，然后通過引入了陰性選擇算子的遺傳算法加以進化，輸出最終的規(guī)則集，最后使用了一組 UCI 數據庫中的數據完成了算法的仿真實驗，實驗的結果表明該算法具備較好的分類性能。 其中某些常用且較成熟的算法已被人們運用于實際的應用系統(tǒng)及智能計算機的設計和實現中。無論是哪種說法都可以看到數據挖掘 DM(Data Mining)的產生發(fā)展和 KDD 是密切相關。 其他內容的專題會議也把數據挖掘 DM 和知識發(fā)現 KD 列為議題之一，成為當前計算機科學界的一大熱點。在網上，還有一個自由論壇DMEmailClub，通過電子郵 件可相互討論 DMKD 的熱點問題。 數據挖掘的熱點將集中于網站的數據挖掘（ Web site data mining）、生物信息或基因（ Bioinformatics genomics）的數據挖掘及文本的數據挖掘（ Textual mining）。 第四章是基于 AIS的數據挖掘分類算法具體描述部 分。 KDD 是數據庫技術和機器學習兩個學科的交叉學科 ，由于 KDD 使用的數據來自于實際的數據庫，所要處理的數據量可能很大，因此DM中的學習算法的效率和可擴充性就尤為重要；此外， KDD 所處理的數據由于來自于現實世界，數據的完整性、一致性和正確性都很難保證 ，因此數據預處理也是很有必要的。它以 Hopfield 的離散模型和連續(xù)模型為代表，分別用于聯(lián)想記憶和優(yōu)化計算。 （ 3）變異（ mutation）。 決策樹方法在 現有的數據挖掘產品中有較為廣泛的應用，如 Bussiness Object 公司在它的 OLAP 產品中新增加的一個數據挖掘的模塊 Business Miner，其中就采用了一種稱為 GINI 的決策數方法。等價關系 R定義為不同對象在某個（或幾個）屬性上取值相同，這些滿足等價關系的對象組成的集合稱為該等價關系 R的等價類。目前 ,由于認識到 AIS 在機器學習與數據挖掘等領域潛在的應用前景 ,AIS 的研究得到了許多大學、研究機構和工業(yè)界的重視。 DM 所能發(fā)現的模式類型包括以下四種（根據 IBM 的劃分方法）：關聯(lián)分析（ Associations）；序列模式分析(Sequential Patterns)；分類分析 (Classifiers)；聚類分析 (Clustering)。 2. 序列模式分析 (Sequential Patterns) 序列模式分析和關聯(lián)分析法相似，其目的也是為了挖掘出數據之間的聯(lián)系，但序列模式分析的側重點在于分析數據間的前后（因果）關系。這種描述可能是顯式的，例如一組規(guī)則定義；或者是隱式的，例如一個數學模型或公式。其目的是根據一定的規(guī)則，合理地劃分記錄集合，并用顯式或隱式的方法描述不同的類別?？梢杂卸喾N算法實現，包括人工神經網絡，規(guī)則推理等。兩種分類法最大的差異在于偏差檢測，這是 IBM 白皮書中沒有列出來的。 4． 評價（ Assess） 如果分析人員對分析結果不滿意，可以遞歸地執(zhí)行上述三個過程，直到滿意為止。 ID3(Examples,Tattribute,Attribute) ①創(chuàng)建樹 Root 節(jié)點 ②如果所有實例（ Examples）都為正，則返回 label＝＋的單節(jié)點樹 Root ③如果所有實例（ Examples）都為負，則返回 label＝－的單節(jié)點樹 Root ④如果屬性（ Attribute）為空，則返回單節(jié)點樹 Root， label＝實例中最普遍的目標屬性值（ Tattribute） ⑤否則開始 ⑴用最高信息增益選出分類實例最好的 屬性 A ⑵把 A賦給 Root ⑶對于 A的每個可能值 vi (1)在 Root 下加一個新分支，測試 A=vi (2)令 Examplevi為實例中滿足 A屬性值為 vi的子集 (3)若 Examplevi為空，在這個新分支下加一個葉子節(jié)點，該節(jié)點的label＝實例中最普遍的 Tattribute 值；否則在新分支下加一個子樹 ID3(Examplevi,Tattribute,Attribute{A}) ⑥結束 返回 Root ID3 算法的核心是如何選取樹的每個節(jié)點的測試屬性，期望所選擇的屬性最有助于分類。該算法的缺點是只適用駐留內存的數據集使用，該算法受限于對大量的數據集進行分類。并且采用預排序技術的復雜度本身并不與記錄個數成線性關系，因此隨記錄數目增長的可擴性有限。 ③貝葉斯方法允許假設做出不確定性的預測（假定某天下雨的概率 95%）。另外和決策樹相比，樸素貝葉斯沒有分類規(guī)則輸出。第二步：從 CAR 中選擇高優(yōu)先度的規(guī)則覆蓋數據集。 基于數據庫技術分類 在分類算法中 ， 利用數據庫技術解決分類問題的算法目前有 MIND [45]和 GAC－ RDB[46]兩類。在決策樹的構造過程中 ， 最費時的操作是對每個非終端結點的數據集進行類 別分布信息的統(tǒng)計計算以及對數據集進行分裂。在該算法中 ， 首先利用 SQL語句計算出用每個屬性進行類別判定的信息含量 ， 從而選擇一個最好的分裂屬性，并且按照信息含量的大小對屬性進行排序。其核心理論：（ 1） VC 維理論，不僅要使機器學習的經驗誤差最小，而且應該最小化函數集的 VC 維，來控制學習機的結構誤差，以達到 SVM 分類器具有較強的泛化能力的目的，即由有限的訓練樣本分類得到小的誤差能夠保證對獨立測試集仍保持較小誤差，解決了有限樣本的過度擬合問題。其二為了能夠處理正常的定義隨時間的變化（也就是概念遷移）需要間斷性的重新訓練支持向量機 [37]。目前 ,AIS 已發(fā)展成為計算智能研究的一個嶄新的分支 [5]。 Timmis[7]給出的定義為 :“ AIS 是一種由理論生物學啟發(fā)而來的計算范式 ,它借鑒了一些免疫系統(tǒng)的功能、原理和模型并用于復雜問題的解決”。一般免疫應答分初次應答和再次應答，在初次應答中利用免疫記憶功能，加快再次應答時對同種抗原的檢測。圖 給出了 AIS 仿生機理的主要內容。對匹配的度量可采用多種方法 ,如 Hamming 距離、 Euclidean 距離以及 Forrest[8]所提出的 R 連續(xù)位匹配方法等。 (3)低度的重復感染 ,對應于 AIS 的重復訓練過程。 Smith[10]對免疫記憶模型與稀疏分布記憶 (SparseDistributedMemory,SDM)模型進行了對 比 ,指出初次免疫應答對應著 SDM 向記憶中存儲信息的過程 ,而再次和交叉免疫應答則可以看作是 SDM 讀取記憶信息的過程。克隆選擇對應著一個親合度成熟 (affinity maturation)的過程 ,即對抗原親合度較低的個體在克隆選擇機制的作用下 ,經歷增殖復制和變異操作后 ,其親合度逐步提高而“成熟”的過程。分布式和自適應特性在提升系統(tǒng)的工作效率和故障容錯能力方面得到了應用。其它基于 GA算子的免疫算法還有免疫遺傳算法 [18]、 中國圖象圖形網 免疫進化策略 [19]和基于主體的免疫算法 [20]等。如果檢