【正文】 3 學(xué)習(xí)系統(tǒng)基本構(gòu)成 學(xué)習(xí)環(huán)節(jié) 知識庫 執(zhí)行環(huán)節(jié) 學(xué)習(xí)環(huán)節(jié) : 感知環(huán)境，獲取知識 常用的學(xué)習(xí)方法 機(jī)械式學(xué)習(xí) 指導(dǎo)式學(xué)習(xí) 歸納式學(xué)習(xí) 類比學(xué)習(xí) 一個(gè)基于知識庫的智能系統(tǒng) 環(huán)境 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 4 機(jī)器學(xué)習(xí)的定義 通過 經(jīng)驗(yàn) 提高系統(tǒng)自身的性能的過程 （系統(tǒng)自我改進(jìn)）。 機(jī)器學(xué)習(xí)的重要性 : ? 機(jī)器學(xué)習(xí)是人工智能的主要核心研究領(lǐng)域之一 , 也是現(xiàn)代智能系統(tǒng)的關(guān)鍵環(huán)節(jié)和瓶頸。 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 5 入侵檢測系統(tǒng) IDS： 是否是入侵？是何種入侵？ 如何檢測？ ?歷史數(shù)據(jù)： 以往的正常訪問模式及其表現(xiàn)、以往的入侵模式及其表現(xiàn) …… ?對當(dāng)前訪問模式分類 這是一個(gè)典型的機(jī)器學(xué)習(xí)問題 常用技術(shù)： 神經(jīng)網(wǎng)絡(luò)，決策樹，支持向量機(jī)，貝葉斯分類器， k近鄰 ，聚類，序列分析，免疫網(wǎng)絡(luò)等 …… 實(shí)例 1：網(wǎng)絡(luò)安全問題 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 6 如何預(yù)測？ ?氣象歷史數(shù)據(jù)： 以往的各種氣象數(shù)據(jù)及其變化特點(diǎn) …… ?對未來一周天氣的預(yù)報(bào) 這是一個(gè)典型的機(jī)器學(xué)習(xí)問題 常用技術(shù)： 統(tǒng)計(jì)多參數(shù)模型，神經(jīng)網(wǎng)絡(luò)， 貝葉斯分類器， k近鄰 ，聚類 …… 實(shí)例 2：天氣預(yù)報(bào) 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 7 實(shí)例 3：搜索引擎 Google的成功，使得 Inter搜索引擎成為一個(gè)新興的產(chǎn)業(yè)出現(xiàn)有眾多專營搜索引擎的公司（例如百度等專門針對中文搜索），而且 Microsoft等巨頭也開始投入巨資進(jìn)行搜索引擎的研發(fā) 機(jī)器學(xué)習(xí)技術(shù)正在支撐著各類搜索引擎 （尤其是貝葉斯學(xué)習(xí)技術(shù)） Google掘到的第一桶金，來源于其創(chuàng)始人 Larry Page和 Sergey Brin提出的 PageRank算法 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 8 Application 4 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 9 Application 4 Automatic Car Drive Class of Tasks: Learning to drive on highways from vision stereos. Knowledge: Images and steering mands recorded while observing a human driver. Performance Module: Accuracy in classification 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 10 Application 5 Learning to classify astronomical structures. galaxy stars Features: o Color o Size o Mass o Temperature o Luminosity unkown 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 11 Application 6 Classifying Astronomical Objects Class of Tasks: Learning to classify new objects. Knowledge: database of images with correct classification. Performance Module: Accuracy in classification 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 12 Other Applications ? BioTechnology ? Protein Folding Prediction ? Microarray gene expression ? Computer Systems Performance Prediction ? Banking Applications ?Credit Applications ? Fraud Detection ? Character Recognition (US Postal Service) ? Web Applications ? Document Classification ? Learning User Preferences 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 13 機(jī)器學(xué)習(xí)的任務(wù) ? 令 W是這個(gè)給定世界的有限或無限所有對象的集合，由于觀察能力的限制，我們只能獲得這個(gè)世界的一個(gè)有限的子集 Q?W，稱為樣本集。 Q W Model 建模 泛化 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 14 機(jī)器學(xué)習(xí)的三要素 （ 1） 一致性假設(shè) ：機(jī)器學(xué)習(xí)的條件。 （ 3） 泛化能力 ：決定模型對世界的有效性。 ? 原則上說，存在各種各樣的一致性假設(shè)?；?， – 給定世界 W的所有對象獨(dú)立同分布。 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 17 要素 3： 泛化能力 ? 通過機(jī)器學(xué)習(xí)方法，從給定有限樣本集合計(jì)算一個(gè)模型，泛化能力是這個(gè)模型對世界為真程度的指標(biāo)。s Interior Work? ? Are We Alone in the Universe? ? How and Where Did Life on Earth Arise? ? What Determines Species Diversity? ? What Geic Changes Made Us Uniquely Human? ? How Are Memories Stored and Retrieved? ? How Did Cooperative Behavior Evolve? ………. On 25 big questions facing science over the next quartercentury. (1 July 2022) 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 21 記憶的模型與過程 ? 記憶的模型與過程 通常包括三個(gè)相互聯(lián)系的階段： 編碼（ encoding）， 存儲（ storage） 提取（ retrieval） ?記憶的模型 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 22 工作記憶 （ Working Memory） ? 工作記憶系統(tǒng)能同時(shí)儲存和加工信息 ， 這和短時(shí)記憶概念僅強(qiáng)調(diào)儲存功能是不同的 。 ? 工作記憶與語言理解能力 、 注意力及推理能力等聯(lián)系緊密 ， 工作記憶蘊(yùn)藏 智能 的玄機(jī) 。 返回 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 25 機(jī)器學(xué)習(xí)早期研究 ? Rosenblatt的 感知機(jī) (1956)。 ? Samuel的符號機(jī)器學(xué)習(xí) (1965)。 2022/8/18 譚營 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 26 Perceptrons ? Devised by Frank Rosenblatt in the late 1950s – A singlelayer work where all inputs and activation values are either 0 or 1, and the weights are real valued – Activation function is a simple linear threshold ? 1 if ∑ xiwi t ? 0 other