【正文】
iousness? ? Why Do Humans Have So Few Genes? ? To What Extent Are Geic Variation and Personal Health Linked? ? Can the Laws of Physics Be Unified? ? How Much Can Human Life Span Be Extended? ? What Controls Organ Regeneration? ? How Can a Skin Cell Bee a Nerve Cell? ? How Does a Single Somatic Cell Bee a Whole Plant? ? How Does Earth39。s Interior Work? ? Are We Alone in the Universe? ? How and Where Did Life on Earth Arise? ? What Determines Species Diversity? ? What Geic Changes Made Us Uniquely Human? ? How Are Memories Stored and Retrieved? ? How Did Cooperative Behavior Evolve? ………. On 25 big questions facing science over the next quartercentury. (1 July 2022) 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 21 記憶的模型與過(guò)程 ? 記憶的模型與過(guò)程 通常包括三個(gè)相互聯(lián)系的階段: 編碼( encoding), 存儲(chǔ)( storage) 提?。?retrieval) ?記憶的模型 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 22 工作記憶 ( Working Memory) ? 工作記憶系統(tǒng)能同時(shí)儲(chǔ)存和加工信息 , 這和短時(shí)記憶概念僅強(qiáng)調(diào)儲(chǔ)存功能是不同的 。 ? 工作記憶分成:中樞執(zhí)行系統(tǒng) 、 視空初步加工系統(tǒng)和語(yǔ)音環(huán)路 。 ? 工作記憶與語(yǔ)言理解能力 、 注意力及推理能力等聯(lián)系緊密 , 工作記憶蘊(yùn)藏 智能 的玄機(jī) 。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 23 Working Memory Model 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 24 機(jī)器學(xué)習(xí)的分支 ? 數(shù)據(jù)挖掘 :利用歷史數(shù)據(jù)來(lái)改進(jìn)決策 – 例如:醫(yī)學(xué)記錄 —— 醫(yī)學(xué)知識(shí) ? 軟件應(yīng)用 (不能手工編程的應(yīng)用) – 汽車自動(dòng)駕駛 – 語(yǔ)音識(shí)別 等 ? 自用戶化程序 – 新聞閱讀器學(xué)習(xí)用戶的閱讀興趣。 返回 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 25 機(jī)器學(xué)習(xí)早期研究 ? Rosenblatt的 感知機(jī) (1956)。 ? Widrow的 Madline (1960)。 ? Samuel的符號(hào)機(jī)器學(xué)習(xí) (1965)。 ? Minsky的“ Perceptron”著作 (1969, 1988)。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 26 Perceptrons ? Devised by Frank Rosenblatt in the late 1950s – A singlelayer work where all inputs and activation values are either 0 or 1, and the weights are real valued – Activation function is a simple linear threshold ? 1 if ∑ xiwi t ? 0 otherwise – Supervised learning, perceptron changes weights based on correct results ? If output is correct, do nothing ? If output is 0 and should be 1, increment weights on the active lines (input of 1) by some amount d. ? If output is 1 and should be 0, decrement weights on the active lines by some amount d. 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 27 Limits of Perceptrons ? Singlelayer works are only capable of learning classes that are linearly separable – For example, exclusiveor is not linearly separable, and thus cannot be represented by a perceptron ? For any ndimensional space, a classification is linearly separable if these groups can be separated with a single n1 dimensional hyperplane Y X X xor Y = 0 X xor Y = 1 0 1 1 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 28 二十世紀(jì)八十年代的研究 ? 符號(hào)機(jī)器學(xué)習(xí)取得進(jìn)展。 ? 神經(jīng)網(wǎng)絡(luò)的研究。 ? 計(jì)算學(xué)習(xí)理論 PAC(概率近似正確 )。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 29 兩類最重要的符號(hào)機(jī)器學(xué)習(xí)算法 ? 覆蓋算法與分治算法。 –七十年代末, Michalski基于帶等號(hào)的邏輯演算,提出了 AQ11算法,稱為符號(hào)機(jī)器學(xué)習(xí)的覆蓋算法。 –1986年, Quinlan提出了決策樹算法,也稱為分治算法 (樹結(jié)構(gòu)表示的最早研究是CLS,概念學(xué)習(xí)系統(tǒng) )。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 30 神經(jīng)網(wǎng)絡(luò) ? Hopfield模型。 ? Kohonen模型。 ? Goldberg的 ART模型。 ? …… 。 ? 最有影響的是 Remulhart等人提出的 BP算法(1986)。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 31 計(jì)算學(xué)習(xí)理論 ? 1984年, Valiant提出機(jī)器學(xué)習(xí)應(yīng)該以模型概率近似正確 (1?)為指標(biāo),而不是以概率為 1為指標(biāo)。 ? 學(xué)習(xí)算法必須對(duì)樣本集合的規(guī)模呈多項(xiàng)式。 ? 統(tǒng)計(jì)機(jī)器學(xué)習(xí)、集成機(jī)器學(xué)習(xí)等方法的理論基礎(chǔ)。 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 32 機(jī)器學(xué)習(xí) 學(xué)科 ? 1983年, . Michalski等人撰寫《機(jī)器學(xué)習(xí):通往人工智能的途徑》一書 ? 1986年, Machine Learning雜志創(chuàng)刊 ? 1997年 以 Tom Mitchell的 經(jīng)典教科書( McGraw Hill Press, 1997)中 都沒(méi)有貫穿始終的 基礎(chǔ) 體系, 只不個(gè)是 不同方法和技術(shù)的 羅列 ? 機(jī)器學(xué)習(xí)還非常年輕、很不成熟 返回 2022/8/18 譚營(yíng) 機(jī)器學(xué)習(xí)研究及最新進(jìn)展 33 機(jī)器學(xué)習(xí)的主要方法 ? 傳統(tǒng)分類 – 歸納機(jī)器學(xué)習(xí) – 解釋機(jī)器學(xué)習(xí) – 遺傳機(jī)器學(xué)習(xí) – 連接機(jī)器學(xué)習(xí) ? 現(xiàn)代分類 ( 1997年, Dietterich) – 符號(hào)機(jī)器學(xué)習(xí)。