機(jī)器學(xué)習(xí)學(xué)術(shù)報(bào)告-文庫吧
2025-01-08 18:05 本頁面
【正文】 是 指 ，通過 經(jīng)驗(yàn) E 改進(jìn) 后，它在 任務(wù) T 上由性能度量 P 衡量的 性 能 有所提升 。 下面來分別介紹一下這些名詞。 1 任務(wù) T 從“任務(wù)”的 相對正式的定義上說，學(xué)習(xí)過程本身不能算是任務(wù)。學(xué)習(xí)是我們 所謂 的獲取完成任務(wù)的能力。例如，我們的目標(biāo)是使機(jī)器人能夠行走，那么行走 便是任務(wù) 。我們可以編程讓機(jī)器人學(xué)會(huì)如何行走，或者可以人工編寫特定的指令來 指導(dǎo)機(jī)器人 如何 行走。 通常 機(jī)器學(xué)習(xí)任務(wù)定義 為學(xué)習(xí)系統(tǒng) 應(yīng)該如何 處理樣本。 樣本 是指 我們從某些希望機(jī)器學(xué)習(xí)系統(tǒng)處理的對象或事件中收集到的已經(jīng)量化的 特征的 集合。我們通常會(huì)將樣本表示成一個(gè)， 其中向量的每一個(gè) 元素是 一個(gè)特征。例如，一張圖片的特征通常是指這張圖片的像素值。 1 任務(wù) T分類 機(jī)器學(xué)習(xí) 可以解決很多類型的任務(wù)。一些非常常見的機(jī)器學(xué)習(xí)任務(wù)列舉如下 ： 分類 ：在這類任務(wù)中，計(jì)算機(jī)程序需要指定某些輸入屬于 k類 中的哪一類 。為了 完成這個(gè)任務(wù)，學(xué)習(xí)算法通常會(huì)返回一 個(gè)函數(shù) f。當(dāng) y = f(x) 時(shí)，模型將 向量 x 所代表的輸入分類到數(shù) 字碼 y 所代表的類別。還 有一些 其他的分類問題， 例如， f 輸出的是不同類別的概率分布。分類任務(wù)中 有一 個(gè)任務(wù)是對象識別，其中輸入是圖片（通常由一組像素亮度值表示）， 輸出是 表示圖片物體的數(shù)字碼。 例如 ， Willow Garage PR2 機(jī)器人能像服務(wù)員 一樣識別 不同飲料，并送給點(diǎn)餐 的顧客。 1 任務(wù) T回歸 回歸 ：在這類任務(wù)中，計(jì)算機(jī)程序需要對給定輸入預(yù)測數(shù)值。為了解決 這個(gè)務(wù) ，學(xué)習(xí)算法需要輸出 函數(shù) f 。 除了返回結(jié)果的形式不一樣外，這 類問題 和分類問題是很像的。這類任務(wù)的一個(gè)示例是預(yù)測投保人的索賠金額（ 用于 設(shè)置保險(xiǎn)費(fèi)），或者預(yù)測證券未來的價(jià)格。這類預(yù)測也用在算法交易中。 1 任務(wù) T機(jī)器翻譯 機(jī)器翻譯 ：在機(jī)器翻譯任務(wù)中，輸入是一種語言的符號序列，計(jì)算機(jī)程序 必須將 其轉(zhuǎn)化成另一種語言的符號序列。這通常適用于自然語言，如將英語譯 成法語 。 1 任務(wù) T轉(zhuǎn)錄 轉(zhuǎn)錄 ：這類任務(wù)中 ，機(jī)器學(xué)習(xí) 系統(tǒng)觀測一些相對非結(jié)構(gòu)化表示的數(shù)據(jù)，并 轉(zhuǎn)錄 信息為離散的文本形式。例如，光學(xué)字符識別要求計(jì)算機(jī)程序根據(jù)文本 圖片返回 文字 序列（ ASCII碼或者 Unicode 碼）。 谷歌街景以這種方式使用深度 學(xué)習(xí) 處理街道編號 (Goodfellow et al., 2023d)。另一個(gè)例子是語音識別， 計(jì)算機(jī)程序 輸入一段音頻波形，輸出一序列音頻記錄中所說的字符或單詞 ID 的編碼。 深度 學(xué)習(xí)是現(xiàn)代語音識別系統(tǒng)的重要組成部分，被各大公司廣泛使用，包括 微軟， IBM 和 谷歌。 1 任務(wù) T密度估計(jì) 密度估計(jì)：在 密度估計(jì)問題中， 機(jī)器學(xué)習(xí)算法 學(xué)習(xí)樣本采樣空間的概率密度函數(shù) （樣本連續(xù)） 或者概率質(zhì)量函數(shù) （樣本離散） 。要做好這樣的 任務(wù)，學(xué)習(xí)算法需要 學(xué)習(xí) 觀測到 的數(shù)據(jù)的結(jié)構(gòu)。算法必須知道什么情況下樣本聚集出現(xiàn)，什么情況下不太 可能 出現(xiàn) 。 密度估計(jì) 可以讓我們顯式地捕獲該分布。原則上，我們可以在該分布 上計(jì)算 以便解決其他任務(wù)。例如，如果我們通過密度估計(jì)得到了概率分布 p(x)，我們 可以用該 分布解決 缺失值填補(bǔ) 任務(wù)（轉(zhuǎn)化為條件概率）。 1 性能度量 P 為了 評估機(jī)器學(xué)習(xí)算法的能力，我們必須設(shè)計(jì)其性能的定量度量。通常性能 度量 P 是特定于系統(tǒng)執(zhí)行的任務(wù) T 而言的。 對于 諸如分類、缺失輸入分類和轉(zhuǎn)錄任務(wù)，我們通常度量模型 的 準(zhǔn)確率 （ accuracy） 。準(zhǔn)確率 是指該模型輸出正確結(jié)果的樣本比率。我們也可以通過 錯(cuò)誤率（ error rate）得到相同的信息。 錯(cuò)誤率是指該模型輸出錯(cuò)誤結(jié)果的樣本比率。我們通常把 錯(cuò)誤率 稱為 0 1損失的期望。在一個(gè)特定的樣本上，如果結(jié)果是對的，那么 0 1損失 是 0；否則是 1。 1 性能度量 P 通常 ， 我們在 訓(xùn)練集（ train set)上學(xué)習(xí)算法，但我們更加 關(guān)注機(jī)器學(xué)習(xí)算法在未觀測數(shù)據(jù)上的性能如何，因?yàn)檫@將 決定 其在實(shí)際應(yīng)用中的性能。因此，我們使用 測試集（ test set） 數(shù)據(jù) 來評估 系統(tǒng)性能 ，將 其與訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)的訓(xùn)練集數(shù)據(jù)分開。 性能 度量的選擇或許看上去簡單且客觀，但是選擇一個(gè)與系統(tǒng)理想表現(xiàn) 對應(yīng)的 性能度量通常是很難 的。 1 性能度量 P 某些 情況下，這是因?yàn)楹茈y確定應(yīng)該度量什么。例如，在執(zhí)行轉(zhuǎn)錄任務(wù)時(shí)， 我們 是應(yīng)該度量系統(tǒng)轉(zhuǎn)錄整個(gè)序列的準(zhǔn)確率，還是應(yīng)該用一個(gè)更細(xì)粒度的指標(biāo)，對 序列 中正確的部分元素以正面評價(jià)？在執(zhí)行回歸任務(wù)時(shí)，我們應(yīng)該更
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1