機(jī)器學(xué)習(xí)學(xué)術(shù)報(bào)告-文庫吧資料
2025-01-22 18:05本頁面
【正文】 0 和 θ1 這兩個(gè)參數(shù)，使得假設(shè)函數(shù)表示 的紅色直線 盡量與 下面的數(shù)據(jù) 點(diǎn)很好的 擬合： f(x)=θ1x1+θ2x2+θ3 思考 梯度下降 我們希望能學(xué)習(xí)出一個(gè)函數(shù) f(x)，使得 f(x)能夠盡可能準(zhǔn)確地描述這些數(shù)據(jù)，如果能求出這個(gè) f(x)，那么任給一組數(shù)據(jù)，就能預(yù)測(cè)出 房價(jià) 。即使 得代價(jià)函數(shù)最小。 1 思考 代價(jià)函數(shù) 我們 選擇的參數(shù)決定了我們得到的直線相對(duì)于我們的 訓(xùn)練集的準(zhǔn)確程度，模型所預(yù)測(cè)的值與訓(xùn)練集中實(shí)際值之間的差距 （下圖中藍(lán)線所指）就是建模 誤差。而我們的假設(shè)函數(shù)，也就是用來進(jìn)行預(yù)測(cè)的函數(shù)，是這樣的線性函數(shù)形式： 接下來 為型選擇合適的參數(shù) θ0 和 θ1 ，這兩個(gè)參數(shù) 稱為 模型參數(shù) 。 本例樣本較為充足，若樣本不易搜集怎么辦，怎樣高效利用小樣本來訓(xùn)練算法（ 小樣本學(xué)習(xí) 問題）。 梯度下降算法 原理。 這就好像是你已經(jīng)知道了數(shù)學(xué)測(cè)試題的答案，但是算式中的運(yùn)算符號(hào)都被擦去了： 1 牛刀小試 線性回歸 在監(jiān)督式學(xué)習(xí)中，你讓計(jì)算機(jī)為你算出這種關(guān)系。 2023 ??? 1 牛刀小試 線性回歸 為了編寫你的軟件，你將包含每一套房產(chǎn)的訓(xùn)練數(shù)據(jù)輸入到你的機(jī)器學(xué)習(xí)算法當(dāng)中去。 這就是 監(jiān)督 式學(xué)習(xí) 。 但最重要的是，你寫下了最終的成交價(jià)： 1 牛刀小試 線性回歸 這就是我們的訓(xùn)練數(shù)據(jù)。 1 牛刀小試 線性回歸 任務(wù)：寫 一個(gè)可以根據(jù)房屋 大小、位置、成交價(jià) 等因素來評(píng)估一間房屋的價(jià)格的小軟件 。每個(gè)樣本的特征是該植物不同部分的測(cè)量結(jié)果：萼片長度、萼片 寬度 、花瓣長度和花瓣寬度。它是 150 個(gè)鳶尾花卉植物不同部分測(cè)量結(jié)果的集合。 監(jiān)督學(xué)習(xí)算法通過 研究 Iris 數(shù)據(jù)集，學(xué)習(xí) 如何根據(jù) 測(cè)量結(jié)果將樣本劃分為三個(gè)不同品種 。 1 經(jīng)驗(yàn) E 監(jiān)督學(xué)習(xí)算法訓(xùn)練 含有很多特征的數(shù)據(jù)集， 不過 數(shù)據(jù)集中的樣本都有一 個(gè)標(biāo)簽或目標(biāo)。在深度學(xué)習(xí)中，我們通常要學(xué)習(xí) 生成 數(shù)據(jù)集的整個(gè)概率分布，顯式地，比如密度估計(jì)，或是隱式地，比如合成或去噪 。 1 經(jīng)驗(yàn) E 根據(jù) 學(xué)習(xí)過程中的不同經(jīng)驗(yàn)， 機(jī)器學(xué)習(xí)算法可以大致分類 為 無 監(jiān)督（ unsupervised） 算法 和 監(jiān)督 （ supervised）算法 。 1 性能度量 P 某些 情況下，這是因?yàn)楹茈y確定應(yīng)該度量什么。因此，我們使用 測(cè)試集（ test set） 數(shù)據(jù) 來評(píng)估 系統(tǒng)性能 ，將 其與訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)的訓(xùn)練集數(shù)據(jù)分開。在一個(gè)特定的樣本上，如果結(jié)果是對(duì)的，那么 0 1損失 是 0；否則是 1。 錯(cuò)誤率是指該模型輸出錯(cuò)誤結(jié)果的樣本比率。準(zhǔn)確率 是指該模型輸出正確結(jié)果的樣本比率。通常性能 度量 P 是特定于系統(tǒng)執(zhí)行的任務(wù) T 而言的。例如，如果我們通過密度估計(jì)得到了概率分布 p(x)，我們 可以用該 分布解決 缺失值填補(bǔ) 任務(wù)（轉(zhuǎn)化為條件概率）。 密度估計(jì) 可以讓我們顯式地捕獲該分布。要做好這樣的 任務(wù)，學(xué)習(xí)算法需要 學(xué)習(xí) 觀測(cè)到 的數(shù)據(jù)的結(jié)構(gòu)。 深度 學(xué)習(xí)是現(xiàn)代語音識(shí)別系統(tǒng)的重要組成部分，被各大公司廣泛使用，包括 微軟， IBM 和 谷歌。 谷歌街景以這種方式使用深度 學(xué)習(xí) 處理街道編號(hào) (Goodfellow et al., 2023d)。 1 任務(wù) T轉(zhuǎn)錄 轉(zhuǎn)錄 ：這類任務(wù)中 ，機(jī)器學(xué)習(xí) 系統(tǒng)觀測(cè)一些相對(duì)非結(jié)構(gòu)化表示的數(shù)據(jù)，并 轉(zhuǎn)錄 信息為離散的文本形式。 1 任務(wù) T機(jī)器翻譯 機(jī)器翻譯 ：在機(jī)器翻譯任務(wù)中，輸入是一種語言的符號(hào)序列，計(jì)算機(jī)程序 必須將 其轉(zhuǎn)化成另一種語言的符號(hào)序列。這類任務(wù)的一個(gè)示例是預(yù)測(cè)投保人的索賠金額（ 用于 設(shè)置保險(xiǎn)費(fèi)），或者預(yù)測(cè)證券未來的價(jià)格。為了解決 這個(gè)務(wù) ，學(xué)習(xí)算法需要輸出 函數(shù) f 。 例如 ， Willow Garage PR2 機(jī)器人能像服務(wù)員 一樣識(shí)別 不同飲料，并送給點(diǎn)餐 的顧客。還 有一些 其他的分類問題， 例如， f 輸出的是不同類別的概率分布。為了 完成這個(gè)任務(wù)，學(xué)習(xí)算法通常會(huì)返回一 個(gè)函數(shù) f。 1 任務(wù) T分類 機(jī)器學(xué)習(xí) 可以解決很多類型的任務(wù)。我們通常會(huì)將樣本表示成一個(gè)， 其中向量的每一個(gè) 元素是 一個(gè)特征。 通常 機(jī)器學(xué)習(xí)任務(wù)定義 為學(xué)習(xí)系統(tǒng) 應(yīng)該如何 處理樣本。例如，我們的目標(biāo)是使機(jī)器人能夠行走，那么行走 便是任務(wù) 。 1 任務(wù) T 從“任務(wù)”的 相對(duì)正式的定義上說，學(xué)習(xí)過程本身不能算是任務(wù)。然而， 我們 所謂的學(xué)習(xí)是什么 意思 呢？一 個(gè)簡潔 的定義是：“對(duì)于 某類 任務(wù) T 和 性能 度量 P，一個(gè)計(jì)算機(jī)程序被 認(rèn)為
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1