深度學(xué)習(xí)讓計(jì)算機(jī)學(xué)會(huì)思考-朝人工智能靠近(編輯修改稿)
2025-08-31 17:53 本頁面
【文章內(nèi)容簡介】 層的人工神經(jīng)網(wǎng)絡(luò)具有優(yōu)異的特征學(xué)習(xí)能力，學(xué)習(xí)得到的特征對(duì)數(shù)據(jù)有更本質(zhì)的刻畫，從而有利于可視化或分類；二、深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練上的難度，可以通過“逐層初始化”來有效克服，在這篇文章中，逐層初始化是通過無監(jiān)督學(xué)習(xí)實(shí)現(xiàn)的。最初，希頓、德哈爾和其他人利用深度學(xué)習(xí)解決了一個(gè)非常困難但從經(jīng)濟(jì)角度而言非常重要的語音識(shí)別任務(wù)。2009年，研究人員報(bào)告稱，他們利用一組經(jīng)典的數(shù)據(jù)對(duì)一套深度學(xué)習(xí)軟件進(jìn)行訓(xùn)練——3個(gè)小時(shí)的錄音和語音翻譯，這套深度學(xué)習(xí)軟件能夠精確地理解語音的內(nèi)容，并將其轉(zhuǎn)化為文字，精確度創(chuàng)下了紀(jì)錄。德哈爾表示，這一進(jìn)步引起了智能手機(jī)市場巨頭們的極大關(guān)注，他在微軟實(shí)習(xí)期間，將這套技術(shù)帶到了微軟。德哈爾說：“幾年后，這些巨頭們都開始研究深度學(xué)習(xí)。”例如，蘋果手機(jī)上的聲控?cái)?shù)字助手（Siri）就是建立在深度學(xué)習(xí)的基礎(chǔ)上。今天，谷歌、微軟等知名的擁有大數(shù)據(jù)的高科技公司爭相投入資源，占領(lǐng)深度學(xué)習(xí)的技術(shù)制高點(diǎn)，正是因?yàn)樗鼈兌伎吹搅嗽诖髷?shù)據(jù)時(shí)代，更加復(fù)雜且更加強(qiáng)大的深度模型能深刻揭示海量數(shù)據(jù)里所承載的復(fù)雜而豐富的信息，并對(duì)未來或未知事件作出更精準(zhǔn)的預(yù)測。在語音和圖像識(shí)別領(lǐng)域取得巨大飛躍當(dāng)谷歌公司在其安卓智能手機(jī)操作系統(tǒng)上采用基于深度學(xué)習(xí)的語音識(shí)別技術(shù)后，其單詞拼寫的錯(cuò)誤率下降了25%，這是語音識(shí)別領(lǐng)域10多年來最大的突破性進(jìn)展?！拔覀兒馁M(fèi)10年時(shí)間才能做到這一點(diǎn)。”希頓表示，這也反映了要想在這一領(lǐng)域取得突破是多么困難。與此同時(shí)，恩格也說服谷歌，讓他使用該公司與“谷歌大腦”有關(guān)的數(shù)據(jù)和計(jì)算機(jī)?！肮雀璐竽X”能從互聯(lián)網(wǎng)視頻中識(shí)別出貓的圖像，這極準(zhǔn)確而恰當(dāng)?shù)卣故玖藷o人監(jiān)督學(xué)習(xí)的潛力。無人監(jiān)督學(xué)習(xí)是最困難的學(xué)習(xí)任務(wù)，因?yàn)檩斎氲男畔]有附著任何解釋性信息，比如姓名、標(biāo)簽或類別等。但恩格很快遇到了麻煩，因?yàn)楹苌儆泄雀枰酝獾难芯咳藛T擁有如此豐富而有力工具來開展與深度學(xué)習(xí)有關(guān)的研究?！拔液秃芏嗳苏勥^話，很多學(xué)生沮喪地跑過來告訴我說，我又沒有1000臺(tái)計(jì)算機(jī)來用，我如何進(jìn)行這類研究呢？”因此，恩格回到斯坦福大學(xué)，開始利用圖形處理單元（GPU，這種運(yùn)行速度超快的芯片主要為游戲而研發(fā)）來研制更大、成本更低的深度學(xué)習(xí)網(wǎng)絡(luò)，也有很多人在這么做。恩格說：“使用大約價(jià)值10萬美元的硬件，我們能利用64個(gè)GPU，建造出一個(gè)擁有110億個(gè)連接的網(wǎng)絡(luò)?！钡@樣的系統(tǒng)要想贏得機(jī)器視覺科學(xué)家的青睞，可能還需要“百尺竿頭，更進(jìn)一步”。這些機(jī)器視覺科學(xué)家希望能在標(biāo)準(zhǔn)化測試方面看到其優(yōu)異的表現(xiàn)。馬利克記得，希頓曾經(jīng)問過他：“你是一個(gè)懷疑論者，什么使你如此確信深度學(xué)習(xí)系統(tǒng)的潛力呢？”馬利克回答說：“深度學(xué)習(xí)系統(tǒng)在國際聞名的數(shù)據(jù)池（ImageNet）競賽中取勝或許讓我看到了其巨大的潛能?！痹谠摫荣愔?，研究團(tuán)隊(duì)需要訓(xùn)練計(jì)算機(jī)程序識(shí)別與100萬張圖像有關(guān)的一套數(shù)據(jù)，這些圖像已被人工貼上了各類標(biāo)簽。經(jīng)過訓(xùn)練后，通過讓這些程序從以前未曾見過的圖像中找出同樣的標(biāo)簽來測試這些程序的性能。每一幅測試圖像，程序都會(huì)給出5個(gè)答案，如果正確的答案并非其中之一，那么，這一測試就被認(rèn)為是錯(cuò)誤的。以前，獲勝者們一般的出錯(cuò)率
研究報(bào)告相關(guān)推薦
鄂ICP備17016276號(hào)-1