【文章內(nèi)容簡介】 型的深度學習算法包括深度置信網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、受限玻爾茲曼機和循環(huán)神經(jīng)網(wǎng)絡(luò)等。深度學習又稱為深度神經(jīng)網(wǎng)絡(luò)（指層數(shù)超過 3 層的神經(jīng)網(wǎng)絡(luò)）。深度學習作為機器學習研究中的一個新興領(lǐng)域，由 Hinton 等人于 2006 年提出。深度學習源于多層神經(jīng)網(wǎng)絡(luò)，其實質(zhì)是給出了一種將特征表示和學習合二為一的方式。深度學習的特點是放棄了可解釋性，單純追求學習的有效性。經(jīng)過多年的摸索嘗試和研究，已經(jīng)產(chǎn)生了諸多深度神經(jīng)網(wǎng)絡(luò)的模型，其中卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)是兩類典型的模型。卷積神經(jīng)網(wǎng)絡(luò)常被應(yīng)用于空間性分布數(shù)據(jù)；循環(huán)神經(jīng)網(wǎng)絡(luò)在神經(jīng)網(wǎng)絡(luò)中引入了記憶和反饋，常被應(yīng)用于時間性分布數(shù)據(jù)。深度學習框架是進行深度學習的基礎(chǔ)底層框架，一般包含主流的神經(jīng)網(wǎng)絡(luò)算法模型，提供穩(wěn)定的深度學習 API，支持訓練模型在服務(wù)器和 GPU、TPU 間的分布式學習，部分框架還具備在包括移動設(shè)備、云平臺在內(nèi)的多種平臺上運行的移植能力，從而為深度學習算法帶來前所未有的運行速度和實用性。目前主流的開源算法框架有 TensorFlow、Caffe/CaffeCNTK、MXNet、Paddlepaddle、Torch/PyTorch、Theano 等。（3）此外，機器學習的常見算法還包括遷移學習、主動學習和演化學習等。遷移學習 遷移學習是指當在某些領(lǐng)域無法取得足夠多的數(shù)據(jù)進行模型訓練時，利用另一領(lǐng)域數(shù)據(jù)獲得的關(guān)系進行的學習。遷移學習可以把已訓練好的模型參數(shù)遷移到新的模型指導新模型訓練，可以更有效的學習底層規(guī)則、減少數(shù)據(jù)量。目前的遷移學習技術(shù)主要在變量有限的小規(guī)模應(yīng)用中使用，如基于傳感器網(wǎng)絡(luò)的定位，文字分類和圖像分類等。未來遷移學習將被廣泛應(yīng)用于解決更有挑戰(zhàn)性的問題，如視頻分類、社交網(wǎng)絡(luò)分析、邏輯推理等。主動學習主動學習通過一定的算法查詢最有用的未標記樣本，并交由專家進行標記， 然后用查詢到的樣本訓練分類模型來提高模型的精度。主動學習能夠選擇性地獲取知識，通過較少的訓練樣本獲得高性能的模型，最常用的策略是通過不確定性準則和差異性準則選取有效的樣本。演化學習演化學習對優(yōu)化問題性質(zhì)要求極少，只需能夠評估解的好壞即可，適用于求解復雜的優(yōu)化問題，也能直接用于多目標優(yōu)化。演化算法包括粒子群優(yōu)化算法、多目標演化算法等。目前針對演化學習的研究主要集中在演化數(shù)據(jù)聚類、對演化數(shù)據(jù)更有效的分類，以及提供某種自適應(yīng)機制以確定演化機制的影響等。 知識圖譜知識圖譜本質(zhì)上是結(jié)構(gòu)化的語義知識庫，是一種由節(jié)點和邊組成的圖數(shù)據(jù)結(jié)構(gòu)，以符號形式描述物理世界中的概念及其相互關(guān)系，其基本組成單位是“實體—關(guān)系—實體”三元組，以及實體及其相關(guān)“屬性—值”對。不同實體之間通過關(guān)系相互聯(lián)結(jié)，構(gòu)成網(wǎng)狀的知識結(jié)構(gòu)。在知識圖譜中，每個節(jié)點表示現(xiàn)實世界的“實體”，每條邊為實體與實體之間的“關(guān)系”。通俗地講，知識圖譜就是把所有不同種類的信息連接在一起而得到的一個關(guān)系網(wǎng)絡(luò)，提供了從“關(guān)系”的角度去分析問題的能力。 知識圖譜可用于反欺詐、不一致性驗證、組團欺詐等公共安全保障領(lǐng)域，需要用到異常分析、靜態(tài)分析、動態(tài)分析等數(shù)據(jù)挖掘方法。特別地，知識圖譜在搜索引擎、可視化展示和精準營銷方面有很大的優(yōu)勢，已成為業(yè)界的熱門工具。但是，知識圖譜的發(fā)展還有很大的挑戰(zhàn)，如數(shù)據(jù)的噪聲問題，即數(shù)據(jù)本身有錯誤或者數(shù)據(jù)存在冗余。隨著知識圖譜應(yīng)用的不斷深入，還有一系列關(guān)鍵技術(shù)需要突破。 自然語言處理自然語言處理是計算機科學領(lǐng)域與人工智能領(lǐng)域中的一個重要方向，研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法，涉及的領(lǐng)域較多，主要包括機器翻譯、機器閱讀理解和問答系統(tǒng)等。 （1）機器翻譯機器翻譯技術(shù)是指利用計算機技術(shù)實現(xiàn)從一種自然語言到另外一種自然語言的翻譯過程?；诮y(tǒng)計的機器翻譯方法突破了之前基于規(guī)則和實例翻譯方法的局限性，翻譯性能取得巨大提升?；谏疃壬窠?jīng)網(wǎng)絡(luò)的機器翻譯在日?？谡Z等一些場景的成功應(yīng)用已經(jīng)顯現(xiàn)出了巨大的潛力。隨著上下文的語境表征和知識邏輯推理能力的發(fā)展，自然語言知識圖譜不斷擴充，機器翻譯將會在多輪對話翻譯及篇章翻譯等領(lǐng)域取得更大進展。目前非限定領(lǐng)域機器翻譯中性能較佳的一種是統(tǒng)計機器翻譯，包括訓練及解碼兩個階段。訓練階段的目標是獲得模型參數(shù)，解碼階段的目標是利用所估計的參數(shù)和給定的優(yōu)化目標，獲取待翻譯語句的最佳翻譯結(jié)果。統(tǒng)計機器翻譯主要包括語料預處理、詞對齊、短語抽取、短語概率計算、最大熵調(diào)序等步驟?；谏窠?jīng)網(wǎng)絡(luò)的端到端翻譯方法不需要針對雙語句子專門設(shè)計特征模型，而是直接把源語言句子的詞串送入神經(jīng)網(wǎng)絡(luò)模型，經(jīng)過神經(jīng)網(wǎng)絡(luò)的運算，得到目標語言句子的翻譯結(jié)果。在基于端到端的機器翻譯系統(tǒng)中，通常采用遞歸神經(jīng)網(wǎng)絡(luò)或卷積神經(jīng)網(wǎng)絡(luò)對句子進行表征建模，從海量訓練數(shù)據(jù)中抽取語義信息，與基于短語的統(tǒng)計翻譯相比，其翻譯結(jié)果更加流暢自然，在實際應(yīng)用中取得了較好的效果。（2）語義理解語義理解技術(shù)是指利用計算機技術(shù)實現(xiàn)對文本篇章的理解，并且回答與篇章 相關(guān)問題的過程。語義理解更注重于對上下文的理解以及對答案精準程度的把控。隨著 MCTest 數(shù)據(jù)集的發(fā)布，語義理解受到更多關(guān)注，取得了快速發(fā)展，相關(guān)數(shù)據(jù)集和對應(yīng)的神經(jīng)網(wǎng)絡(luò)模型層出不窮。語義理解技術(shù)將在智能客服、產(chǎn)品自動問 答等相關(guān)領(lǐng)域發(fā)揮重要作用，進一步提高問答與對話系統(tǒng)的精度。在數(shù)據(jù)采集方面，語義理解通過自動構(gòu)造數(shù)據(jù)方法和自動構(gòu)造填空型問題的方法來有效擴充數(shù)據(jù)資源。為了解決填充型問題，一些基于深度學習的方法相繼提出，如基于注意力的神經(jīng)網(wǎng)絡(luò)方法。當前主流的模型是利用神經(jīng)網(wǎng)絡(luò)技術(shù)對篇章、問題建模，對答案的開始和終止位置進行預測，抽取出篇章片段。對于進一步泛化的答案，處理難度進一步提升，目前的語義理解技術(shù)仍有較大的提升空間。（3）問答系統(tǒng)問答系統(tǒng)分為開放領(lǐng)域的對話系統(tǒng)和特定領(lǐng)域的問答系統(tǒng)。問答系統(tǒng)技術(shù)是指讓計算機像人類一樣用自然語言與人交流的技術(shù)。人們可以向問答系統(tǒng)提交用自然語言表達的問題，系統(tǒng)會返回關(guān)聯(lián)性較高的答案。盡管問答系統(tǒng)目前已經(jīng)有了不少應(yīng)用產(chǎn)品出現(xiàn)，但大多是在實際信息服務(wù)系統(tǒng)和智能手機助手等領(lǐng)域中的應(yīng)用，在問答系統(tǒng)魯棒性方面仍然存在著問題和挑戰(zhàn)。自然語言處理面臨四大挑戰(zhàn)：一是在詞法、句法、語義、語用和語音等不同層面存在不確定性；二是新的詞匯、術(shù)語、語義和語法導致未知語言現(xiàn)象的不可預測性；三是數(shù)據(jù)資源的不充分使其難以覆蓋復雜的語言現(xiàn)象；四是語義知識的模糊性和錯綜復雜的關(guān)聯(lián)性難以用簡單的數(shù)學模型描述，語義計算需要參數(shù)龐大的非線性計算。 人機交互人機交互主要研究人和計算機之間的信息交換，主要包括人到計算機和計算機到人的兩部分信息交換，是人工智能領(lǐng)域的重要的外圍技術(shù)。人機交互是與認知心理學、人機工程學、多媒體技術(shù)、虛擬現(xiàn)實技術(shù)等密切相關(guān)的綜合學科。傳統(tǒng)的人與計算機之間的信息交換主要依靠交互設(shè)備進行，主要包括鍵盤、鼠標、操縱桿、數(shù)據(jù)服裝、眼動跟蹤器、位置跟蹤器、數(shù)據(jù)手套、壓力筆等輸入設(shè)備，以及打印機、繪圖儀、顯示器、頭盔式顯示器、音箱等輸出設(shè)備。人機交互技術(shù)除了傳統(tǒng)的基本交互和圖形交互外，還包括語音交互、情感交互、體感交互及腦機交互等技術(shù)，以下對后四種與人工智能關(guān)聯(lián)密切的典型交互手段進行介紹。（1）語音交互語音交互是一種高效的交互方式，是人以自然語音或機器合成語音同計算機 進行交互的綜合性技術(shù)，結(jié)合了語言學、心理學、工程和計算機技術(shù)等領(lǐng)域的知 識。語音交互不僅要對語音識別和語音合成進行研究，還要對人在語音通道下的 交互機理、行為方式等進行研究。語音交互過程包括四部分：語音采集、語音識 別、語義理解和語音合成。語音采集完成音頻的錄入、采樣及編碼；語音識別完 成語音信息到機器可識別的文本信息的轉(zhuǎn)化；語義理解根據(jù)語音識別轉(zhuǎn)換后的文 本字符或命令完成相應(yīng)的操作；語音合成完成文本信息到聲音信息的轉(zhuǎn)換。作為 人類溝通和獲取信息最自然便捷的手段，語音交互比其他交互方式具備更多優(yōu)勢， 能為人機交互帶來根本性變革，是大數(shù)據(jù)和認知計算時代未來發(fā)展的制高點，具 有廣闊的發(fā)展前景和應(yīng)用前景。（2）情感交互 情感是一種高層次的信息傳遞，而情感交互是一種交互狀態(tài)，它在表達功能和信息時傳遞情感，勾起人們的記憶或內(nèi)心的情愫。傳統(tǒng)的人機交互無法理解和適應(yīng)人的情緒或心境，缺乏情感理解和表達能力，計算機難以具有類似人一樣的智能，也難以通過人機交互做到真正的和諧與自然。情感交互就是要賦予計算機類似于人一樣的觀察、理解和生成各種情感的能力，最終使計算機像人一樣能進行自然、親切和生動的交互。情感交互已經(jīng)成為人工智能領(lǐng)域中的熱點方向，旨在讓人機交互變得更加自然。目前，在情感交互信息的處理方式、情感描述方式、情感數(shù)據(jù)獲取和處理過程、情感表達方式等方面還有諸多技術(shù)挑戰(zhàn)。 （3）體感交互體感交互是個體不需要借助任何復雜的控制系統(tǒng)，以體感技術(shù)為基礎(chǔ)，直接通過肢體動作與周邊數(shù)字設(shè)備裝置和環(huán)境進行自然的交互。依照體感方式與原理的不同，體感技術(shù)主要分為三類：慣性感測、光學感測以及光學聯(lián)合感測。體感交互通常由運動追蹤、手勢識別、運動捕捉、面部表情識別等一系列技術(shù)支撐。與其他交互手段相比，體感交互技術(shù)無論是硬件還是軟件方面都有了較大的提升，交互設(shè)備向小型化、便攜化、使用方便化等方面發(fā)展，大大降低了對用戶的約束， 使得交互過程更加自然。目前，體感交互在游戲娛樂、醫(yī)療輔助與康復、全自動三維建模、輔助購物、眼動儀等領(lǐng)域有了較為廣泛的應(yīng)用。 （4）腦機交互腦機交互又稱為腦機接口，指不依賴于外圍神經(jīng)和肌肉等神經(jīng)通道，直接實現(xiàn)大腦與外界信息傳遞的通路。腦機接口系統(tǒng)檢測中樞神經(jīng)系統(tǒng)活動，并將其轉(zhuǎn)化為人工輸出指令，能夠替代、修復、增強、補充或者改善中樞神經(jīng)系統(tǒng)的正常輸出，從而改變中樞神經(jīng)系統(tǒng)與內(nèi)外環(huán)境之間的交互作用。腦機交互通過對神經(jīng)信號解碼，實現(xiàn)腦信號到機器指令的轉(zhuǎn)化，一般包括信號采集、特征提取和命令輸出三個模塊。從腦電信號采集的角度，一般將腦機接口分為侵入式和非侵入式兩大類。除此之外，腦機接口還有其他常見的分類方式：按照信號傳輸方向可以分為腦到機、機到腦和腦機雙向接口；按照信號生成的類型，可分為自發(fā)式腦機接口和誘發(fā)式腦機接口；按照信號源的不同還可分為基于腦電的腦機接口、基于功能性核磁共振的腦機接口以及基于近紅外光譜分析的腦機接口。 計算機視覺計算機視覺是使用計算機模仿人類視覺系統(tǒng)的科學，讓計算機擁有類似人類提取、處理、理解和分析圖像以及圖像序列的能力。自動駕駛、機器人、智能醫(yī)療等領(lǐng)域均需要通過計算機視覺技術(shù)從視覺信號中提取并處理信息。近來隨著深度學習的發(fā)展，預處理、特征提取與算法處理漸漸融合，形成端到端的人工智能算法技術(shù)。根據(jù)解決的問題，計算機視覺可分為計算成像學、圖像理解、三維視覺、動態(tài)視覺和視頻編解碼五大類。（1）計算成像學計算成像學是探索人眼結(jié)構(gòu)、相機成像原理以及其延伸應(yīng)用的科學。在相機成像原理方面，計算成像學不斷促進現(xiàn)有可見光相機的完善，使得現(xiàn)代相機更加輕便，可以適用于不同場景。同時計算成像學也推動著新型相機的產(chǎn)生，使相機超出可見光的限制。在相機應(yīng)用科學方面，計算成像學可以提升相機的能力，從而通過后續(xù)的算法處理使得在受限條件下拍攝的圖像更加完善，例如圖像去噪、去模糊、暗光增強、去霧霾等，以及實現(xiàn)新的功能，例如全景圖、軟件虛化、超分辨率等。（2）圖像理解圖像理解是通過用計算機系統(tǒng)解釋圖像，實現(xiàn)類似人類視覺系統(tǒng)理解外部世界的一門科學。通常根據(jù)理解信息的抽象程度可分為三個層次：淺層理解，包括圖像邊緣、圖像特征點、紋理元素等；中層理解，包括物體邊界、區(qū)域與平面等； 高層理解，根據(jù)需要抽取的高層語義信息，可大致分為識別、檢測、分割、姿態(tài)估計、圖像文字說明等。目前高層圖像理解算法已逐漸廣泛應(yīng)用于人工智能系統(tǒng)， 如刷臉支付、智慧安防、圖像搜索等。（3）三維視覺三維視覺即研究如何通過視覺獲取三維信息（三維重建）以及如何理解所獲取的三維信息的科學。三維重建可以根據(jù)重建的信息來源，分為單目圖像重建、多目圖像重建和深度圖像重建等。三維信息理解，即使用三維信息輔助圖像理解或者直接理解三維信息。三維信息理解可分為，淺層：角點、邊緣、法向量等； 中層：平面、立方體等；高層：物體檢測、識別、分割等。三維視覺技術(shù)可以廣泛應(yīng)用于機器人、無人駕駛、智慧工廠、虛擬/增強現(xiàn)實等方向。（4）動態(tài)視覺動態(tài)視覺即分析視頻或圖像序列，模擬人處理時序圖像的科學。通常動態(tài)視 覺問題可以定義為尋找圖像元素，如像素、區(qū)域、物體在時序上的對應(yīng)，以及提 取其語義信息的問題。動態(tài)視覺研究被廣泛應(yīng)用在視頻分析以及人機交互等方面。（5）視頻編解碼視頻編解碼是指通過特定的壓縮技術(shù)，將視頻流進行壓縮。視頻流傳輸中最為重要的編解碼標準有國際電聯(lián)的 、MJPEG 和MPEG 系列標準。視頻壓縮編碼主要分為兩大類：無損壓縮和有損壓縮。無損壓縮指使用壓縮后的數(shù)據(jù)進行重構(gòu)時，重構(gòu)后的數(shù)據(jù)與原來的數(shù)據(jù)完全相同，例如磁盤文件的壓縮。有損壓縮也稱為不可逆編碼，指使用壓縮后的數(shù)據(jù)進行重構(gòu)時， 重構(gòu)后的數(shù)據(jù)與原來的數(shù)據(jù)有差異，但不會影響人們對原始資料所表達的信息產(chǎn)生誤解。有損壓縮的應(yīng)用范圍廣泛，例如視頻會議、可視電話、視頻廣播、視頻監(jiān)控等。目前，計算機視覺技術(shù)發(fā)展迅速，已具備初步的產(chǎn)業(yè)規(guī)模。未來計算機視覺技術(shù)的發(fā)展主要面臨以下挑戰(zhàn)：一是如何在不同的應(yīng)用領(lǐng)域和其他技術(shù)更好的結(jié)合，計算機視覺在解決某些問題時可以廣泛利用大數(shù)據(jù)，已經(jīng)逐漸成熟并且可以超過人類，而在某些問題上卻無法達到很高的精度；二是如何降低計算機視覺算法的開發(fā)時間和人力成本，目前計算機視覺算法需要大量的數(shù)據(jù)與人工標注，需要較長的研發(fā)周期以達到應(yīng)用領(lǐng)域所要求的精度與耗時；三是如何加快新型算法的設(shè)計開發(fā)，隨著新的成像硬件與人工智能芯片的出現(xiàn)，針對不同芯片與數(shù)據(jù)采集設(shè)備的計算機視覺算法的設(shè)計與開發(fā)也是挑戰(zhàn)之一。 Th物特征識別生物特征識別技術(shù)是指通過個體生理特征或行為特征對個體身份進行識別認證的技術(shù)。從應(yīng)用流程看，生物特征識別通常分為注冊和識別兩個階段。注冊階段通過傳感器對人體的生物表征信息進行采集，如利用圖像傳感器對指紋和人臉等光學信息、麥克風對說話聲等聲學信息進行采集，利用數(shù)據(jù)預處理以及特征提取技術(shù)對采集的數(shù)據(jù)進行處理，得到相應(yīng)的特征進行存儲。識別過程采用與注冊過程一致的信息采集方式對待識別