【正文】 工智能系統(tǒng)的安全可 靠 ..................36 提高可解釋性和透明 度 ...............................36 提高信任 度 .........................................36 增強(qiáng)可驗(yàn)證與可確認(rèn) 性 ...............................37 保護(hù)免受攻 擊 .......................................38 實(shí)現(xiàn)長(zhǎng)期的人工智能安全和優(yōu) 化 .......................38 （五） 戰(zhàn)略五：開發(fā)用于人工智能培訓(xùn)及測(cè)試的公共數(shù)據(jù)集和環(huán)境 39 開發(fā)滿足多樣化人工智能興趣與應(yīng)用的豐富數(shù)據(jù) 集 .......39 開放滿足商業(yè)和公共利益的訓(xùn)練測(cè)試資 源 ...............40 開發(fā)開源軟件庫和工具 包 .............................40 （六） 戰(zhàn)略六：制定標(biāo)準(zhǔn)和基準(zhǔn)以測(cè)量和評(píng)估人工智能技 術(shù) ......42 開發(fā)廣泛應(yīng)用的人工智能標(biāo) 準(zhǔn) .........................42 制定人工智能技術(shù)的測(cè)試基 準(zhǔn) .........................42 增加可用的人工智能測(cè)試平 臺(tái) .........................43 促進(jìn)人工智能社群參與標(biāo)準(zhǔn)和基準(zhǔn)的制 定 ...............44 （七） 戰(zhàn)略七：更好地了解國(guó)家人工智能人力需 求 ..............46 三、 建 議 ......................................................47 建議 一 .............................................47 建議 二 .............................................47 附錄：首字母縮寫 詞 .............................................48 譯者 注 .........................................................50 6 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 摘 要 人工智能（ AI）是一種具有巨大 社 會(huì)和經(jīng)濟(jì)效益的革新性技術(shù)。 這項(xiàng)《戰(zhàn)略》為聯(lián)邦資助的人工智能研究制定 了一系列目標(biāo)，既包括政府 內(nèi)部的研究，也包括聯(lián)邦資助的政府外部研 究 ，例如在學(xué)術(shù)界。 我們期望人工智 能技術(shù)根據(jù)我們持有人類同胞的正式和非正 式 規(guī)范表現(xiàn)。 戰(zhàn)略六：制定標(biāo)準(zhǔn)和基準(zhǔn)以測(cè)量和評(píng)估人工智能技術(shù)。 8 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 一、簡(jiǎn)介 （一）《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》的目的 1956 年，來自美國(guó)的計(jì)算機(jī)科學(xué)研究人員在新罕布什爾州的達(dá)特茅 斯學(xué)院 會(huì)面，討論一個(gè)新興的計(jì)算分支，即人工智能 或 AI 的開創(chuàng)性思想。 （注：深度學(xué)習(xí)是指使用多層神經(jīng)網(wǎng)絡(luò)的一系列方法的匯總，這些方法支持快速完成一度被認(rèn)為無法 自動(dòng)化完成的任務(wù)。 研討會(huì)的結(jié)果是伴隨公共報(bào)告 《為人工智能的未來準(zhǔn)備》的一部分，與該計(jì)劃一起發(fā)布。 同 時(shí)，本計(jì)劃假設(shè)一些重要的研究 領(lǐng)域不太可能獲得來自行業(yè)的足夠投資，因 為 它們受制于典型的公共物品投資 不足問題。聯(lián)邦政府是長(zhǎng)期高風(fēng)險(xiǎn) 研 究計(jì)劃以及近期發(fā)展工作的主要 資金來源，以實(shí)現(xiàn)部門或機(jī)構(gòu)的具體要求， 或 解決私營(yíng)企業(yè)并不從事的重要社 會(huì)問題。 AI 研發(fā)戰(zhàn)略計(jì)劃也并未制定 AI 的研究或使用政策，亦未就 AI 對(duì)就業(yè)和經(jīng) 濟(jì)的潛在影響作更廣泛的探討。通過用于控制制造工藝和調(diào) 度工作流程的新方法來改善制造業(yè)。 24 通過自動(dòng)調(diào)整天氣、交通和意外事件的預(yù)期影響，讓供應(yīng) 鏈更加 牢固難以中斷。 32 （ 5） 農(nóng)業(yè)： AI 系統(tǒng)可以創(chuàng)建通往可持續(xù)農(nóng)業(yè)的途徑，使農(nóng)業(yè)產(chǎn)品的生 產(chǎn)、加工、儲(chǔ)存、分配和消費(fèi)更靈活。通過為每個(gè)人定做和調(diào)整 的個(gè)性化健康信息，讓人們能過上更健康和 更 積極的生活。 41 （ 3） 法律 ： 通過機(jī)器對(duì)法律個(gè)案 史 進(jìn)行分析會(huì)變?yōu)槠毡椤?47 增強(qiáng)國(guó)家和國(guó)土安全 機(jī)器學(xué)習(xí)代理可以處理大量智能數(shù)據(jù)，并使用 快速變化的戰(zhàn)術(shù)來識(shí)別敵人 的相關(guān)生存規(guī)律模式。許多關(guān)鍵和困難的技 術(shù)挑戰(zhàn)仍存在于所 有 AI 子領(lǐng)域中，包括基 礎(chǔ) 科學(xué)和應(yīng)用領(lǐng)域。當(dāng)應(yīng)用于諸如圖像和書寫識(shí)別、語音 理 解和人類語言翻譯的任務(wù)時(shí)，極 為大量的數(shù)字?jǐn)?shù)據(jù)可用性、相對(duì)便宜的大規(guī) 模 并行計(jì)算能力和經(jīng)改良的學(xué)習(xí)技 術(shù) 讓 AI 變得更為進(jìn)步。這項(xiàng)研究正在擴(kuò)大， 可能會(huì)刺激未來的發(fā)展。 61 15 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 至少被引用一次的期刊數(shù) 期刊數(shù) 深度學(xué)習(xí) 出版年份 圖 1：各 國(guó)提 到 “ 深 度學(xué) 習(xí) ” 或 “ 深 度神經(jīng) 網(wǎng)絡(luò) ” 的期 刊文章 62 深度學(xué)習(xí)（引用出版物） 中國(guó) 美國(guó) 英國(guó) 澳大利亞 加拿大 日本 德國(guó) 新加坡 韓國(guó) 法國(guó) 中國(guó) 美國(guó) 英國(guó) 澳大利亞 加拿大 日本 德國(guó) 新加坡 韓國(guó) 法國(guó) 出版年份 圖 2：各 國(guó)至 少被引 用過 一次的 提到 “ 深度 學(xué)習(xí) ” 或 “ 深度 神經(jīng)網(wǎng) 絡(luò) ” 的期刊 文章 63 16 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 患者人數(shù) 深度學(xué)習(xí)專利 專利公布年份 圖 3：使 用術(shù) 語 “ 深 度學(xué) 習(xí) ” 或 “ 深 度神經(jīng) 網(wǎng)絡(luò) ” 的專 利數(shù) 量分 析 64 盡管取得了進(jìn)步，人工智能系統(tǒng)仍然有其局限 性。這些方法的目標(biāo)是通過說明和界面修 正 加強(qiáng)學(xué)習(xí)模型，明確輸出的基礎(chǔ) 和可靠性，以高透明度運(yùn)作，超越狹義人工 智 能，獲得可在更廣泛任務(wù)領(lǐng)域中 通用的功能。 戰(zhàn)略一中所述最重要的聯(lián)邦研究重點(diǎn)之一是對(duì) 人工智能的持續(xù)長(zhǎng)期研究， 獲得發(fā)現(xiàn)和深刻見解。 8 然而，與大多數(shù)變革性技術(shù)一樣，人 工 智能也為某些領(lǐng)域帶來了風(fēng)險(xiǎn)，包 括就業(yè)、經(jīng)濟(jì)、安全、倫理和法律問題。 戰(zhàn)略六討論了評(píng)估研發(fā)的標(biāo)準(zhǔn)和基準(zhǔn)，以確 定 進(jìn)展，縮小差距，為具體問題和 挑戰(zhàn)提供創(chuàng)新解決方案。中間第二行（淺藍(lán)色和中藍(lán)色行）包 括 推動(dòng)人工智能進(jìn)步所需許多領(lǐng)域 的研究。） 20 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 （一）戰(zhàn)略一：對(duì)人工智能研究進(jìn)行長(zhǎng)期投資 需對(duì)具有潛在長(zhǎng)期回報(bào)領(lǐng)域的人工智能研究進(jìn) 行投資。自 19 世紀(jì) 后 期以來，病理學(xué)家用于確定 癌癥診 斷的 主要工 具是 顯微鏡 。 71 下文強(qiáng)調(diào)了上述某些領(lǐng)域。 許多人工智能的應(yīng)用具有跨學(xué)科性質(zhì)并利用異 構(gòu)數(shù)據(jù)。人工智能系統(tǒng)將極大地受益于硬件 和 算法方面的進(jìn)步，獲得更穩(wěn)定和 可靠的感知。雖然不同的學(xué)科（包括數(shù) 學(xué)，控制科學(xué)和計(jì)算機(jī)科學(xué)）都在研究這個(gè) 問 題，但該領(lǐng)域目前缺乏統(tǒng)一的理 論模型或框架來理解 AI 系統(tǒng)性能。狹義的 AI 系統(tǒng)在特定的、定 義明確的領(lǐng)域中執(zhí)行單個(gè)任務(wù)，例如語音識(shí) 別 ，圖像識(shí)別和翻譯。目前正在探索狹義 AI 和通用 AI 之間的關(guān)系；從其中一個(gè) 獲得的經(jīng)驗(yàn)教訓(xùn)也可能應(yīng)用到改進(jìn)另外一個(gè) 上 ，反之亦然。未來的研究必須發(fā)現(xiàn)更有效、 穩(wěn) 健和可擴(kuò)展的技術(shù)，用于多個(gè) AI 系統(tǒng)和人類群組的規(guī)劃、控制和協(xié)作。關(guān)于實(shí)現(xiàn)類 人類 AI 新方法的更多基礎(chǔ)研究將使得這些系統(tǒng)更接近這一目標(biāo)。 策輔 助 工 具 。 研究人員需要更好地了解機(jī)器人的感知，以便 從各種傳感器中提取信息， 并讓機(jī)器人實(shí)時(shí)感知周圍環(huán)境。其中一個(gè)實(shí)例是 “ 神經(jīng)形態(tài) ” 處理器，其受到大腦組織的自由啟發(fā)， 76 并且在一些情況下，針對(duì)神經(jīng)網(wǎng)絡(luò)的運(yùn) 行而對(duì)其進(jìn)行優(yōu)化。 78 基于 AI 的方法可能對(duì)于改 進(jìn)高性能計(jì)算（ HPC）系統(tǒng)的操作 尤其重要。 （注：進(jìn)入百萬兆級(jí)運(yùn)算是指計(jì)算系統(tǒng)可實(shí)現(xiàn)至少每秒 10 億次運(yùn)算。人類 和 AI 系統(tǒng)之間的功能作用劃分 通常屬于以下類別之一： （ 1） AI 執(zhí)行輔助人類的功能： AI 系統(tǒng)執(zhí)行支持人類決策者的外圍任務(wù)。顯示關(guān)鍵信息，人工智能系統(tǒng)的狀 態(tài)以及對(duì)這些狀態(tài)的更改。 尋找人類感知人工智能的新算法 多年以來，人工智能算法已經(jīng)能夠解決日益復(fù) 雜的問題。另一個(gè)研究目標(biāo)是超越單人和單臺(tái) 機(jī) 器的互動(dòng)，朝向 “ 系統(tǒng)的系統(tǒng) （ systemsofsystems） ” 方向發(fā)展，即由多個(gè)機(jī)器與多個(gè)人互動(dòng)的協(xié)同工 作。其他系統(tǒng)可以通過 幫 助用戶回憶，適用于用戶當(dāng)前狀 況的過去經(jīng)驗(yàn)來增強(qiáng)人類的認(rèn)知。 （注： 84. 監(jiān) 督學(xué)習(xí)需要人類提供正確的結(jié)果，而強(qiáng)化學(xué)習(xí)和無監(jiān)督學(xué)習(xí)則不需要。這些通信要 求和約束是研發(fā)用戶界面的重要考慮因素。需要進(jìn) 一 步研究更易于普及不同語言的系 統(tǒng)。 DARPA 強(qiáng)烈 鼓 勵(lì) PAL 商 業(yè) 化，并且為了響應(yīng) DARPA 的鼓勵(lì) ， 在 20xx 年 創(chuàng) 建了 Siri 公司，以便在通 過 基于語音 界 面管理信 息 和自動(dòng)化 任 務(wù)來幫助 用 戶的系統(tǒng) 中 使 PA L 技 術(shù)商業(yè)化。 31 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 用戶演 示 程序 PAL 完 成并 概括 了參數(shù) 和結(jié)構(gòu)， 以 產(chǎn)生可 重 復(fù) 使用的標(biāo)準(zhǔn)操作規(guī)程 標(biāo)準(zhǔn)操作程序 庫（ SOPs） PAL 程序?qū)W習(xí)助手通過觀察一個(gè)實(shí)例來學(xué)習(xí)可重復(fù)使用的過程。還需要開發(fā)能夠與人進(jìn)行實(shí)時(shí)對(duì)話的語 言 處理系統(tǒng)。 30 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 在一些領(lǐng)域，人類人工智能通信延遲低，通 信 快速可靠。 84 隨機(jī)網(wǎng)絡(luò)允許領(lǐng)域知識(shí) 以先驗(yàn)概率分布的形式包含在內(nèi)。人類增 強(qiáng)研究包括固定設(shè)備（例如計(jì)算機(jī)）上使用 的 算法；可穿戴設(shè)備（如智能眼 鏡）；植入裝置（如大腦連接）；以及特定的用戶環(huán)境（例如特制的手術(shù) 室）。未來的智 能 系統(tǒng)必須能夠解釋人類社會(huì)的行 為規(guī)范，并相應(yīng)地采取行動(dòng)。 82,83 當(dāng)創(chuàng)建能與人類進(jìn)行有效合作的系統(tǒng)時(shí)，研究 人員會(huì)遇到許多基本挑戰(zhàn)。為了解 決 這些問題，在設(shè)計(jì)和開發(fā)這些系 統(tǒng)時(shí)應(yīng)使用某些以人為中心的自動(dòng)化原則： 81 （ 1）對(duì)人工智能系統(tǒng)的界面、控制和顯示，采用直觀、人性化的設(shè)計(jì)。前者能夠在所有類型的問題中起 到 作用，構(gòu)建所需人力較少且能更 加便利地在不同應(yīng)用之間進(jìn)行切換；而后者 可 以針對(duì)每個(gè)問題更有效率地發(fā)揮 作用。 80 實(shí)際上， HPC 系統(tǒng)中的執(zhí)行配置從來不相同，并 且同時(shí)執(zhí)行不同的應(yīng)用，其中每個(gè)不同軟件 代 碼的狀態(tài)隨著時(shí)間獨(dú)立地演進(jìn)。 為改進(jìn)的硬件創(chuàng)建人工智能 雖然改進(jìn)的硬件可以產(chǎn)生更強(qiáng)大 的 AI 系統(tǒng)， AI 系統(tǒng)也可以提高硬件的性 能。眼下深度機(jī)器學(xué)習(xí)的復(fù)興與基于 GPU 的硬件技術(shù)進(jìn)步及其改進(jìn)的 存儲(chǔ)器、 75 輸入 /輸出、時(shí)鐘速 度、并行性和 能量效率直接相關(guān)?，F(xiàn)今，機(jī)器人 技 術(shù)已如預(yù)期地展示出它們擁有補(bǔ) 充、增加、增強(qiáng)或模擬人類身體能力或人類 智 力的能力。我們必須優(yōu)化有限安全資源的使用。即使在諸如 世界冠軍級(jí)圍棋游戲中，大師級(jí)玩家只需幾 千 場(chǎng)游戲來訓(xùn)練自己。許多先前的努力都 是聚焦于集中規(guī)劃和協(xié)調(diào)技術(shù)；然而，這些 方 法受制于單點(diǎn)故障，諸如規(guī)劃器 的信息丟失或者通向規(guī)劃器的通信鏈接的信 息 丟失。廣泛學(xué)習(xí)能力將為通用 AI 系統(tǒng)提供將知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng) 域 以及從經(jīng)驗(yàn)和人類交互中學(xué)習(xí)的 能力。這些發(fā)展是使得現(xiàn)今在深 度學(xué)習(xí)方面取得重大進(jìn)步的關(guān)鍵因素。 了解人工智能的理論能力和局限性 22 美國(guó)國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃 中國(guó)信通院（ CAICT）編譯組整理 雖然許多 AI 算法的最終目標(biāo)是使用仿人類 的方案來解決開放式挑戰(zhàn)，但我 們不能很好地理解 AI 的理論能力和限制，以及這種仿人類的解決方案與 AI 算 法一起使用的可行性能達(dá)到何種程度。傳感器數(shù)據(jù) 常與先驗(yàn)知識(shí)和模型一起進(jìn)行處理和整合， 以 提取與人工智能系統(tǒng)任務(wù)相關(guān)的 信息，如幾何特征、屬性、位置和速度。雖然許多 研 究通過數(shù)據(jù)質(zhì)量保證方法確保數(shù) 據(jù)清理和知識(shí)發(fā)現(xiàn)的準(zhǔn)確性，但需進(jìn)一步研 究 以提高數(shù)據(jù)清理技術(shù)的效率，建 立發(fā)現(xiàn)數(shù)據(jù)不一致和異常的方法并使其可與 人 的反饋相結(jié)合。 學(xué)家出錯(cuò)率僅為 ％ 。這兩種案例的基礎(chǔ)研究均始于 20 世紀(jì) 60 年代；歷經(jīng) 30 多年的持續(xù)研究，那些想法才 轉(zhuǎn)換成今天在各種人工智能中所見到的變革性 技術(shù)。（括號(hào)中的小數(shù)字