【正文】 工智能系統(tǒng)的安全可 靠 ..................36 提高可解釋性和透明 度 ...............................36 提高信任 度 .........................................36 增強可驗證與可確認 性 ...............................37 保護免受攻 擊 .......................................38 實現(xiàn)長期的人工智能安全和優(yōu) 化 .......................38 （五） 戰(zhàn)略五：開發(fā)用于人工智能培訓及測試的公共數(shù)據(jù)集和環(huán)境 39 開發(fā)滿足多樣化人工智能興趣與應用的豐富數(shù)據(jù) 集 .......39 開放滿足商業(yè)和公共利益的訓練測試資 源 ...............40 開發(fā)開源軟件庫和工具 包 .............................40 （六） 戰(zhàn)略六：制定標準和基準以測量和評估人工智能技 術 ......42 開發(fā)廣泛應用的人工智能標 準 .........................42 制定人工智能技術的測試基 準 .........................42 增加可用的人工智能測試平 臺 .........................43 促進人工智能社群參與標準和基準的制 定 ...............44 （七） 戰(zhàn)略七：更好地了解國家人工智能人力需 求 ..............46 三、 建 議 ......................................................47 建議 一 .............................................47 建議 二 .............................................47 附錄：首字母縮寫 詞 .............................................48 譯者 注 .........................................................50 6 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 摘 要 人工智能（ AI）是一種具有巨大 社 會和經(jīng)濟效益的革新性技術。 這項《戰(zhàn)略》為聯(lián)邦資助的人工智能研究制定 了一系列目標，既包括政府 內(nèi)部的研究，也包括聯(lián)邦資助的政府外部研 究 ，例如在學術界。 我們期望人工智 能技術根據(jù)我們持有人類同胞的正式和非正 式 規(guī)范表現(xiàn)。 戰(zhàn)略六：制定標準和基準以測量和評估人工智能技術。 8 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 一、簡介 （一）《國家人工智能研究和發(fā)展戰(zhàn)略計劃》的目的 1956 年，來自美國的計算機科學研究人員在新罕布什爾州的達特茅 斯學院 會面，討論一個新興的計算分支，即人工智能 或 AI 的開創(chuàng)性思想。 （注：深度學習是指使用多層神經(jīng)網(wǎng)絡的一系列方法的匯總，這些方法支持快速完成一度被認為無法 自動化完成的任務。 研討會的結(jié)果是伴隨公共報告 《為人工智能的未來準備》的一部分，與該計劃一起發(fā)布。 同 時，本計劃假設一些重要的研究 領域不太可能獲得來自行業(yè)的足夠投資，因 為 它們受制于典型的公共物品投資 不足問題。聯(lián)邦政府是長期高風險 研 究計劃以及近期發(fā)展工作的主要 資金來源，以實現(xiàn)部門或機構(gòu)的具體要求， 或 解決私營企業(yè)并不從事的重要社 會問題。 AI 研發(fā)戰(zhàn)略計劃也并未制定 AI 的研究或使用政策，亦未就 AI 對就業(yè)和經(jīng) 濟的潛在影響作更廣泛的探討。通過用于控制制造工藝和調(diào) 度工作流程的新方法來改善制造業(yè)。 24 通過自動調(diào)整天氣、交通和意外事件的預期影響，讓供應 鏈更加 牢固難以中斷。 32 （ 5） 農(nóng)業(yè)： AI 系統(tǒng)可以創(chuàng)建通往可持續(xù)農(nóng)業(yè)的途徑，使農(nóng)業(yè)產(chǎn)品的生 產(chǎn)、加工、儲存、分配和消費更靈活。通過為每個人定做和調(diào)整 的個性化健康信息，讓人們能過上更健康和 更 積極的生活。 41 （ 3） 法律 ： 通過機器對法律個案 史 進行分析會變?yōu)槠毡椤?47 增強國家和國土安全 機器學習代理可以處理大量智能數(shù)據(jù)，并使用 快速變化的戰(zhàn)術來識別敵人 的相關生存規(guī)律模式。許多關鍵和困難的技 術挑戰(zhàn)仍存在于所 有 AI 子領域中，包括基 礎 科學和應用領域。當應用于諸如圖像和書寫識別、語音 理 解和人類語言翻譯的任務時，極 為大量的數(shù)字數(shù)據(jù)可用性、相對便宜的大規(guī) 模 并行計算能力和經(jīng)改良的學習技 術 讓 AI 變得更為進步。這項研究正在擴大， 可能會刺激未來的發(fā)展。 61 15 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 至少被引用一次的期刊數(shù) 期刊數(shù) 深度學習 出版年份 圖 1：各 國提 到 “ 深 度學 習 ” 或 “ 深 度神經(jīng) 網(wǎng)絡 ” 的期 刊文章 62 深度學習（引用出版物） 中國 美國 英國 澳大利亞 加拿大 日本 德國 新加坡 韓國 法國 中國 美國 英國 澳大利亞 加拿大 日本 德國 新加坡 韓國 法國 出版年份 圖 2：各 國至 少被引 用過 一次的 提到 “ 深度 學習 ” 或 “ 深度 神經(jīng)網(wǎng) 絡 ” 的期刊 文章 63 16 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 患者人數(shù) 深度學習專利 專利公布年份 圖 3：使 用術 語 “ 深 度學 習 ” 或 “ 深 度神經(jīng) 網(wǎng)絡 ” 的專 利數(shù) 量分 析 64 盡管取得了進步，人工智能系統(tǒng)仍然有其局限 性。這些方法的目標是通過說明和界面修 正 加強學習模型，明確輸出的基礎 和可靠性，以高透明度運作，超越狹義人工 智 能，獲得可在更廣泛任務領域中 通用的功能。 戰(zhàn)略一中所述最重要的聯(lián)邦研究重點之一是對 人工智能的持續(xù)長期研究， 獲得發(fā)現(xiàn)和深刻見解。 8 然而，與大多數(shù)變革性技術一樣，人 工 智能也為某些領域帶來了風險，包 括就業(yè)、經(jīng)濟、安全、倫理和法律問題。 戰(zhàn)略六討論了評估研發(fā)的標準和基準，以確 定 進展，縮小差距，為具體問題和 挑戰(zhàn)提供創(chuàng)新解決方案。中間第二行（淺藍色和中藍色行）包 括 推動人工智能進步所需許多領域 的研究。） 20 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 （一）戰(zhàn)略一：對人工智能研究進行長期投資 需對具有潛在長期回報領域的人工智能研究進 行投資。自 19 世紀 后 期以來，病理學家用于確定 癌癥診 斷的 主要工 具是 顯微鏡 。 71 下文強調(diào)了上述某些領域。 許多人工智能的應用具有跨學科性質(zhì)并利用異 構(gòu)數(shù)據(jù)。人工智能系統(tǒng)將極大地受益于硬件 和 算法方面的進步，獲得更穩(wěn)定和 可靠的感知。雖然不同的學科（包括數(shù) 學，控制科學和計算機科學）都在研究這個 問 題，但該領域目前缺乏統(tǒng)一的理 論模型或框架來理解 AI 系統(tǒng)性能。狹義的 AI 系統(tǒng)在特定的、定 義明確的領域中執(zhí)行單個任務，例如語音識 別 ，圖像識別和翻譯。目前正在探索狹義 AI 和通用 AI 之間的關系；從其中一個 獲得的經(jīng)驗教訓也可能應用到改進另外一個 上 ，反之亦然。未來的研究必須發(fā)現(xiàn)更有效、 穩(wěn) 健和可擴展的技術，用于多個 AI 系統(tǒng)和人類群組的規(guī)劃、控制和協(xié)作。關于實現(xiàn)類 人類 AI 新方法的更多基礎研究將使得這些系統(tǒng)更接近這一目標。 策輔 助 工 具 。 研究人員需要更好地了解機器人的感知，以便 從各種傳感器中提取信息， 并讓機器人實時感知周圍環(huán)境。其中一個實例是 “ 神經(jīng)形態(tài) ” 處理器，其受到大腦組織的自由啟發(fā)， 76 并且在一些情況下，針對神經(jīng)網(wǎng)絡的運 行而對其進行優(yōu)化。 78 基于 AI 的方法可能對于改 進高性能計算（ HPC）系統(tǒng)的操作 尤其重要。 （注：進入百萬兆級運算是指計算系統(tǒng)可實現(xiàn)至少每秒 10 億次運算。人類 和 AI 系統(tǒng)之間的功能作用劃分 通常屬于以下類別之一： （ 1） AI 執(zhí)行輔助人類的功能： AI 系統(tǒng)執(zhí)行支持人類決策者的外圍任務。顯示關鍵信息，人工智能系統(tǒng)的狀 態(tài)以及對這些狀態(tài)的更改。 尋找人類感知人工智能的新算法 多年以來，人工智能算法已經(jīng)能夠解決日益復 雜的問題。另一個研究目標是超越單人和單臺 機 器的互動，朝向 “ 系統(tǒng)的系統(tǒng) （ systemsofsystems） ” 方向發(fā)展，即由多個機器與多個人互動的協(xié)同工 作。其他系統(tǒng)可以通過 幫 助用戶回憶，適用于用戶當前狀 況的過去經(jīng)驗來增強人類的認知。 （注： 84. 監(jiān) 督學習需要人類提供正確的結(jié)果，而強化學習和無監(jiān)督學習則不需要。這些通信要 求和約束是研發(fā)用戶界面的重要考慮因素。需要進 一 步研究更易于普及不同語言的系 統(tǒng)。 DARPA 強烈 鼓 勵 PAL 商 業(yè) 化，并且為了響應 DARPA 的鼓勵 ， 在 20xx 年 創(chuàng) 建了 Siri 公司，以便在通 過 基于語音 界 面管理信 息 和自動化 任 務來幫助 用 戶的系統(tǒng) 中 使 PA L 技 術商業(yè)化。 31 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 用戶演 示 程序 PAL 完 成并 概括 了參數(shù) 和結(jié)構(gòu)， 以 產(chǎn)生可 重 復 使用的標準操作規(guī)程 標準操作程序 庫（ SOPs） PAL 程序?qū)W習助手通過觀察一個實例來學習可重復使用的過程。還需要開發(fā)能夠與人進行實時對話的語 言 處理系統(tǒng)。 30 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 在一些領域，人類人工智能通信延遲低，通 信 快速可靠。 84 隨機網(wǎng)絡允許領域知識 以先驗概率分布的形式包含在內(nèi)。人類增 強研究包括固定設備（例如計算機）上使用 的 算法；可穿戴設備（如智能眼 鏡）；植入裝置（如大腦連接）；以及特定的用戶環(huán)境（例如特制的手術 室）。未來的智 能 系統(tǒng)必須能夠解釋人類社會的行 為規(guī)范，并相應地采取行動。 82,83 當創(chuàng)建能與人類進行有效合作的系統(tǒng)時，研究 人員會遇到許多基本挑戰(zhàn)。為了解 決 這些問題，在設計和開發(fā)這些系 統(tǒng)時應使用某些以人為中心的自動化原則： 81 （ 1）對人工智能系統(tǒng)的界面、控制和顯示，采用直觀、人性化的設計。前者能夠在所有類型的問題中起 到 作用，構(gòu)建所需人力較少且能更 加便利地在不同應用之間進行切換；而后者 可 以針對每個問題更有效率地發(fā)揮 作用。 80 實際上， HPC 系統(tǒng)中的執(zhí)行配置從來不相同，并 且同時執(zhí)行不同的應用，其中每個不同軟件 代 碼的狀態(tài)隨著時間獨立地演進。 為改進的硬件創(chuàng)建人工智能 雖然改進的硬件可以產(chǎn)生更強大 的 AI 系統(tǒng)， AI 系統(tǒng)也可以提高硬件的性 能。眼下深度機器學習的復興與基于 GPU 的硬件技術進步及其改進的 存儲器、 75 輸入 /輸出、時鐘速 度、并行性和 能量效率直接相關?，F(xiàn)今，機器人 技 術已如預期地展示出它們擁有補 充、增加、增強或模擬人類身體能力或人類 智 力的能力。我們必須優(yōu)化有限安全資源的使用。即使在諸如 世界冠軍級圍棋游戲中，大師級玩家只需幾 千 場游戲來訓練自己。許多先前的努力都 是聚焦于集中規(guī)劃和協(xié)調(diào)技術；然而，這些 方 法受制于單點故障，諸如規(guī)劃器 的信息丟失或者通向規(guī)劃器的通信鏈接的信 息 丟失。廣泛學習能力將為通用 AI 系統(tǒng)提供將知識從一個領域轉(zhuǎn)移到另一個領 域 以及從經(jīng)驗和人類交互中學習的 能力。這些發(fā)展是使得現(xiàn)今在深 度學習方面取得重大進步的關鍵因素。 了解人工智能的理論能力和局限性 22 美國國家人工智能研究與發(fā)展戰(zhàn)略計劃 中國信通院（ CAICT）編譯組整理 雖然許多 AI 算法的最終目標是使用仿人類 的方案來解決開放式挑戰(zhàn)，但我 們不能很好地理解 AI 的理論能力和限制，以及這種仿人類的解決方案與 AI 算 法一起使用的可行性能達到何種程度。傳感器數(shù)據(jù) 常與先驗知識和模型一起進行處理和整合， 以 提取與人工智能系統(tǒng)任務相關的 信息，如幾何特征、屬性、位置和速度。雖然許多 研 究通過數(shù)據(jù)質(zhì)量保證方法確保數(shù) 據(jù)清理和知識發(fā)現(xiàn)的準確性，但需進一步研 究 以提高數(shù)據(jù)清理技術的效率，建 立發(fā)現(xiàn)數(shù)據(jù)不一致和異常的方法并使其可與 人 的反饋相結(jié)合。 學家出錯率僅為 ％ 。這兩種案例的基礎研究均始于 20 世紀 60 年代；歷經(jīng) 30 多年的持續(xù)研究，那些想法才 轉(zhuǎn)換成今天在各種人工智能中所見到的變革性 技術。（括號中的小數(shù)字