【正文】 最大限度地發(fā)揮其影響以滿足這些需求。相反，機(jī)構(gòu)將繼續(xù)根據(jù)其使命、能力、權(quán)威和預(yù)算來(lái)追尋優(yōu)先重點(diǎn)，同時(shí)進(jìn) 行協(xié)調(diào)，使整體研究組合與 AI 研發(fā)戰(zhàn)略計(jì)劃一致。人工智能研究 可以推進(jìn)美國(guó)的國(guó)家優(yōu)先任務(wù)，包括增加經(jīng)濟(jì)繁榮、改善教育機(jī)會(huì)和生活質(zhì) 量，以及加強(qiáng)國(guó)家和國(guó)土安全。1 該小 組委員會(huì)于 2016 年 6 月 15 日，請(qǐng)求網(wǎng)絡(luò)和信息技術(shù)研究和發(fā)展計(jì)劃（NITRD） 小組委員會(huì)編寫《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》（以下簡(jiǎn)稱“AI 研發(fā)戰(zhàn) 略計(jì)劃”或《戰(zhàn)略》）。為實(shí)現(xiàn)這一目標(biāo)，《戰(zhàn)略》確定了聯(lián)邦資助人工智能研究的 以下重大計(jì)劃：戰(zhàn)略一：對(duì)人工智能研究進(jìn)行長(zhǎng)期投資。需要研究來(lái)創(chuàng)建人類和人工智能系 統(tǒng)之間的有效交互。戰(zhàn)略四：確保人工智能系統(tǒng)的安全可靠。訓(xùn)練數(shù)據(jù)集 和資源的深度、質(zhì)量和準(zhǔn)確性顯著影響人工智能性能。需 要進(jìn)行額外的研究來(lái)開(kāi)發(fā)廣泛的評(píng)價(jià)技術(shù)?！稇?zhàn)略》最后提出了兩方面建議：建議一：開(kāi)發(fā)一個(gè)人工智能研發(fā)實(shí)施框架，以抓住科技機(jī)遇，并支持人工 智能研發(fā)投資的有效協(xié)調(diào)，與本計(jì)劃的第一至六項(xiàng)戰(zhàn)略保持一致。2 這次歷史性會(huì)議為 AI 的政府和行業(yè)研究設(shè)置了幾十年階段，包括感 知、自動(dòng)推理/規(guī)劃、認(rèn)知系統(tǒng)、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、機(jī)器人和相關(guān)領(lǐng)域 的進(jìn)展。在過(guò)去十年中，機(jī)器學(xué) 習(xí)的 AI 子領(lǐng)域，使計(jì)算機(jī)能夠從經(jīng)驗(yàn)或例子中學(xué)習(xí)，已經(jīng)表現(xiàn)出越來(lái)越準(zhǔn)確的 結(jié)果，引起了人們對(duì) AI 近期前景更多的興趣。雖然政府過(guò)去和現(xiàn)在的投資造就了 AI 的 突破性方法，但其他部門也已成為 AI 的重要貢獻(xiàn)者，包括廣泛的行業(yè)和非營(yíng)利 組織。5認(rèn)識(shí)到 AI 的革新性影響，2016 年 5 月，白宮科學(xué)和技術(shù)政策辦公室（OSTP）宣布了一個(gè)新的跨部門工作組，以探討 AI 的利益和風(fēng)險(xiǎn)。小組委員會(huì)指示本計(jì)劃應(yīng)傳達(dá)一系列明確的研發(fā)優(yōu)先重點(diǎn)，以解決戰(zhàn) 略研究目標(biāo)，將聯(lián)邦投資重點(diǎn)放在行業(yè)不太可能投資的領(lǐng)域，并解決擴(kuò)大和維 持 AI 研發(fā)人才渠道的需求。第二，本計(jì)劃假設(shè) AI 對(duì)社會(huì)的影響將繼續(xù)增加，其中包括就業(yè)、教育、公共安全和國(guó)家安全，以 及對(duì)美國(guó)經(jīng)濟(jì)增長(zhǎng)的影響。與 AI 研發(fā)戰(zhàn)略計(jì)劃相關(guān)的其他研發(fā)戰(zhàn)略計(jì)劃和方案包括《聯(lián)邦大數(shù)據(jù)研究 和發(fā)展戰(zhàn)略計(jì)劃》、9《聯(lián)邦網(wǎng)絡(luò)安全研究和發(fā)展戰(zhàn)略計(jì)劃》、10《國(guó)家隱私研 究和發(fā)展戰(zhàn)略》、11 《國(guó)家納米技術(shù)倡議戰(zhàn)略計(jì)劃》、12 《國(guó)家戰(zhàn)略計(jì)算計(jì) 劃》、13《推進(jìn)創(chuàng)新神經(jīng)技術(shù)腦研究計(jì)劃》14 與《國(guó)家機(jī)器人方案》。AI 的最新研究進(jìn)展讓 AI 的潛力更為樂(lè)觀，使行業(yè)得到迅猛發(fā)展， 并讓 AI 方法變得商業(yè)化。跨聯(lián)邦政府的 AI 協(xié)調(diào)研發(fā)工作將增加這些技術(shù)的積極影響，并為決策者提 供用于解決與使用 AI 相關(guān)的復(fù)雜政策挑戰(zhàn)的所需知識(shí)。然 而，AI 研發(fā)戰(zhàn)略計(jì)劃并未為個(gè)別聯(lián)邦機(jī)構(gòu)定義具體的研究議程。AI 研發(fā)戰(zhàn)略計(jì)劃側(cè)重于有助定義和推進(jìn)確保 AI 責(zé)任、安全和權(quán)益用途的 政策的研發(fā)投資。通過(guò)專業(yè)決策系統(tǒng)創(chuàng)造更有效的物流和供應(yīng)鏈。更多使用機(jī)器人技術(shù)能使制造業(yè)回歸陸上。22 消費(fèi)者可以從 現(xiàn)時(shí)的商業(yè)級(jí) 3D 打印中獲利。26 安全控制可以確保金融系統(tǒng)自動(dòng)減少惡意行為的機(jī)會(huì)，例如市場(chǎng)操縱、欺 詐和異常交易。30 AI 可用于乘客和貨運(yùn)車輛，從而通過(guò)增強(qiáng)情景意識(shí)來(lái)提高安全 性，并為司機(jī)和其他旅客提供實(shí)時(shí)路線信息。33（6）營(yíng)銷：AI 方法能使商業(yè)實(shí)體更好地配合供應(yīng)與需求，增加用來(lái)資助 進(jìn)行中資助私營(yíng)部門發(fā)展的稅收。37（8）科學(xué)和技術(shù)：AI 系統(tǒng)可以協(xié)助科學(xué)家和工程師閱讀出版物和專利， 使理論與之前的觀察值更一致，使用機(jī)器人系統(tǒng)和模擬、進(jìn)行實(shí)驗(yàn)，并設(shè)計(jì)新 的設(shè)備和軟件。AI 將如何改善教育機(jī)會(huì)和社會(huì)福利？（1）教育： AI增強(qiáng)的學(xué)習(xí)型學(xué)校隨處可見(jiàn)，通過(guò)其自動(dòng)化輔導(dǎo)能衡量學(xué) 生的發(fā)展 16。39 AI 技術(shù)允許進(jìn)行多維度的數(shù)據(jù)評(píng)估，以研究公共衛(wèi)生問(wèn)題，并為醫(yī)療診 斷和處方治療提供決策支持系統(tǒng)。42 法律取證工具能識(shí)別和總 結(jié)相關(guān)證據(jù)；這些系統(tǒng)甚至能以越來(lái)越復(fù)雜的方式制定法律條例。45 文本能從多個(gè)搜索 結(jié)果進(jìn)行自動(dòng)匯總，并在多種媒體中得以增強(qiáng)。49 數(shù)字防御系統(tǒng)可以大大降低戰(zhàn)場(chǎng)風(fēng)險(xiǎn)和傷亡。51 這種預(yù)測(cè)能力能有助于指示出問(wèn)題將在哪里發(fā)生，以防止或甚至在發(fā)生之 前阻止中斷。本 AI 研發(fā)戰(zhàn)略計(jì)劃的后續(xù)章節(jié)討論 了 AI 研發(fā)投資的高級(jí)優(yōu)先和戰(zhàn)略領(lǐng)域，這些將支持這一愿景的同時(shí)將降低潛在 破壞和風(fēng)險(xiǎn)。然 而，他們?nèi)匀荒墚a(chǎn)生重要解決方案，并且今天的技術(shù)發(fā)展仍然非?；钴S。其中一些成就的關(guān)鍵是深度學(xué)習(xí)的發(fā)展。57 這類里程碑的步伐似乎越來(lái)越快，按現(xiàn) 狀，最佳表現(xiàn)系統(tǒng)是基于機(jī)器學(xué)習(xí)，而非手編碼規(guī)則集合。這一趨勢(shì)也表明 研究日益全球化，美國(guó)的出版物，或至少被引用過(guò)一次的出版物的數(shù)量不再領(lǐng) 先世界（圖 2）。59 人工智能的應(yīng)用現(xiàn)正為大型企業(yè)創(chuàng)造可觀收益。即使是在狹義人工智能 方面，進(jìn)步也不均衡。人容易理解的場(chǎng)景對(duì)于機(jī)器來(lái)說(shuō)仍然很困難。人工智能系統(tǒng)的解釋性模型可通過(guò)先進(jìn)方法自動(dòng)構(gòu) 建。由于人工智能的廣度，這些研究重點(diǎn)跨越整 個(gè)領(lǐng)域，而不僅針對(duì)各子領(lǐng)域具體的單個(gè)研究難題。人工智能的前景幾 乎可涉及社會(huì)的每一方面，帶來(lái)顯著積極的社會(huì)效益和經(jīng)濟(jì)效益。如戰(zhàn)略二所述，需開(kāi)展基礎(chǔ)研究，以研究有 效的人機(jī)交互和協(xié)作方法。當(dāng)前人工智能技術(shù)的一個(gè)關(guān)鍵缺口是缺乏確保人工智能系統(tǒng)安全性和可預(yù) 測(cè)性的方法。人工智能系統(tǒng)的潛在功能和復(fù)雜性以及與人類用戶和環(huán)境的廣泛相互作用，使增加對(duì)人工智能技術(shù)安全性和控制性研究的投資至關(guān)重要。最后，人工智能技術(shù)在社會(huì)各領(lǐng)域的日益普及為人工智能研發(fā)專家?guī)?lái)了 新的壓力。應(yīng)用程序農(nóng)業(yè)通信教育財(cái)務(wù)方面政府服務(wù)法律物流制造業(yè)市場(chǎng)營(yíng)銷方面醫(yī)藥人事服務(wù)科學(xué)和工程安保運(yùn)輸以下圖 4 提供了本《戰(zhàn)略》總體結(jié)構(gòu)的圖形說(shuō)明。67 圖形的頂部一行（深藍(lán)色行）是預(yù)期受益于 AI 進(jìn)步的應(yīng)用示例，如本文 件前文愿景部分所述。（括號(hào)中的小數(shù)字表示在本規(guī)劃中的戰(zhàn)略編號(hào)，戰(zhàn)略有待進(jìn)一步拓 展。這些回報(bào)可在 5 年、10 年或更長(zhǎng)時(shí)間內(nèi)兌現(xiàn)。這兩種案例的基礎(chǔ)研究均始于 20 世紀(jì) 60 年代；歷經(jīng)30 多年的持續(xù)研究，那些想法才轉(zhuǎn)換成今天在各種人工智能中所見(jiàn)到的變革性 技術(shù)。使用常規(guī)方法的病理診斷需要大量人力，不易重復(fù)，導(dǎo)致質(zhì)量問(wèn)題。學(xué)家出錯(cuò)率僅為 ％。提升基于數(shù)據(jù)發(fā)現(xiàn)知識(shí)的能力正如《聯(lián)邦大數(shù)據(jù)研究和發(fā)展戰(zhàn)略規(guī)劃》中所述，9 實(shí)現(xiàn)智能數(shù)據(jù)理解和知 識(shí)發(fā)現(xiàn)需許多新的基礎(chǔ)工具和技術(shù)。雖然許多研究通過(guò)數(shù)據(jù)質(zhì)量保證方法確保數(shù) 據(jù)清理和知識(shí)發(fā)現(xiàn)的準(zhǔn)確性，但需進(jìn)一步研究以提高數(shù)據(jù)清理技術(shù)的效率，建 立發(fā)現(xiàn)數(shù)據(jù)不一致和異常的方法并使其可與人的反饋相結(jié)合。人工智能 研究人員必須確定培訓(xùn)所需的數(shù)據(jù)量，并正確處理大型數(shù)據(jù)和長(zhǎng)尾數(shù)據(jù)需求。傳感器數(shù)據(jù) 常與先驗(yàn)知識(shí)和模型一起進(jìn)行處理和整合，以提取與人工智能系統(tǒng)任務(wù)相關(guān)的 信息，如幾何特征、屬性、位置和速度。感知系統(tǒng) 需能夠綜合來(lái)自各種傳感器和其他來(lái)源（包括計(jì)算云）的數(shù)據(jù)，以確定人工智 能系統(tǒng)當(dāng)前的感知對(duì)象并對(duì)其未來(lái)狀態(tài)進(jìn)行預(yù)測(cè)。了解人工智能的理論能力和局限性雖然許多 AI 算法的最終目標(biāo)是使用仿人類的方案來(lái)解決開(kāi)放式挑戰(zhàn)，但我 們不能很好地理解 AI 的理論能力和限制，以及這種仿人類的解決方案與 AI 算 法一起使用的可行性能達(dá)到何種程度。這種理解必須在現(xiàn)有硬件的背景下形成，以便了解硬件是如 何影響這些算法的性能。這些發(fā)展是使得現(xiàn)今在深 度學(xué)習(xí)方面取得重大進(jìn)步的關(guān)鍵因素。72,73 確實(shí)，這些特定的系統(tǒng)被賦予“超越人類”的標(biāo)簽，因?yàn)樗麄兏?自在 Jeopardy 和 Go 中的表現(xiàn)均勝過(guò)了最好的人類玩家。廣泛學(xué)習(xí)能力將為通用 AI 系統(tǒng)提供將知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng)域以及從經(jīng)驗(yàn)和人類交互中學(xué)習(xí)的 能力。開(kāi)發(fā)可擴(kuò)展的人工智能系統(tǒng)AI 系統(tǒng)的不同分組和網(wǎng)絡(luò)可以協(xié)調(diào)或自主協(xié)作以執(zhí)行單個(gè) AI 系統(tǒng)不可能 完成的任務(wù)，并且還可以包括人類協(xié)作或帶領(lǐng)團(tuán)隊(duì)。許多先前的努力都 是聚焦于集中規(guī)劃和協(xié)調(diào)技術(shù)；然而，這些方法受制于單點(diǎn)故障，諸如規(guī)劃器 的信息丟失或者通向規(guī)劃器的通信鏈接的信息丟失。 這將引出新一代的智能系統(tǒng)，如智能教學(xué)系統(tǒng)、在執(zhí)行任務(wù)時(shí)有效地協(xié)助人們 的智能助手。即使在諸如 世界冠軍級(jí)圍棋游戲中，大師級(jí)玩家只需幾千場(chǎng)游戲來(lái)訓(xùn)練自己。 保護(hù)瀕危野生動(dòng)植物，森林和漁業(yè)。我們必須優(yōu)化有限安全資源的使用。通常，給定有限的 安全資源（例如，船只，空中巡警， 警察）和大量不同值的目標(biāo)（例如， 不同的航班，機(jī)場(chǎng)處的不同終端）， 基于安全游戲的決策輔助會(huì)提供隨機(jī) 分配或巡邏計(jì)劃，并考慮到不同目標(biāo) 的權(quán)重以及敵對(duì)目標(biāo)對(duì)于不同安全姿 勢(shì)的智能反應(yīng)?，F(xiàn)今，機(jī)器人技術(shù)已如預(yù)期地展示出它們擁有補(bǔ) 充、增加、增強(qiáng)或模擬人類身體能力或人類智力的能力。適應(yīng)和學(xué)習(xí)能力的提高將使機(jī)器 人能夠自我總結(jié)和自我評(píng)估，并從人類導(dǎo)師那里學(xué)習(xí)肢體運(yùn)動(dòng)。眼下深度機(jī)器學(xué)習(xí)的復(fù)興與基于 GPU 的硬件技術(shù)進(jìn)步及其改進(jìn)的 存儲(chǔ)器、75 輸入/輸出、時(shí)鐘速度、并行性和能量效率直接相關(guān)。需要進(jìn)一步研究在整 個(gè)分布式系統(tǒng)中以受控方式打開(kāi)和關(guān)閉數(shù)據(jù)通道的方法。為改進(jìn)的硬件創(chuàng)建人工智能雖然改進(jìn)的硬件可以產(chǎn)生更強(qiáng)大的 AI 系統(tǒng)，AI 系統(tǒng)也可以提高硬件的性 能。AI 用于預(yù)測(cè) HPC 性能和資源使用，并進(jìn)行在線優(yōu)化決策以提高效率。80 實(shí)際上，HPC 系統(tǒng)中的執(zhí)行配置從來(lái)不相同，并 且同時(shí)執(zhí)行不同的應(yīng)用，其中每個(gè)不同軟件代碼的狀態(tài)隨著時(shí)間獨(dú)立地演進(jìn)。這種協(xié)作互動(dòng)利 用了人類和 AI 系統(tǒng)的互補(bǔ)性質(zhì)。前者能夠在所有類型的問(wèn)題中起到作用，構(gòu)建所需人力較少且能更 加便利地在不同應(yīng)用之間進(jìn)行切換；而后者可以針對(duì)每個(gè)問(wèn)題更有效率地發(fā)揮 作用。（2）AI 執(zhí)行分擔(dān)人類高認(rèn)知負(fù)荷的功能：當(dāng)人類需要幫助時(shí)，AI 系統(tǒng)執(zhí) 行復(fù)雜的監(jiān)視功能（例如飛機(jī)中的地面接近警告系統(tǒng)），決策和自動(dòng)醫(yī)療診 斷。為了解決這些問(wèn)題，在設(shè)計(jì)和開(kāi)發(fā)這些系 統(tǒng)時(shí)應(yīng)使用某些以人為中心的自動(dòng)化原則：81（1）對(duì)人工智能系統(tǒng)的界面、控制和顯示，采用直觀、人性化的設(shè)計(jì)。參與一般性知識(shí)、技能和能力（KSA）的定期 復(fù)訓(xùn)，以及進(jìn)行人工智能系統(tǒng)采用的算法和邏輯和系統(tǒng)的預(yù)期故障模式的培 訓(xùn)。82,83當(dāng)創(chuàng)建能與人類進(jìn)行有效合作的系統(tǒng)時(shí)，研究人員會(huì)遇到許多基本挑戰(zhàn)。人類感知智能系統(tǒng)需 要能夠直觀地與用戶進(jìn)行互動(dòng)，并且能夠?qū)崿F(xiàn)無(wú)縫人機(jī)協(xié)作。未來(lái)的智能系統(tǒng)必須能夠解釋人類社會(huì)的行 為規(guī)范，并相應(yīng)地采取行動(dòng)。人工智能系統(tǒng)需要能夠代表多個(gè)目標(biāo)，他們?yōu)檫_(dá)到這些目標(biāo)可以采取的行動(dòng)，對(duì)這些行動(dòng)的約束和其他因 素，以及容易適應(yīng)目標(biāo)的修改。人類增 強(qiáng)研究包括固定設(shè)備（例如計(jì)算機(jī)）上使用的算法；可穿戴設(shè)備（如智能眼 鏡）；植入裝置（如大腦連接）；以及特定的用戶環(huán)境（例如特制的手術(shù) 室）。在主動(dòng)學(xué)習(xí)中，從領(lǐng)域?qū)＜姨帉で筝斎?，并且?dāng)學(xué)習(xí)算法不確定時(shí)僅 對(duì)數(shù)據(jù)進(jìn)行學(xué)習(xí)。84 隨機(jī)網(wǎng)絡(luò)允許領(lǐng)域知識(shí) 以先驗(yàn)概率分布的形式包含在內(nèi)?？梢暬陀脩艚缑姹仨氁匀祟惪衫斫獾姆?式，清楚地呈現(xiàn)來(lái)自他們的日益復(fù)雜的數(shù)據(jù)和信息。在一些領(lǐng)域，人類人工智能通信延遲低，通信快速可靠。雖然已經(jīng)取得了重大進(jìn)展，但是在人與人工智能系統(tǒng)能像人與 人之間進(jìn)行有效溝通之前，必須在語(yǔ)言處理中解決相當(dāng)大的開(kāi)放性研究挑戰(zhàn)。還需要開(kāi)發(fā)能夠與人進(jìn)行實(shí)時(shí)對(duì)話的語(yǔ)言處理系統(tǒng)。例 3：DARPA 的可學(xué)習(xí)個(gè)性化助理（PAL）項(xiàng)目創(chuàng)建了蘋果商業(yè)化技術(shù)，如 Siri計(jì)算技術(shù)對(duì)現(xiàn)代生活的每一個(gè)方面都至關(guān)重要，但我們每天使用的信息系統(tǒng)缺乏人類 認(rèn)知的一般的、靈活的能力。用戶演示程序 PAL 完成并概括了參數(shù) 和結(jié)構(gòu)，以產(chǎn)生可重復(fù)使用的標(biāo)準(zhǔn)操作規(guī)程標(biāo)準(zhǔn)操作程序 庫(kù)（SOPs）PAL 程序?qū)W習(xí)助手通過(guò)觀察一個(gè)實(shí)例來(lái)學(xué)習(xí)可重復(fù)使用的過(guò)程。在許多其他領(lǐng)域的語(yǔ)言處理研究方面的進(jìn)展，也需要使人類和人工智能系 統(tǒng)之間的互動(dòng)更加自然和直觀。（三）戰(zhàn)略三：了解并解決人工智能的倫理、法律和社會(huì)影響當(dāng)人工智能自主代理行為時(shí)，我們期望他們根據(jù)我們?nèi)祟愓胶头钦降?規(guī)范行事。與任何技術(shù)一樣，法律和道德原則將告知人工智能可接受的用途；是如何 將這些原則應(yīng)用于這項(xiàng)新技術(shù)所面臨的挑戰(zhàn)，特別是那些涉及自主性、代理和 控制的技術(shù)。需要對(duì) ITRD 相關(guān) IT 領(lǐng)域（即信息技術(shù)領(lǐng)域以及上述學(xué)科）的內(nèi)部和外部領(lǐng)域進(jìn)行進(jìn) 一步的調(diào)查研究，以便為人工智能系統(tǒng)的研發(fā)和使用及其對(duì)社會(huì)的影響提供信 息。然而，除了純粹的數(shù)據(jù)相關(guān)問(wèn)題，出 現(xiàn)在人工智能設(shè)計(jì)上的更大的問(wèn)題本質(zhì)上是公正、公平、透明和負(fù)責(zé)。建立符合倫理的人工智能除了正義和公平的基本假設(shè)之外，還有人擔(dān)心人工智能系統(tǒng)是否能夠表現(xiàn) 出一般倫理原則所容忍的行為。當(dāng)人工智能系 統(tǒng)，尤其是新的自主決策算法，面臨基于獨(dú)立和可能沖突的價(jià)值體系道德困境 時(shí)，還有一些混亂。這些實(shí)例可以包括 法律或道德的“少見(jiàn)或極端案件（corner cases）”，由對(duì)用戶透明的結(jié)果或 人工智能需要適當(dāng)?shù)姆椒▉?lái)解決價(jià)值沖突，在嚴(yán)格規(guī)則行不通 的地方，該系統(tǒng)結(jié)合的原則可以解決復(fù)雜情況下的實(shí)際情況。88 第三種方法是使用集合理論原則來(lái)構(gòu)成倫理體系結(jié)構(gòu)， 這結(jié)合了限制行動(dòng)以符合道德原則的 AI 系統(tǒng)行為邏輯限制。需要進(jìn)行研究來(lái)解決這一挑戰(zhàn)：創(chuàng)建可靠、真實(shí)和可信賴的 AI 系統(tǒng)。在這種情況下，可能難以預(yù)測(cè)系統(tǒng)的行 為。92為了解決這些和其他問(wèn)題，需要進(jìn)行額外投資來(lái)提高人工智能的安全性和 可靠性，93 其中包括可解釋性與透明度、信任、驗(yàn)證與確認(rèn)、抵御攻擊的安全性 以及長(zhǎng)期的 AI 安全和數(shù)值調(diào)整。AI 技術(shù)如決策樹(shù)感應(yīng)提供內(nèi)在的解 釋，但通常不太準(zhǔn)確。當(dāng)前和未來(lái) AI 系統(tǒng)的重大挑戰(zhàn)仍是不穩(wěn)定的軟件生產(chǎn)技術(shù)質(zhì)量。安全 AI 系統(tǒng)可能需要新的評(píng)估 方法（確定系統(tǒng)是否發(fā)生故障，可能在預(yù)期參數(shù)以外運(yùn)行時(shí)）、診斷方法（確 定故障原因）和維修方式（調(diào)整系統(tǒng)以解決故障）。從那時(shí)起，其便已用于美 國(guó)宇航局內(nèi)的系統(tǒng)健康監(jiān)測(cè)應(yīng)用程序，包括監(jiān)測(cè)航天飛機(jī)和國(guó)際空間站（ISS）以及非美國(guó) 宇航局應(yīng)用程序。馬丁公司合作將 IMS 作為洛克希德 C130 大力士運(yùn)輸機(jī)的集成系統(tǒng) 健康監(jiān)測(cè)系統(tǒng)來(lái)進(jìn)行測(cè)