【正文】 　　在研究過(guò)程中，人們自然會(huì)發(fā)展有用的設(shè)計(jì)，無(wú)論是計(jì)算機(jī)電路，高強(qiáng)度材料，醫(yī)療設(shè)備，還是其他什么東西。在經(jīng)過(guò)公眾對(duì)安全性的評(píng)估之后，它們可以通過(guò)可編程的受控制的組裝機(jī)在密封實(shí)驗(yàn)室外制造。密封實(shí)驗(yàn)室和受控組裝機(jī)形成互補(bǔ)的一對(duì)：前面那個(gè)可以讓我們自由地創(chuàng)造，后面那個(gè)可以讓我們安全地享用發(fā)明成果。在設(shè)計(jì)和發(fā)布之間實(shí)現(xiàn)暫停的能力可以讓我們避免致命的事件發(fā)生。　　密封的組裝機(jī)實(shí)驗(yàn)室將能讓整個(gè)社會(huì)都把創(chuàng)造力用于解決納米技術(shù)的問(wèn)題，這將使我們能及時(shí)地做好準(zhǔn)備，防止某一個(gè)獨(dú)立力量濫用技術(shù)?！　　　‰[藏信息　　在另一個(gè)爭(zhēng)取時(shí)間的策略中，領(lǐng)導(dǎo)力量可以嘗試去截?cái)鄰捏w積技術(shù)到分子技術(shù)之間的過(guò)渡橋梁。這意味著摧毀第一個(gè)被發(fā)明出來(lái)的組裝機(jī)的制造記錄（或者完全封存記錄）。領(lǐng)導(dǎo)力量將能獨(dú)立地開(kāi)發(fā)組裝機(jī)而使得其他人至多只知道其中很小一部分的細(xì)節(jié)。想想我們?cè)诘谝徽轮刑岢龅穆肪€吧。我們用來(lái)制造第一個(gè)原始的組裝機(jī)的蛋白質(zhì)機(jī)器將很快就被拋棄不用。如果我們銷(xiāo)毀了蛋白質(zhì)機(jī)器的設(shè)計(jì)記錄，這將阻礙復(fù)制它們的努力，但不會(huì)阻止納米技術(shù)的進(jìn)一步發(fā)展?！　∪绻芊鈱?shí)驗(yàn)室和受限組裝機(jī)得到普遍應(yīng)用的話，人們就沒(méi)有什么科學(xué)和經(jīng)濟(jì)上的理由要重新獨(dú)立地開(kāi)發(fā)納米技術(shù)了，而打斷與體積技術(shù)之間的橋梁也將會(huì)使得獨(dú)立開(kāi)發(fā)變得更加困難。但這比拖延戰(zhàn)術(shù)也好不到哪里去。它們不能阻止獨(dú)立開(kāi)發(fā)。對(duì)權(quán)力的渴望使得人們會(huì)努力研發(fā)并最終取得成功。只有一個(gè)在極權(quán)范圍內(nèi)的詳細(xì)的全面的政策才能不確定地阻止獨(dú)立開(kāi)發(fā)。如果這個(gè)政策被任何類(lèi)似于現(xiàn)代政府的機(jī)構(gòu)執(zhí)行的話，這樣的治療就和疾病一樣危險(xiǎn)。即使到那時(shí)，人們還會(huì)永遠(yuǎn)保持警惕性嗎？　　似乎我們要學(xué)會(huì)和靠不住的復(fù)制機(jī)共存在一個(gè)世界上。某種對(duì)策可能會(huì)是躲在墻后或跑得遠(yuǎn)遠(yuǎn)的。但這些都是靠不住的方法：危險(xiǎn)的復(fù)制機(jī)會(huì)打破這堵墻或穿過(guò)距離，帶來(lái)滅頂之災(zāi)。并且，墻只能擋住小的復(fù)制機(jī)，而不能擋住大規(guī)模的，有組織的犯罪。我們需要一個(gè)更有力的，更靈活的方法?！　』钚远堋　∥覀兛梢灾圃祛?lèi)似于生物免疫系統(tǒng)中的白血球那樣的納米機(jī)器：這種裝置不僅可以與細(xì)菌和病毒戰(zhàn)斗，還可以和所有危險(xiǎn)的復(fù)制機(jī)戰(zhàn)斗?？梢园堰@種自動(dòng)防護(hù)系統(tǒng)稱(chēng)為“活性盾”，以和固定的防護(hù)墻作區(qū)別?！　『推胀ǖ墓こ滔到y(tǒng)不同的是，可靠的活性盾不是只能應(yīng)付自然的或笨拙的對(duì)手。它們必須能面對(duì)更大得多的挑戰(zhàn)——對(duì)付占優(yōu)勢(shì)的人類(lèi)力量能設(shè)計(jì)和制造的所有威脅。建造和改進(jìn)活性盾的原型就和在實(shí)驗(yàn)室規(guī)模下進(jìn)行的一場(chǎng)由紅藍(lán)雙方參加的軍備競(jìng)賽類(lèi)似，但是目的是尋找實(shí)現(xiàn)成功防御的最低需求?！　≡诘谖逭?，我描述了Lenat博士和他的EURISKO程序是如何進(jìn)化出成功的艦隊(duì)來(lái)按照海戰(zhàn)模擬游戲的規(guī)則進(jìn)行戰(zhàn)斗的。用相似的方法，使用不同尺寸的密封的組裝機(jī)實(shí)驗(yàn)室作為游戲場(chǎng)所，我們可以把開(kāi)發(fā)可靠護(hù)盾的嚴(yán)肅的努力變成游戲。我們可以任由一群工程師，計(jì)算機(jī)黑客，生物學(xué)家，愛(ài)好者，和自動(dòng)工程系統(tǒng)參加比賽，使他們的系統(tǒng)在游戲中互相競(jìng)爭(zhēng)，僅僅受限于初始條件，自然法則，和密封實(shí)驗(yàn)室的墻壁。這些競(jìng)爭(zhēng)者將在一系列微小的瓶子中進(jìn)化各種威脅和防御的方法。當(dāng)可復(fù)制組裝機(jī)給我們帶來(lái)富足的時(shí)候，人們就會(huì)有足夠的時(shí)間來(lái)玩這個(gè)重要的游戲。最終我們能在太空中的模擬地球的環(huán)境中，測(cè)試有前途的防護(hù)系統(tǒng)。成功的系統(tǒng)將能保護(hù)人類(lèi)和地球生態(tài)環(huán)境不受壞的復(fù)制機(jī)的影響?！　〕晒κ强赡艿膯幔俊　∫?yàn)槲覀儸F(xiàn)在的不確定性，我們還不能準(zhǔn)確地描述任何威脅與防護(hù)。這是否意味著我們對(duì)實(shí)現(xiàn)有效的防護(hù)還沒(méi)有信心？當(dāng)然不是，畢竟在知道什么事是可能的和知道怎么去做之間是有一些不同的。從這個(gè)角度來(lái)說(shuō)，當(dāng)今世界就有一些成功的例子。　　防御入侵的復(fù)制機(jī)其實(shí)沒(méi)什么希奇的，生命已經(jīng)防御了很長(zhǎng)時(shí)間了?？蓮?fù)制組裝機(jī)雖然非常厲害，但也和那些我們已知的物理系統(tǒng)沒(méi)什么區(qū)別。經(jīng)驗(yàn)告訴我們它們可以被控制。　　病毒是入侵細(xì)胞的分子機(jī)器，細(xì)胞使用分子機(jī)器（諸如限制酶和抗體）來(lái)防御它們。而細(xì)菌是入侵生物組織的細(xì)胞，生物組織使用細(xì)胞（諸如白血球）來(lái)防御它們。同樣地，社會(huì)使用警 察來(lái)防御犯罪和用軍隊(duì)來(lái)防御入侵。在非物質(zhì)層面上，思想用某種擬子系統(tǒng)諸如科學(xué)的方法來(lái)抵御胡說(shuō)八道，社會(huì)使用某種機(jī)構(gòu)諸如法庭來(lái)抵御其他機(jī)構(gòu)的權(quán)力。　　上個(gè)段落中提到的生物的例子顯示經(jīng)歷了幾十億年的軍備競(jìng)賽后，分子機(jī)器能夠成功地抵御分子復(fù)制機(jī)。當(dāng)然失敗也很普遍，但成功的例子顯示了防御是可能的。這些成功的例子暗示著我們的確可以使用納米機(jī)器來(lái)防御納米機(jī)器。雖然組裝機(jī)將帶來(lái)很多進(jìn)步，但它們也可能打破防御的平衡?！　∩厦娴睦印恍┻M(jìn)化的病毒，一些進(jìn)化的機(jī)構(gòu)——足以說(shuō)明成功的防御依賴(lài)于普遍法則。你可能會(huì)問(wèn)，為什么所有這些防御能成功？不妨反過(guò)來(lái)問(wèn)：為什么它們應(yīng)該失敗？每個(gè)相似的系統(tǒng)都彼此爭(zhēng)斗，攻擊者并沒(méi)有顯著的優(yōu)勢(shì)。每次沖突，都使攻擊者面對(duì)很好的防御。防御者立足于本地，具有準(zhǔn)備好的位置，詳細(xì)的局部信息，儲(chǔ)存好的資源，和豐富的盟軍——當(dāng)免疫系統(tǒng)識(shí)別出微生物后，它就能調(diào)動(dòng)整個(gè)身體的資源。所有這些優(yōu)勢(shì)是普遍的和基本的，和技術(shù)細(xì)節(jié)沒(méi)什么關(guān)系。我們可以使我們的活性盾對(duì)危險(xiǎn)的復(fù)制機(jī)具有同樣的優(yōu)勢(shì)。在危險(xiǎn)武器積聚的時(shí)候它們也不會(huì)閑著。就象免疫系統(tǒng)在細(xì)菌繁殖的時(shí)候不會(huì)閑著一樣?！　☆A(yù)測(cè)由可復(fù)制組裝機(jī)武裝起來(lái)的力量之間的軍備競(jìng)賽結(jié)果是困難的。但在這種情況出現(xiàn)之前，領(lǐng)導(dǎo)力量似乎可以獲得一個(gè)暫時(shí)但是壓倒性的軍事優(yōu)勢(shì)。如果軍備競(jìng)賽的結(jié)果是不確定的，領(lǐng)導(dǎo)力量就會(huì)使用它的力量來(lái)確保沒(méi)有對(duì)手能趕上?！　∪绻@樣的話，活性盾就不用去面對(duì)以半個(gè)大陸或半個(gè)太陽(yáng)系的資源作為支撐的進(jìn)攻的威脅了。它們就會(huì)象警 察或免疫系統(tǒng)那樣面對(duì)由秘密的資源支持的進(jìn)攻的威脅了。　　在上述每個(gè)成功的防御例子中，進(jìn)攻者和防御者同樣地進(jìn)化。免疫系統(tǒng)，由基因進(jìn)化形成，面對(duì)著同樣由基因進(jìn)化形成的威脅。軍隊(duì)，由人的思想形成，也面對(duì)同樣的威脅。類(lèi)似地，活性盾和危險(xiǎn)的復(fù)制機(jī)都由擬子進(jìn)化形成。如果領(lǐng)導(dǎo)力量能開(kāi)發(fā)出比人類(lèi)工程師快一百萬(wàn)倍的自動(dòng)工程系統(tǒng)來(lái)，并且能連續(xù)使用一年的話，他就能建造基于一百萬(wàn)年工程進(jìn)步的活性盾了。用這樣的系統(tǒng)我們就能夠探索可能的防護(hù)極限，以可靠地防御所有物理的威脅?！　〖词刮覀儾恢劳{和防護(hù)的細(xì)節(jié)，似乎也有理由相信防御是可能的。擬子控制擬子的例子以及機(jī)構(gòu)控制機(jī)構(gòu)的例子也暗示了AI系統(tǒng)可以控制AI系統(tǒng)?！　≡诮ㄔ旎钚远艿倪^(guò)程中，我們可以用復(fù)制機(jī)和AI系統(tǒng)的威力來(lái)增加防御力量的傳統(tǒng)優(yōu)勢(shì)：我們能獲得壓倒性的優(yōu)勢(shì)，基于相當(dāng)于一百萬(wàn)年技術(shù)進(jìn)化的設(shè)計(jì)，和豐富的復(fù)制機(jī)制造的硬件的力量。我們建造的有力而可靠的活性盾將使過(guò)去的系統(tǒng)自愧不如?！　〖{米技術(shù)和人工智能可以帶來(lái)終極的毀滅工具，但是它們并不是堅(jiān)不可摧的。小心使用，它們能帶給我們終極的和平的工具。