【正文】 小心使用，它們能帶給我們終極的和平的工具。我們建造的有力而可靠的活性盾將使過去的系統(tǒng)自愧不如。擬子控制擬子的例子以及機(jī)構(gòu)控制機(jī)構(gòu)的例子也暗示了AI系統(tǒng)可以控制AI系統(tǒng)。用這樣的系統(tǒng)我們就能夠探索可能的防護(hù)極限，以可靠地防御所有物理的威脅。類似地，活性盾和危險(xiǎn)的復(fù)制機(jī)都由擬子進(jìn)化形成。免疫系統(tǒng)，由基因進(jìn)化形成，面對(duì)著同樣由基因進(jìn)化形成的威脅。它們就會(huì)象警 察或免疫系統(tǒng)那樣面對(duì)由秘密的資源支持的進(jìn)攻的威脅了。如果軍備競賽的結(jié)果是不確定的，領(lǐng)導(dǎo)力量就會(huì)使用它的力量來確保沒有對(duì)手能趕上。　　預(yù)測由可復(fù)制組裝機(jī)武裝起來的力量之間的軍備競賽結(jié)果是困難的。在危險(xiǎn)武器積聚的時(shí)候它們也不會(huì)閑著。所有這些優(yōu)勢是普遍的和基本的，和技術(shù)細(xì)節(jié)沒什么關(guān)系。每次沖突，都使攻擊者面對(duì)很好的防御。　　上面的例子——一些進(jìn)化的病毒，一些進(jìn)化的機(jī)構(gòu)——足以說明成功的防御依賴于普遍法則。這些成功的例子暗示著我們的確可以使用納米機(jī)器來防御納米機(jī)器?！　∩蟼€(gè)段落中提到的生物的例子顯示經(jīng)歷了幾十億年的軍備競賽后，分子機(jī)器能夠成功地抵御分子復(fù)制機(jī)。同樣地，社會(huì)使用警 察來防御犯罪和用軍隊(duì)來防御入侵。　　病毒是入侵細(xì)胞的分子機(jī)器，細(xì)胞使用分子機(jī)器（諸如限制酶和抗體）來防御它們?？蓮?fù)制組裝機(jī)雖然非常厲害，但也和那些我們已知的物理系統(tǒng)沒什么區(qū)別。從這個(gè)角度來說，當(dāng)今世界就有一些成功的例子?！　〕晒κ强赡艿膯?？　　因?yàn)槲覀儸F(xiàn)在的不確定性，我們還不能準(zhǔn)確地描述任何威脅與防護(hù)。最終我們能在太空中的模擬地球的環(huán)境中，測試有前途的防護(hù)系統(tǒng)。這些競爭者將在一系列微小的瓶子中進(jìn)化各種威脅和防御的方法。用相似的方法，使用不同尺寸的密封的組裝機(jī)實(shí)驗(yàn)室作為游戲場所，我們可以把開發(fā)可靠護(hù)盾的嚴(yán)肅的努力變成游戲。建造和改進(jìn)活性盾的原型就和在實(shí)驗(yàn)室規(guī)模下進(jìn)行的一場由紅藍(lán)雙方參加的軍備競賽類似，但是目的是尋找實(shí)現(xiàn)成功防御的最低需求?！　『推胀ǖ墓こ滔到y(tǒng)不同的是，可靠的活性盾不是只能應(yīng)付自然的或笨拙的對(duì)手。　　活性盾　　我們可以制造類似于生物免疫系統(tǒng)中的白血球那樣的納米機(jī)器：這種裝置不僅可以與細(xì)菌和病毒戰(zhàn)斗，還可以和所有危險(xiǎn)的復(fù)制機(jī)戰(zhàn)斗。并且，墻只能擋住小的復(fù)制機(jī)，而不能擋住大規(guī)模的，有組織的犯罪。某種對(duì)策可能會(huì)是躲在墻后或跑得遠(yuǎn)遠(yuǎn)的。如果這個(gè)政策被任何類似于現(xiàn)代政府的機(jī)構(gòu)執(zhí)行的話，這樣的治療就和疾病一樣危險(xiǎn)。對(duì)權(quán)力的渴望使得人們會(huì)努力研發(fā)并最終取得成功。但這比拖延戰(zhàn)術(shù)也好不到哪里去。如果我們銷毀了蛋白質(zhì)機(jī)器的設(shè)計(jì)記錄，這將阻礙復(fù)制它們的努力，但不會(huì)阻止納米技術(shù)的進(jìn)一步發(fā)展。想想我們?cè)诘谝徽轮刑岢龅穆肪€吧。這意味著摧毀第一個(gè)被發(fā)明出來的組裝機(jī)的制造記錄（或者完全封存記錄）?！　∶芊獾慕M裝機(jī)實(shí)驗(yàn)室將能讓整個(gè)社會(huì)都把創(chuàng)造力用于解決納米技術(shù)的問題，這將使我們能及時(shí)地做好準(zhǔn)備，防止某一個(gè)獨(dú)立力量濫用技術(shù)。密封實(shí)驗(yàn)室和受控組裝機(jī)形成互補(bǔ)的一對(duì)：前面那個(gè)可以讓我們自由地創(chuàng)造，后面那個(gè)可以讓我們安全地享用發(fā)明成果?！　≡谘芯窟^程中，人們自然會(huì)發(fā)展有用的設(shè)計(jì)，無論是計(jì)算機(jī)電路，高強(qiáng)度材料，醫(yī)療設(shè)備，還是其他什么東西?；瘜W(xué)家，材料科學(xué)家，和生物學(xué)家可以建造儀器和進(jìn)行實(shí)驗(yàn)。愛好者們可以互相交換建造各種小玩藝的程序。在這些密封實(shí)驗(yàn)室中可以建造以及測試裝置，即使是貪婪的復(fù)制機(jī)，也十分安全。這些保護(hù)機(jī)械保護(hù)著只有它們百萬分之一大小的東西，球型的實(shí)驗(yàn)室空間直徑還達(dá)不到人的頭發(fā)絲的直徑。每個(gè)傳感器層由很多冗余的傳感器層組成，每個(gè)都能探測出滲透和泄漏，覆蓋了所有的表面空間。外部的人不能完整地打開實(shí)驗(yàn)室而不摧毀里面的東西，里面的組裝機(jī)和組裝機(jī)建造的東西也不能跑出來?！　∵@個(gè)炸藥層包圍著一個(gè)更小的復(fù)合層，包圍著另一層傳感器，也可以觸發(fā)爆炸，最里面這層傳感器包圍著實(shí)際的密封組裝機(jī)實(shí)驗(yàn)室。它的下面包著一層絕熱層，再里面是一層由微小的金屬和氧化劑塊排列組成的球殼，其上點(diǎn)綴著微小的電點(diǎn)火器，最外面的傳感器層，如果被刺破，就觸發(fā)這些電點(diǎn)火器，金屬氧化劑炸藥就會(huì)馬上爆炸，生成一團(tuán)金屬氧化物氣體，氣體的密度比水還大，溫度和太陽表面溫度差不多。最外面的層由許多微小的傳感器組成，任何移動(dòng)或刺破的企圖都會(huì)觸發(fā)一個(gè)信號(hào)送到接近中心的層。然后它可以檢測實(shí)際結(jié)果與程序計(jì)算結(jié)果是否相吻合。程序可以使組裝機(jī)臂移動(dòng)得很快，在屏幕上建造精細(xì)的肉眼不可見的結(jié)構(gòu)?，F(xiàn)在組裝機(jī)實(shí)驗(yàn)室連接好并開啟，你的由組裝機(jī)制造的家用計(jì)算機(jī)就會(huì)顯示出組裝機(jī)實(shí)驗(yàn)室里的納米計(jì)算機(jī)模擬出的三維圖像，各種原子顯示成五顏六色的球。它的表面看起來象天然的灰色塑膠，印有一個(gè)序列號(hào)，而這個(gè)密封的組裝機(jī)實(shí)驗(yàn)室本身也是由組裝機(jī)制造的，里面很復(fù)雜。這些需要可以通過密封的組裝機(jī)實(shí)驗(yàn)室來實(shí)現(xiàn)。但是受限的組裝機(jī)將會(huì)使某些合理的需要也無法滿足。受控的組裝機(jī)可以為世界上的人們帶來幾乎是無限的財(cái)富。如果我們編制程序來制造房子，汽車，計(jì)算機(jī)，牙刷，等等，那么這些產(chǎn)品會(huì)變得便宜和豐富?！　∈褂眠@種受限的組裝機(jī)，人們將能制造他們想要的數(shù)量范圍內(nèi)的東西，服從于機(jī)器內(nèi)建的限制。它們將按照程序來動(dòng)作，一切行動(dòng)聽指揮。我也指出我們將能制造象生物種子那樣的組裝機(jī)系統(tǒng)，吸收陽光和普通原料，生長成任何東西。畢竟領(lǐng)導(dǎo)力量后面肯定會(huì)有跟隨的力量。作為一種策略，我們可以通過提供安全形式的組裝機(jī)來減少偷竊的動(dòng)機(jī)?！　?duì)領(lǐng)導(dǎo)力量來說，使可復(fù)制組裝機(jī)有用、無害、穩(wěn)定是容易做到的。它們進(jìn)化出了進(jìn)化的能力，這是有性生殖的復(fù)雜性的一個(gè)原因，在精子和卵子結(jié)合的過程中染色體片斷重新洗了一遍牌。除非它們被特別設(shè)計(jì)，由納米計(jì)算機(jī)指導(dǎo)的復(fù)制機(jī)也享有這種障礙?！　?shí)驗(yàn)顯示大部分計(jì)算機(jī)程序（不同于特殊設(shè)計(jì)的AI程序，例如Lenat博士的EURISKO）很少響應(yīng)變異，而僅僅是崩潰。我們可以設(shè)計(jì)讓它們不能長時(shí)間的工作，使得一個(gè)持續(xù)的變異不致產(chǎn)生可觀的積累導(dǎo)致破壞。　　更進(jìn)一步，它們也不需要進(jìn)化。雖然復(fù)制機(jī)可以比現(xiàn)代的任何有害物都更堅(jiān)韌和更貪婪，我們還是能使它們有用而無害?！　「玫那闆r是，我們將能設(shè)計(jì)不能逃跑和失控的復(fù)制機(jī)，我們可以制造帶有計(jì)數(shù)器的復(fù)制機(jī)（象細(xì)胞一樣）來把復(fù)制品控制在一個(gè)固定的數(shù)量內(nèi)。簡單的復(fù)制機(jī)沒有智能，它們不會(huì)逃逸或失控。我們將需要能牽制納米技術(shù)的策略，當(dāng)我們還在學(xué)著馴服它的時(shí)候。提前設(shè)計(jì)可以幫助領(lǐng)導(dǎo)力量作準(zhǔn)備，但是即使是有活力的，有先見之明的行動(dòng)也似乎不能阻止危險(xiǎn)的到來?！　∥覀儜?yīng)該做什么才能增加我們進(jìn)入美好未來的機(jī)會(huì)呢？我們能夠做什么呢？　　我們可以從防止可能發(fā)生的事著手：我們不能讓一種錯(cuò)誤形式的可復(fù)制組裝機(jī)落到一個(gè)未做好準(zhǔn)備的世界上去。為了簡化問題，假設(shè)我們（好人們，試圖成為明智的人）可以為領(lǐng)導(dǎo)力量制定政策。　　　　實(shí)現(xiàn)組裝機(jī)突破的策略