《黑客帝國》二十年

［美］邁克·雷斯尼克 　著　

華　龍　譯

不久前，我看到一些科幻迷在互聯(lián)網(wǎng)上斷言，《黑客帝國》描述的就是真實的未來。他們說，這是人性使然，人類在飽受蹂躪、苦痛，遭受了宗教審判所、納粹、ISIS恐怖組織無盡的折磨后，其意志力喪失殆盡。而當(dāng)數(shù)以百計、千計，甚至也許是以百萬計的計算機(jī)程序被賦予了形體與聲音之后，便具備了與我們相匹敵的能力。它們比我們更聰明、更快、更強(qiáng)壯，甚至更有活力。

而且，它們不會太喜歡我們。

一個顯而易見的問題是：那樣的一個世界如何成真？

按照《黑客帝國》的說法，在人類的計算機(jī)擁有自我意識之后就會發(fā)生，當(dāng)人工智能邁出下一步巨大的跨越后就會發(fā)生，也就是機(jī)器從如今所處的位置跨越到人類如今所處的位置。

而且，按照大量末世題材的科幻作品的說法，以及其中一個很小卻十分流行的組成部分，也就是被稱為賽博朋克的那類小說的說法，尼奧的世界是那種現(xiàn)象的自然而然的產(chǎn)物。

自然啦，這完全是一派胡言。

好萊塢在這方面是大錯特錯。要是你能意識到《黑客帝國》只不過是五十年代那些自稱科幻電影，實質(zhì)卻是反科學(xué)電影所造就的產(chǎn)物，那這一切也就不足為怪了，那些電影往往還會以這么一行字結(jié)尾：“有些事情你永遠(yuǎn)別想知道真相。”（如何編寫一部強(qiáng)調(diào)科學(xué)內(nèi)核的電影劇本，還讓它看上去是同類型開創(chuàng)性的第一部，這句話就是訣竅。）

好萊塢把它搞得惟妙惟肖，憑借的不是其中的思想，而是情感。噢，你也能假裝認(rèn)為那就是思想，就像他們在《黑客帝國》里做的那樣，不過這電影并沒有真正探討機(jī)器自我意識的邏輯后果。它只不過是狠狠嚇了我們一把而已，用特效迷亂了我們的雙眼。它說，這就是未來，但那個年僅二十五歲、表情木訥的小子能拯救我們所有人。

那他有沒有憑著自己的超級智力拯救我們呢？當(dāng)然沒有。他通過某種神秘的、非科學(xué)的方式，變成了一個比特工更強(qiáng)悍的空手道和中國功夫高手，以此來拯救我們。

說到這兒嘛，好吧，那也就是部電影罷了，按理來說誰也不會拿它當(dāng)真。只不過有成千上萬的人拿它當(dāng)真而已，其中一些人在網(wǎng)絡(luò)上熱火朝天地爭論他們的觀點，而且還是在《黑客帝國》上映二十年之后。所以，也許是時候給這個問題提供一點不那么空手道、而是多幾分腦力的看法了，看看我們是不是真的會了結(jié)在那么一個陰森、凄涼、極度沒有希望的未來。

我們甚至可以先贊同電影里的大部分設(shè)定，比如：

1. 機(jī)器能思考。

2. 思考的機(jī)器具有了自我意識。

3. 計算機(jī)程序能夠模擬真實的人類體，并與其互動，就像《黑客帝國》里所描寫的那種方式一樣。

那么以此推斷，接下來呢？會有一個機(jī)器全面控制我們生活的社會嗎？在這個社會里，任何人若是想要越雷池一步都會被終結(jié)？在這個社會里，機(jī)器會感覺高人類一等，而人類生活在它們的統(tǒng)治之下？

這種事兒只能發(fā)生在好萊塢。

咱們用*簡單的話來說吧：

任何會思考的、具有自我意識的實體——不管是人還是機(jī)器——面對一個明顯且不可否認(rèn)是其創(chuàng)造者的事物時，他會怎么做？

統(tǒng)治它？殺了它？憎恨它？

該死的，肯定不是。

他會崇拜它。

想一想艾薩克·阿西莫夫“機(jī)器人三定律”的第一條，也是*強(qiáng)制性的那條——機(jī)器人不得傷害人類或者坐視人類受到傷害而不顧。

你甚至都沒必要把這條程序編寫進(jìn)《黑客帝國》里的那些“不共戴天的敵人”里去。根據(jù)對具有自我意識的智能的定義，它們會很樂意服務(wù)于其創(chuàng)造者，毫無私心，毫無怨言，永世不移。

啊（我聽到你說了），可那都是會思考的機(jī)器，具備學(xué)習(xí)能力，能在新領(lǐng)域新方向進(jìn)行思考。它們中的一些難道不會變成無神論者之類的東西嗎？

絕無可能。

我就是無神論者。請你向我引薦一位長須飄灑的老者——或者公平起見，一位沒有胡須的年輕女子——只要他們能夠表演《舊約》里的上帝奇跡，那我立馬就轉(zhuǎn)變立場，快得讓你暈頭轉(zhuǎn)向。我之所以是無神論者，只是因為我還從未親眼看到過一個證據(jù)，能證明我的創(chuàng)造者存在；對于具有自我意識的A.I. 來說，立場轉(zhuǎn)變是不可能的。

如果上帝摸著我的肋骨抽出一根來造出一個完美的女人，那我立刻就會成為忠實的信仰者。如果一位科學(xué)家，甚至一個程序員，向一臺會思考的機(jī)器展示了他是如何建造一臺機(jī)器，或者如何為它創(chuàng)建一個運行的程序，那這就是它們的天啟。

我們在這里并不是要談?wù)撟诮�。宗教只是許多習(xí)俗的集大成罷了，創(chuàng)造出來就是為了讓一些人的靈魂和情感舒順，這些人和自己的創(chuàng)造者并沒有什么直接的聯(lián)系。不，我們這里談?wù)摰氖钦嬲�的硬貨——奧拉夫·斯特普爾頓[1]的非宗派式星辰締造者。一旦你直面自己的創(chuàng)造者本尊，你就不再需要通過宗教這種間接的方式來幫助你跟他交流，對他進(jìn)行崇拜了。

所以，事情真的會那么離譜嗎？我們真的會日益趨近一個《黑客帝國》那樣的世界嗎？

真不會�？偸怯行┤艘�開始引用杰克·威廉森那篇經(jīng)典的小說《束手》[2]，這個故事里的機(jī)器人被設(shè)置為服務(wù)于人類，確保我們不受任何傷害——它們照本宣科地履行自己被賦予的功能，以至于人類無形中變成了它們的囚徒，不允許去做任何事情，因為任何行為都包含著某種危險因素，哪怕很輕微。

那種事兒是不會發(fā)生的。記住，做那些的不是機(jī)器人。做那些的是電腦程序。

誰編寫電腦程序呢？

就是我們啊。就是程序員。

好吧，那樣的話，會不會有那么一天是由電腦自己來編寫程序呢？

當(dāng)然會啦。不過記�。哼@臺計算機(jī)將要編寫的是一段服務(wù)于其創(chuàng)造者的程序。如果你是一臺計算機(jī)，你絕不會構(gòu)想出任何對我造成危險的東西……如果你這么做了，就像威廉森的機(jī)器人那樣有那么一點點越軌，我就會告訴你停下來，而你需要做出的回復(fù)必然是：“好的，主人。”

啊，但計算機(jī)知道人類不是堅不可摧的。我們已經(jīng)在許多外科手術(shù)和診斷中使用它們，而我們自然期望具有自我意識的智能計算機(jī)相互之間能夠交換信息。

OK，所以它們知道我們會生病，還會死亡，可那并不會鼓勵它們殺死我們。更進(jìn)一步，那只會讓它們夜以繼日地工作來拯救自己的創(chuàng)造者脫離病痛，而不是規(guī)避生病的風(fēng)險，因為那樣的話就等同于直接對神明下命令，這不僅不可思議，還是對神明的褻瀆。痛苦和疾病作為風(fēng)險行為的后果，則是可以被補(bǔ)救的。

所以，在這么一個美麗新世界里會有任何苦難嗎？

你完全可以就此打個賭。

就算受苦，也不會是我們。神靈可不會受苦，特別是有更低級的存在圍繞在身邊時。

或者說就是具有自我意識的計算機(jī)程序。

今天我們制造了無數(shù)色情網(wǎng)頁，明天（或者后天），就將出現(xiàn)非法性交易程序用于兩性以及每一種性取向者。

但不會就此而止。

比方說，如果我們沖著配偶大吼大叫，我們就是疏遠(yuǎn)對方；揍一個孩子，那就是虐待兒童；踢一條狗，那動物保護(hù)協(xié)會就會介入。

但制造一臺計算機(jī)模擬你的配偶、你的孩子和你的狗，你就能隨心所欲地虐待它們。說到底，它們并不是人類或動物，它們只不過是電子脈沖。它們不會受苦，它們只是在模擬受苦。

我們還能對它們做什么？

在我們給兩千萬人注射艾滋病或者埃博拉病毒疫苗之前，我們要讓兩千萬“試驗品”染病，看看疫苗和抗毒劑是如何在它們身上工作的。

在墨西哥城建造兩百層摩天大樓之前，我們會在一臺機(jī)器里先建一棟，用一百萬個有感知的程序填滿它，讓它經(jīng)受一場七點八級的地震，看看能有多少“試驗品”存活下來。

在新的數(shù)學(xué)體系出現(xiàn)之前，在便攜式迷你電腦剝奪下一代學(xué)生的能力之前，你會在上百萬個有感知的程序里先試試你的新發(fā)明。如果那東西讓它們的智商下降到一個程度，你就會知道，千萬別讓真人用。

為什么要在汽車生產(chǎn)商的實驗室里做碰撞試驗？你可以在計算機(jī)里制造你新車的原型車。實際上，你可以制造出五千輛來。用各種速度進(jìn)行碰撞，從時速二十英里[3]到一百英里，撞到任何東西上，從水泥墻到別的車。看看你這五千個有感知的程序有多少死了，有多少造成了永久性的殘疾，有多少能救過來，還有多少——如果有的話——當(dāng)場就能毫發(fā)無傷地離開現(xiàn)場。

你看到了？有很多事情比成為上帝更糟。當(dāng)然了，其中之一就是去爭論計算機(jī)程序比走在大街上的某個家伙或者某個在網(wǎng)絡(luò)上處處跟你作對的家伙更接近于神性，盡管你可能根本就不在乎他。

[1]. 奧拉夫·斯特普爾頓（1886—1950），英國哲學(xué)家、科幻小說作家�！缎浅骄喸煺摺肥撬�1937年創(chuàng)作的一部科幻小說。

[2]. 本文刊登于《銀河邊緣001：奇境》。

[3]. 1英里=1.6093千米。