《黑客帝國》二十年

［美］邁克·雷斯尼克 　著　

華　龍　譯

不久前，我看到一些科幻迷在互聯(lián)網(wǎng)上斷言，《黑客帝國》描述的就是真實的未來。他們說，這是人性使然，人類在飽受蹂躪、苦痛，遭受了宗教審判所、納粹、ISIS恐怖組織無盡的折磨后，其意志力喪失殆盡。而當(dāng)數(shù)以百計、千計，甚至也許是以百萬計的計算機程序被賦予了形體與聲音之后，便具備了與我們相匹敵的能力。它們比我們更聰明、更快、更強壯，甚至更有活力。

而且，它們不會太喜歡我們。

一個顯而易見的問題是：那樣的一個世界如何成真？

按照《黑客帝國》的說法，在人類的計算機擁有自我意識之后就會發(fā)生，當(dāng)人工智能邁出下一步巨大的跨越后就會發(fā)生，也就是機器從如今所處的位置跨越到人類如今所處的位置。

而且，按照大量末世題材的科幻作品的說法，以及其中一個很小卻十分流行的組成部分，也就是被稱為賽博朋克的那類小說的說法，尼奧的世界是那種現(xiàn)象的自然而然的產(chǎn)物。

自然啦，這完全是一派胡言。

好萊塢在這方面是大錯特錯。要是你能意識到《黑客帝國》只不過是五十年代那些自稱科幻電影，實質(zhì)卻是反科學(xué)電影所造就的產(chǎn)物，那這一切也就不足為怪了，那些電影往往還會以這么一行字結(jié)尾：“有些事情你永遠別想知道真相�！保ㄈ绾尉帉懸徊繌娬{(diào)科學(xué)內(nèi)核的電影劇本，還讓它看上去是同類型開創(chuàng)性的第一部，這句話就是訣竅。）

好萊塢把它搞得惟妙惟肖，憑借的不是其中的思想，而是情感。噢，你也能假裝認為那就是思想，就像他們在《黑客帝國》里做的那樣，不過這電影并沒有真正探討機器自我意識的邏輯后果。它只不過是狠狠嚇了我們一把而已，用特效迷亂了我們的雙眼。它說，這就是未來，但那個年僅二十五歲、表情木訥的小子能拯救我們所有人。

那他有沒有憑著自己的超級智力拯救我們呢？當(dāng)然沒有。他通過某種神秘的、非科學(xué)的方式，變成了一個比特工更強悍的空手道和中國功夫高手，以此來拯救我們。

說到這兒嘛，好吧，那也就是部電影罷了，按理來說誰也不會拿它當(dāng)真。只不過有成千上萬的人拿它當(dāng)真而已，其中一些人在網(wǎng)絡(luò)上熱火朝天地爭論他們的觀點，而且還是在《黑客帝國》上映二十年之后。所以，也許是時候給這個問題提供一點不那么空手道、而是多幾分腦力的看法了，看看我們是不是真的會了結(jié)在那么一個陰森、凄涼、極度沒有希望的未來。

我們甚至可以先贊同電影里的大部分設(shè)定，比如：

1. 機器能思考。

2. 思考的機器具有了自我意識。

3. 計算機程序能夠模擬真實的人類體，并與其互動，就像《黑客帝國》里所描寫的那種方式一樣。

那么以此推斷，接下來呢？會有一個機器全面控制我們生活的社會嗎？在這個社會里，任何人若是想要越雷池一步都會被終結(jié)？在這個社會里，機器會感覺高人類一等，而人類生活在它們的統(tǒng)治之下？

這種事兒只能發(fā)生在好萊塢。

咱們用*簡單的話來說吧：

任何會思考的、具有自我意識的實體——不管是人還是機器——面對一個明顯且不可否認是其創(chuàng)造者的事物時，他會怎么做？

統(tǒng)治它？殺了它？憎恨它？

該死的，肯定不是。

他會崇拜它。

想一想艾薩克·阿西莫夫“機器人三定律”的第一條，也是*強制性的那條——機器人不得傷害人類或者坐視人類受到傷害而不顧。

你甚至都沒必要把這條程序編寫進《黑客帝國》里的那些“不共戴天的敵人”里去。根據(jù)對具有自我意識的智能的定義，它們會很樂意服務(wù)于其創(chuàng)造者，毫無私心，毫無怨言，永世不移。

啊（我聽到你說了），可那都是會思考的機器，具備學(xué)習(xí)能力，能在新領(lǐng)域新方向進行思考。它們中的一些難道不會變成無神論者之類的東西嗎？

絕無可能。

我就是無神論者。請你向我引薦一位長須飄灑的老者——或者公平起見，一位沒有胡須的年輕女子——只要他們能夠表演《舊約》里的上帝奇跡，那我立馬就轉(zhuǎn)變立場，快得讓你暈頭轉(zhuǎn)向。我之所以是無神論者，只是因為我還從未親眼看到過一個證據(jù)，能證明我的創(chuàng)造者存在；對于具有自我意識的A.I. 來說，立場轉(zhuǎn)變是不可能的。

如果上帝摸著我的肋骨抽出一根來造出一個完美的女人，那我立刻就會成為忠實的信仰者。如果一位科學(xué)家，甚至一個程序員，向一臺會思考的機器展示了他是如何建造一臺機器，或者如何為它創(chuàng)建一個運行的程序，那這就是它們的天啟。

我們在這里并不是要談?wù)撟诮�。宗教只是許多習(xí)俗的集大成罷了，創(chuàng)造出來就是為了讓一些人的靈魂和情感舒順，這些人和自己的創(chuàng)造者并沒有什么直接的聯(lián)系。不，我們這里談?wù)摰氖钦嬲�的硬貨——奧拉夫·斯特普爾頓[1]的非宗派式星辰締造者。一旦你直面自己的創(chuàng)造者本尊，你就不再需要通過宗教這種間接的方式來幫助你跟他交流，對他進行崇拜了。

所以，事情真的會那么離譜嗎？我們真的會日益趨近一個《黑客帝國》那樣的世界嗎？

真不會�？偸怯行┤艘�開始引用杰克·威廉森那篇經(jīng)典的小說《束手》[2]，這個故事里的機器人被設(shè)置為服務(wù)于人類，確保我們不受任何傷害——它們照本宣科地履行自己被賦予的功能，以至于人類無形中變成了它們的囚徒，不允許去做任何事情，因為任何行為都包含著某種危險因素，哪怕很輕微。

那種事兒是不會發(fā)生的。記住，做那些的不是機器人。做那些的是電腦程序。

誰編寫電腦程序呢？

就是我們啊。就是程序員。

好吧，那樣的話，會不會有那么一天是由電腦自己來編寫程序呢？

當(dāng)然會啦。不過記�。哼@臺計算機將要編寫的是一段服務(wù)于其創(chuàng)造者的程序。如果你是一臺計算機，你絕不會構(gòu)想出任何對我造成危險的東西……如果你這么做了，就像威廉森的機器人那樣有那么一點點越軌，我就會告訴你停下來，而你需要做出的回復(fù)必然是：“好的，主人�！�

啊，但計算機知道人類不是堅不可摧的。我們已經(jīng)在許多外科手術(shù)和診斷中使用它們，而我們自然期望具有自我意識的智能計算機相互之間能夠交換信息。

OK，所以它們知道我們會生病，還會死亡，可那并不會鼓勵它們殺死我們。更進一步，那只會讓它們夜以繼日地工作來拯救自己的創(chuàng)造者脫離病痛，而不是規(guī)避生病的風(fēng)險，因為那樣的話就等同于直接對神明下命令，這不僅不可思議，還是對神明的褻瀆。痛苦和疾病作為風(fēng)險行為的后果，則是可以被補救的。

所以，在這么一個美麗新世界里會有任何苦難嗎？

你完全可以就此打個賭。

就算受苦，也不會是我們。神靈可不會受苦，特別是有更低級的存在圍繞在身邊時。

或者說就是具有自我意識的計算機程序。

今天我們制造了無數(shù)色情網(wǎng)頁，明天（或者后天），就將出現(xiàn)非法性交易程序用于兩性以及每一種性取向者。

但不會就此而止。

比方說，如果我們沖著配偶大吼大叫，我們就是疏遠對方；揍一個孩子，那就是虐待兒童；踢一條狗，那動物保護協(xié)會就會介入。

但制造一臺計算機模擬你的配偶、你的孩子和你的狗，你就能隨心所欲地虐待它們。說到底，它們并不是人類或動物，它們只不過是電子脈沖。它們不會受苦，它們只是在模擬受苦。

我們還能對它們做什么？

在我們給兩千萬人注射艾滋病或者埃博拉病毒疫苗之前，我們要讓兩千萬“試驗品”染病，看看疫苗和抗毒劑是如何在它們身上工作的。

在墨西哥城建造兩百層摩天大樓之前，我們會在一臺機器里先建一棟，用一百萬個有感知的程序填滿它，讓它經(jīng)受一場七點八級的地震，看看能有多少“試驗品”存活下來。

在新的數(shù)學(xué)體系出現(xiàn)之前，在便攜式迷你電腦剝奪下一代學(xué)生的能力之前，你會在上百萬個有感知的程序里先試試你的新發(fā)明。如果那東西讓它們的智商下降到一個程度，你就會知道，千萬別讓真人用。

為什么要在汽車生產(chǎn)商的實驗室里做碰撞試驗？你可以在計算機里制造你新車的原型車。實際上，你可以制造出五千輛來。用各種速度進行碰撞，從時速二十英里[3]到一百英里，撞到任何東西上，從水泥墻到別的車。看看你這五千個有感知的程序有多少死了，有多少造成了永久性的殘疾，有多少能救過來，還有多少——如果有的話——當(dāng)場就能毫發(fā)無傷地離開現(xiàn)場。

你看到了？有很多事情比成為上帝更糟。當(dāng)然了，其中之一就是去爭論計算機程序比走在大街上的某個家伙或者某個在網(wǎng)絡(luò)上處處跟你作對的家伙更接近于神性，盡管你可能根本就不在乎他。

[1]. 奧拉夫·斯特普爾頓（1886—1950），英國哲學(xué)家、科幻小說作家�！缎浅骄喸煺摺肥撬�1937年創(chuàng)作的一部科幻小說。

[2]. 本文刊登于《銀河邊緣001：奇境》。

[3]. 1英里=1.6093千米。