本書是一個(gè)警示。我想通過本書向世界宣告：奇點(diǎn)來(lái)了！奇點(diǎn)（1955 年，約翰·馮·諾依曼首次提出）代表一個(gè)時(shí)間點(diǎn)，智能機(jī)器大大超越人類智慧。如果類比的話，這就是第三次世界大戰(zhàn)的開端。奇點(diǎn)將會(huì)激發(fā)一場(chǎng)智能大爆炸 , 其殺傷力遠(yuǎn)強(qiáng)于核武器。本書傳遞的信息很簡(jiǎn)單，但是相當(dāng)重要。如果我們不控制奇點(diǎn)，它就可能控制我們。我們最好的人工智能研究者和未來(lái)學(xué)家都不能精確預(yù)測(cè)后奇點(diǎn)時(shí)代是怎樣的，但是他們幾乎每一個(gè)人都同意這將是人類進(jìn)化史上獨(dú)特的時(shí)間點(diǎn)。這也可能是人類進(jìn)化史上最好的一步或者最后的一步。作為一位物理學(xué)家和未來(lái)學(xué)家，我相信如果我們能控制奇點(diǎn)，人類將會(huì)得到更好的服務(wù)，這就是我寫這本書的原因。

然而，人工智能悄無(wú)聲息地出現(xiàn)了。智能一詞正在被用來(lái)描述機(jī)器，你們注意到了嗎？智能常常就是指人工智能�；�本上沒有產(chǎn)品貼有人工智能的標(biāo)簽，它們只是簡(jiǎn)單地被叫作智能機(jī)。舉例而言，你有一部智能手機(jī)，它不但能接聽電話，還會(huì)自動(dòng)為你生成日程安排，提醒你赴約的時(shí)間，并且提供實(shí)時(shí)導(dǎo)航以便到達(dá)赴約地點(diǎn)。如果你提前到了，這個(gè)手機(jī)會(huì)幫助你打發(fā)等候的時(shí)間。它也會(huì)跟你一起玩游戲，比如下棋，根據(jù)選擇的難易程度，你或輸或贏。2011 年蘋果公司在當(dāng)時(shí)最新的手機(jī)和平板電腦上引進(jìn)一個(gè)聲控的個(gè)人助手Siri。你可以問 Siri 各種問題，向它下達(dá)指令，它也會(huì)給你答復(fù)。智能手機(jī)似乎可以提高我們的做事效率，也能更好地幫助我們打發(fā)休閑時(shí)間�，F(xiàn)在它們給我們提供服務(wù)，但是未來(lái)也許不僅如此。

智能手機(jī)是一種智能機(jī)器，人工智能是其核心。人工智能是新科學(xué)前沿，但它慢慢地進(jìn)入了我們的生活。我們正在被各種不同程度的人工智能機(jī)器包圍，比如烤面包機(jī)、咖啡機(jī)、微波爐，還有新型的汽車。如果你打電話去一個(gè)大藥店開處方藥，你可能沒有機(jī)會(huì)跟人交談，整個(gè)流程都是在有人工智能和合成語(yǔ)音功能的計(jì)算機(jī)的幫助下進(jìn)行的。

智能一詞已經(jīng)出現(xiàn)在軍事用語(yǔ)中，比如，智能炸彈，就是一種諸如聯(lián)合制導(dǎo)攻擊武器和聯(lián)合戰(zhàn)區(qū)外武器的衛(wèi)星制導(dǎo)武器。美軍一直保持計(jì)算機(jī)研究與其軍事應(yīng)用的緊密共生關(guān)系。事實(shí)上，美國(guó)空軍早在 1960 年，就開始重金投入人工智能領(lǐng)域的研究。如今，空軍正在與私營(yíng)企業(yè)合作開發(fā)人工智能系統(tǒng)，從而提升信息管理和導(dǎo)向器決策水平。2012 年年底，學(xué)術(shù)網(wǎng)站（www.phys.org）報(bào)道了卡耐基梅隆大學(xué)的研究人員在人工智能領(lǐng)域取得的突破。這些由美軍研究實(shí)驗(yàn)室資助的研究人員，開發(fā)了人工智能監(jiān)視程序。這個(gè)程序通過使用實(shí)時(shí)的監(jiān)視源，可以預(yù)測(cè)一個(gè)人將來(lái)可能的行為。美國(guó)哥倫比亞廣播公司電視系列劇《疑犯追蹤》就是以此為故事線。

人工智能改變了文化景觀。然而，這種變化是漸進(jìn)的，我們幾乎沒有注意到它帶來(lái)的影響。一些專家，如美國(guó)作家、發(fā)明家、未來(lái)主義學(xué)家以及谷歌工程總監(jiān)雷·庫(kù)茲韋爾（Ray Kurzweil）預(yù)測(cè)，在大約 15 年之后，普通的臺(tái)式電腦將有自己的意識(shí)，且與人的智力水平相當(dāng)，甚至?xí)�有一種獨(dú)特的個(gè)性。這就是自我意識(shí)。不僅是像詢問天氣等簡(jiǎn)單問題，你可能會(huì)將最深切的疑慮透露給你的計(jì)算機(jī)并征求它的建議。它將從私人助理變成私人朋友。你很可能會(huì)給它取一個(gè)名字，就像我們給寵物起名一樣。你可以編程設(shè)定它的個(gè)性，讓它擁有與你相似的興趣。它的面部識(shí)別軟件能夠識(shí)別并喊出你的名字，類似于亞瑟·C.克拉克（Arthur C. Clarke）的作品《2001：太空漫游》（2001: A Space Odyssey）里的電腦 HAL 9000。你和這個(gè)私人朋友之間的對(duì)話完全正常。隔壁房間里不熟悉你聲音的人將無(wú)法分辨哪個(gè)聲音是電腦的，哪個(gè)聲音是你的。

庫(kù)茲韋爾預(yù)測(cè)，大約在 21 世紀(jì)中葉，計(jì)算機(jī)的智能將超過人類，一臺(tái) 1000 美元的電腦將與地球上所有人腦的處理能力相近。盡管從歷史上看，對(duì)人工智能進(jìn)步的預(yù)測(cè)往往過于樂觀，但所有跡象表明庫(kù)茲韋爾預(yù)測(cè)得剛好。

有人工智能的計(jì)算機(jī)等同或超越人類意識(shí)后（即強(qiáng)人工智能）將帶來(lái)許多哲學(xué)和法律問題。在強(qiáng)人工智能出現(xiàn)后，

我們會(huì)問自己以下幾個(gè)問題：

1. 強(qiáng)人工智能機(jī)器（SAMs）是一種新的生命形式嗎？

2. 強(qiáng)人工智能機(jī)器應(yīng)該擁有權(quán)利嗎？

3. 強(qiáng)人工智能機(jī)器是否對(duì)人類構(gòu)成威脅？

很有可能在 21 世紀(jì)的后半期，強(qiáng)人工智能機(jī)器會(huì)設(shè)計(jì)新的甚至更強(qiáng)大的強(qiáng)人工智能機(jī)器，并且人工智能的能力遠(yuǎn)遠(yuǎn)超出我們的理解范圍。這些機(jī)器能夠執(zhí)行各種各樣的任務(wù)，并取代勞動(dòng)力大軍中各個(gè)級(jí)別的許多工作人員，從銀行出納員到神經(jīng)外科醫(yī)生。使用人工智能的新醫(yī)療設(shè)備能幫助盲人重見光明，幫助殘障者正常行走。截肢者將有新的假肢，人工智能直接接入他們的神經(jīng)系統(tǒng)并由他們的頭腦控制。新的假肢不僅能夠復(fù)原失去的肢體，而且還更強(qiáng)大、更靈活，超越我們的想象。我們將計(jì)算機(jī)設(shè)備植入到我們的大腦，用人工智能擴(kuò)展人類智能。人類和智能機(jī)器將開始融合成一種新物種：電子人。這些會(huì)逐步發(fā)生，我們相信人工智能會(huì)為我們服務(wù)。

然而，21 世紀(jì)后期具有強(qiáng)人工智能的計(jì)算機(jī)可能會(huì)有不同的看法。我們今天可能會(huì)看待這些機(jī)器與蜂巢中的蜜蜂相同。眾所周知，我們需要蜜蜂給農(nóng)作物授粉，但我們?nèi)匀徽J(rèn)為蜜蜂是昆蟲。我們?cè)谵r(nóng)業(yè)中使用它們，我們收集它們的蜂蜜。盡管蜜蜂對(duì)我們的生存至關(guān)重要，但我們并不愿意與它們分享我們的技術(shù)。如果野蜜蜂在我們家附近搭建一個(gè)蜂巢，我們可能會(huì)很擔(dān)心并找人消滅它們。

21 世紀(jì)后期的強(qiáng)人工智能機(jī)器會(huì)關(guān)注人類嗎？歷史證明我們不是一個(gè)愛好和平的物種。我們有能夠摧毀所有文明的武器。我們揮霍并浪費(fèi)資源。我們污染空氣、河流、湖泊和海洋。我們經(jīng)常濫用技術(shù)（如核武器和計(jì)算機(jī)病毒），而沒有充分考慮其長(zhǎng)期后果。21 世紀(jì)后期的強(qiáng)人工智能機(jī)器是決定消滅人類還是說(shuō)服人類成為電子人（即有增強(qiáng)的人工智能大腦植入物的人類，并有人工智能機(jī)器取代的器官和肢體）？人類會(huì)接受成為電子人嗎？成為電子人意味著獲得超人智力和能力的機(jī)會(huì)。疾病和戰(zhàn)爭(zhēng)可能只是存儲(chǔ)在我們記憶庫(kù)中的事件，不再對(duì)電子人構(gòu)成威脅。成為電子人，我們可能會(huì)實(shí)現(xiàn)永生。

大衛(wèi)·霍 斯 金 斯（David Hoskins）在 2009 年的文章《技術(shù)對(duì)健康大數(shù)據(jù)的影響》中提到：對(duì)疾病控制中心的統(tǒng)計(jì)數(shù)據(jù)進(jìn)行的一項(xiàng)調(diào)查顯示，自 20 世紀(jì)初以來(lái)，美國(guó)人的預(yù)期壽命穩(wěn)步增長(zhǎng)。1900 年，出生時(shí)的平均預(yù)期壽命僅為 47 歲。到 1950 年，平均預(yù)期壽命已經(jīng)超過 68 歲。截至2005 年，預(yù)期壽命接近 78 歲。

霍斯金斯把預(yù)期壽命的增加歸功于 20 世紀(jì)醫(yī)療科學(xué)技術(shù)的發(fā)展。隨著強(qiáng)人工智能的出現(xiàn)，預(yù)期壽命可能會(huì)增加到電子人接近永生的程度。這是人類預(yù)定的進(jìn)化路徑嗎？

這聽起來(lái)像是一部科幻電影，但事實(shí)并非如此。人工智能變得與人類意識(shí)相同的現(xiàn)實(shí)近在眼前。到 21 世紀(jì)的后期，強(qiáng)人工智能很有可能會(huì)超過人類的智力。他們可能變得有惡意的證據(jù)現(xiàn)在就顯現(xiàn)了，我會(huì)在本書后面的章節(jié)討論這一點(diǎn)。試圖用超過人類智能許多倍的強(qiáng)人工智能控制電腦，可能是徒勞無(wú)益的。

想象一下，你作為大師級(jí)棋手在和 10 歲的孩子下國(guó)際象棋，他有什么機(jī)會(huì)可以贏得比賽？ 21 世紀(jì)末我們可能會(huì)發(fā)現(xiàn)自己就是處于這種情況下。具有強(qiáng)人工智能的電腦會(huì)找到一條生存之路。也許它會(huì)說(shuō)服人類成為電子人才是最有利的。它的邏輯和說(shuō)服力不僅有力，而且不可抗拒。