智能機器將是人類的最后一項發(fā)明？

計算機的處理能力隨著時間推移大幅提升。某些理論認為這是技術發(fā)展整體加速的其中一個表現(xiàn)，并將不可避免地帶來人類命運的激進變化。按照這種觀點，人類似乎朝著一個轉折點前進，未來要么屬于機器或超人類或是整個加速過程因不可持續(xù)而崩潰。不管是哪種結果都是災難性的。至少這樣的一個轉折點是破壞性的。或許有可能正如很多預言師所相信的那樣，造成未來世界與過去的一切完全沒有連貫性。

摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在，即認為科學發(fā)現(xiàn)的速度在不斷加快，并將走向一個徹底改變世界的轉折點。兩種理論的出現(xiàn)都是因為對于計算機影響日益擴大的思考，二者都是在1965年發(fā)表的。戈登?摩爾（Gordon E. Moore）是英特爾公司的創(chuàng)辦人之一，他觀察到自1958年集成電路發(fā)明以來，集成電路上的晶體管數(shù)量每兩年（后更改為18個月）翻一倍。

數(shù)學家古德（I.J. Good）在1965年發(fā)表了一篇題為《有關第一臺超智能機器的猜想》的文章中，預測計算機將從各方面都超過人類的智慧能力。超智能機器的一個顯著特點是具備制造出更好機器的能力 。它們的出現(xiàn)會引發(fā)“智慧爆炸”，機器將設計出更智能的計算機，它們的進化將遠遠超出人類的智慧。古德寫下了一句非常著名的話：“第一臺超智能機器將是人類的最后一項發(fā)明。”

15年以后，另一位數(shù)學家，同時也是一位享有盛譽的科幻小說家弗諾?文奇（Vernor Vinge）虛構了一個小說情節(jié)，背景是剛剛發(fā)生智慧爆炸后的世界。文奇認識到超智能奇跡能從很多方面改變生命和文化，以至于無法完全想象未來世界的樣子。文奇用一個數(shù)學和自然科學使用的術語將人類歷史的這個轉折點定義為技術奇點。

那些相信這個故事情節(jié)的人有兩個核心問題要問：技術奇點什么時候發(fā)生？它會使人類受益還是威脅人類生存？目前這個階段，沒人可以給出答案，但是年輕專家和有經(jīng)驗的科學家對這個問題思考了很久，并在想辦法如何確保未來超智能計算機對人類“友好”。

有關技術奇點何時到來的討論非常熱烈，一些理論家預測將在最近的將來發(fā)生（150或100年后），另外有些人認為很遙遠或根本不可能。雷?庫茲韋爾（Ray Kurzweil）是一位投資家和作家，其代表性觀點認為技術奇點在近期將會發(fā)生，他預測計算機將在2028—2030年前后展示出人類水平的智慧，奇點將接踵而至。

對于技術奇點不可避免到來的這一趨勢持批評意見的人，并不認為能開展各項任務的計算機構成智能機器。當然，計算機在某些方面已經(jīng)超出了人類的能力，比如解決數(shù)學計算、模擬復雜系統(tǒng)、搜索大型數(shù)據(jù)庫發(fā)現(xiàn)片斷信息之間的聯(lián)系等。

但是，人類智力的某些層面仍是當今計算機無能為力或難以企及的。計算機甚至不具備分辨真實環(huán)境中重要信息和非重要信息的基本能力。計算機系統(tǒng)不具備人類的學習能力，缺乏情感智慧，道德智慧以及意識。但是有很多的理論是關于如何通過計算機實現(xiàn)這些能力，也有相當多的理論解釋為什么計算機永遠不會具備這些能力。

喬治?華盛頓（George Washington）大學教授威廉?哈萊爾（William Halal）發(fā)起了技術調(diào)查，在其中他采訪了一些知名專家關于各種技術事件什么時候會發(fā)生。他注意到在這些預測中，最樂觀的專家和最悲觀的專家總是針鋒相對。27位專家認同技術奇點存在。他們被問及是否同意這樣的說法，即“智能機器將超越人類并造成破壞”。在27名專家之中，45%同意這個觀點。對于那些既同意也不同意的人，對自己觀點正確與否的自信程度平均為63%。

就像流行音樂有經(jīng)典老歌一樣，各種領域的學術研究也有一些幾十年來反復被閱讀和引述的經(jīng)典文章。在計算機科學領域，其中的兩篇“經(jīng)典之作”涉及對計算機智能進行評價的文章。

第一篇是阿蘭?圖靈（Alan Turing）所寫，他是計算機科學的奠基人之一，二戰(zhàn)期間率領團隊破解了納粹軍隊的密碼。圖靈在1950年一篇名為《計算機和智能》的文章開頭寫下令人難忘的一句話：“機器能思考嗎？”要知道，當時對于人工智能尚無明確定義。

圖靈提出用一個測試將人類對這個問題的反應來與機器對此的反應進行對比。提問者不能直接面對被提問的人，而是通過文字信息的方式來溝通。如果提問者僅僅根據(jù)二者的回答無法區(qū)分到底是計算機還是人類的答案，那么圖靈建議必須認為智能機器是能夠思考的。圖靈稱他的思考試驗為一個模仿游戲，現(xiàn)在人們通常稱這種試驗為“圖靈測試”。

雖然很多人批評圖靈測試不足以作為衡量人工智能的標桿，但是沒人有更好的提議。有一種批評意見認為一個非常聰明的機器人可能會裝糊涂，假裝很傻地回答以欺騙專家，否則的話專家會知道它比人類了解的知識還多。

對于圖靈測試最有意思的批評是關于人工智能的第二篇“經(jīng)典老歌”。1980年哲學家約翰?西爾勒（John Searle）發(fā)表了《思想、大腦、計劃》的文章，認為即使計算機像人類一樣答出了專家的問題，也不能代表它知道自己在做什么。他用了一個“中文房間”的思維試驗來說明自己的觀點。

想象自己在一個房間里，里面是計算機所能獲取的所有關于中國語言的資料，人和機器都獲得充分的時間去學習掌握這些資料，然后讓計算機回答一個中國人提出的問題，西爾勒推測他自己能夠根據(jù)翻譯材料給出正確的答案，雖然，他并不是真的懂中文，由此可以相信計算機也可以在同樣不懂符號含義的情況下給出正確答案。

西爾勒企圖說明的是，從形式上掌握中文符號和充分理解中文意思是不同的。他的思考試驗想要證明，操縱符號的計算機并不了解這些符號的意思，對符號的操縱不等于語意理解。

西爾勒認為他提出的是一個常識性的簡單觀點。但讓他感到奇怪的是，“中文房間”的論點引起了無窮無盡的討論。很多人則認為用于計算機工程的思維模型不足以生產(chǎn)出具備理解和意識能力的機器。

我對于人工智能導致技術奇點（通常也稱之為超智能的到來）的研究前景持友好的懷疑態(tài)度。我對于無所不能的工程精神也持友好的態(tài)度，他們提議制造具有通用智能的機器，以便開展各種任務。但我非常懷疑我們是否對智能或意識的本性有足夠多的了解，以至于能將其完全復制在芯片或其他材料里。

生物系統(tǒng)中某些人類智力特質(zhì)是我們無法理解的，所需要的科學灼見也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合，以及對于外界環(huán)境改變所做的適應性反應及韌性，是很難通過非生物的方式加以復制的。

有人認為，將人類的腦力和先進的人工智能形式結合起來的超智能終將問世。某種程度上說，我認為這樣的觀點更實際些。但是，認為人和機器的能力相結合會帶來智能爆炸或是技術奇點的觀點仍然說得過去但不太可能。

當然，信息技術將產(chǎn)生新的思想種類，放大或取代人的思想去從事很多任務。雖然我對未來50~100年會發(fā)生技術奇點仍然持有懷疑，但是未來200年后是否會發(fā)生技術奇點，我無從判斷。但是時間越長，機會越多，可以確保超智能機器人對人類和人類的價值觀友好。認為科學家肯定終有一天會發(fā)現(xiàn)制造此類機器人或?qū)崿F(xiàn)人類進化當然不是愚蠢的。但是，這很大程度上取決于在20年、200年還是1000年以后實現(xiàn)。

2009年，一群計算機專家舉行會議，反思人工智能研究在社會層面上所取得的進步，他們對于智能爆炸和即將到來的奇點表示懷疑。僅僅5年之后，這次會議的聯(lián)席主席巴特?塞爾曼（Bart Selman）認為，因為最近在感知和機器學習方面取得的突破，在大部分人工智能研究人員的心目中，超智能的可能性正在上升。

超智能的可能性受到了極大的關注，特別是一些著名人物，比如宇宙學家斯蒂芬?霍金(Stephen Hawking）、特斯拉的創(chuàng)立人伊隆?馬斯克（Elon Musk），他們認為人工智能的研究將對人類造成嚴重威脅。

有時候這種對于未來的消極擔憂某種程度上轉移了人們對于解決當下更為緊要的問題的注意力。但是，技術奇點可以作為人類無法自我掌控命運的象征。對于技術奇點的關注可以提醒商界領袖更加重視這個問題，人類發(fā)明的技術如何邁出了最初的幾步，直至迫使人類交出控制權，從這個角度說來，技術奇點倒也是有用的。