新書睿評 | 25顆“最強大腦”如何看待人工智慧

“阿爾法狗”的勝利，點亮了人工智慧的新紀元，產業大潮洶湧澎湃，資本泡沫與技術狂想也撲面而來。但同時，我們也看到人工智慧演算法沒有明顯突破，“魯棒性”（指異常或危險情況下系統生存的能力）差、演算法黑箱等問題依然突出，在醫療領域和出行領域的商業化落地也沒有更大進展。一些專家學者開始擔心人工智慧將迎來新的“寒冬”。

《ai的25種可能》關注的正是人工智慧這些最前沿的問題，思想家們交流思想，產生火花，以自己豐富的經驗和學識挑戰主流的人工智慧學說，而他們所提出的觀點，將會更好地推動人工智慧的發展。

「聚集最聰明的一群人」

edge。org號稱是世界上最聰明的人組成的網站，被稱作是當今思想界的一盞明燈。edge的英文字意就是刀鋒、邊緣，而edge網站所匯聚的人群，正是渴望不斷探索人類已知世界的邊界和思維的禁區，不斷尋求突破智慧極限的那類人。

edge網站每年都會提出一個關乎人類命運的“大問題”，然後邀請100多位最卓越的人物坐在一起，就像一場超大型的圓桌討論。這些人包括科學家、藝術家、哲學家、技術專家和企業家，他們橫跨進化生物學、遺傳學、計算機科學、神經學、心理學、宇宙學和物理學等諸多領域的最前沿。

圓桌討論的參與者們包括我們熟知的世界頂尖學者，比如《當下的啟蒙》作者史蒂芬·平克、《自私的基因》作者理查德·道金斯、《槍炮、病菌與鋼鐵》作者賈雷德·戴蒙德、《無價》作者威廉·龐德斯通、《黑天鵝》作者納西姆·塔勒布，也包括一眾商業大佬，微軟創始人比爾·蓋茨、谷歌創始人拉里·佩奇和謝爾蓋·布林、亞馬遜創始人傑夫·貝佐斯、臉書創始人馬克·扎克伯格……可以說，每一位都是各自領域的權威。

此前幾年，他們討論的議題包括“那些科學家們徹夜憂慮的問題是什麼”、“哪些科學觀點必須去死”、“如何思考會思考的機器”、“宇宙”、“文化”、“心智”等。

2019年，edge網站關注的年度問題就是人工智慧。他們邀請了百位各領域的頂級專家學者，讓他們讀完維納的《控制論》後重新在長遠視角審視人工智慧的發展，最終整理了史蒂芬·平克、朱迪亞·珀爾、丹尼爾·丹尼特、喬治·戴森、斯圖爾特·羅素等25位思想家的文章，彙集成了這本《ai的25種可能》。

《ai的25種可能》，［美］約翰·布羅克曼編著，王佳音譯，浙江人民出版社

《ai的25種可能》和市面上人工智慧同類圖書的區別在於其視野前所未有的宏大，思考非常深刻。這25位作者都不是人工智慧領域的參與者，他們都是第三次浪潮的旁觀者，代表著更遠和更開闊的角度。

這25位思想家的觀點並不一致，甚至互相反對，就像左右手互搏。正如這本書的編者約翰·布羅克曼所說：“我們應該找到人工智慧領域裡的主流者與持不同意見者，讓這些人都能闡發自己的觀點，以此來審視人工智慧歷史的演變，以及人類和人工智慧未來的幾種命運。”

「重新審視先驅的思想」

維納是人工智慧領域的創始人之一。他是個神童，14歲大學畢業，4年後在哈佛大學獲得哲學博士學位。為了描述他關於動物和機器如何依賴反饋機制來進行控制和交流的研究，維納選擇了“控制論”（cybernetics）這個詞。

1948年，維納的《控制論》問世，但這本書技術性很強，大眾不易讀懂。於是1950年，維納又出版了通俗版本的《人有人的用處：控制論與社會》一書，目的就是希望透過他的努力使得人類在技術世界的環繞中更加有尊嚴、更有人性，而不是相反。

在1956年達特茅斯會議正式提出“人工智慧”這個概念以前，維納控制論大行其道。在維納的兩本書中，他考慮的是技術的社會、政治和倫理方面的問題，還得出了一些令人灰心的結論。維納的主要觀點是，不僅在人類和人類社會中，在其他生物群體乃至無生命的機械世界中，都存在著同樣的資訊、通訊、控制和反饋機制，智慧行為是這套機制的外在表現。因此不僅人類，其他生物甚至是機器也同樣能做出智慧行為。維納和他的控制論思想如今也被視為人工智慧“行為主義學派”的奠基者。

更重要的是，親歷二戰的維納在為人工智慧勾畫藍圖時，也提出了自己對機器統治的擔憂和警告。在《人有人的用處：控制論與社會》中維納預言，依賴機器統治可能成為一種“新法西斯威脅”，他寫道：“留給我們的時間不多了，我們必須在正義與邪惡之間作出選擇。我們必須停止親吻鞭打我們的鞭子。”但是這種“唱反調”的做法讓維納在馮·諾伊曼、克勞德·夏農等同事之間遭到了冷遇，他們更加關注的是把新科技轉化為商機。

在今天，隨著人工智慧開始侵入社會生活的幾乎每個方面，人工智慧和人類智慧的關係再次受到關注，維納的預言仍然十分有價值。

在此契機下，約翰·布羅克曼帶著25位頂尖思想家們回到了維納半個多世紀前開始提出的問題上。他讓這25位思想家讀《人有人的用處：控制論與社會》後，寫下了今天我們看到的文章。正是由於拉開了近70年的時間差距，才讓《ai的25種可能》這本書中的文字不侷限於當下，而具有更長久的半衰期。

「對人工智慧未來的想象」

社會如何權衡謹慎與創新的速度、準確性與可解釋性、隱私與效能之間的關係，將決定人類與智慧機器之間發展出何種關係。人類面臨的風險很高，但如果不妥善處理這些關係，人工智慧將難以向前發展。

在這本書中，人工智慧和人類智慧的關係是思想家們探討的重點，但這些人對於人工智慧的態度卻大相徑庭。

比如科技史學家喬治·戴森認為，好的人工智慧就是個神話，當人類已經習慣於透過數字化程式設計控制機器，也許以神經網路為代表的模擬計算會把對於世界的控制權從人類手中奪走。“任何一個簡單到可以理解的系統都不會複雜到可以智慧化行事，而任何一個複雜到足以智慧化行事的系統都會太過於複雜而無法理解。”

哲學家、《直覺泵》作者丹尼爾·丹尼特對智慧的態度就是工具論——我們不需要人造的具有意識的智慧體。有太多的自然意識的智慧體，足以處理任何應該保留給這樣的特殊和特權的實體的任務。我們需要的是智慧工具。工具沒有權利，不會有可能受到傷害的感覺，也不會對無能的使用者強加給它們的“濫用”產生怨恨。

認知心理學家史蒂芬·平克更是反對悲觀的末日預言，他認為那些預言源自心理偏見，媒體的報道也是助紂為虐，機器對社會造成的危險不來自機器本身，而來自人類如何看待它。

另外一個主要討論的話題是人工智慧技術發展的問題。當前的人工智慧熱潮無疑是由深度學習引發的，自吳恩達等人2011年發表“識別貓”研究後，深度學習及其引發的技術已經在影象識別、遊戲等任務中超越人類，並讓機器學習技術的應用帶入人們的生活。這種“阿爾法狗”背後的技術是否是未來人工智慧的方向？

其中，圖靈獎得主朱迪亞·珀爾對深度學習持絕對懷疑態度，他詳細論述了不透明學習機器的侷限性——資料科學只是一門有助於解釋資料的科學，而解釋資料是一個二體問題，將資料與現實聯絡起來。但無論資料有多“大”，人們操控資料多麼熟練，資料本身並不是一門科學。而湯姆·格里菲思是個技術樂觀派，他強調的是價值對齊，就是使自動化智慧系統的價值與人的價值對齊，與人類智慧模型對齊，從而使得人工智慧更接近人類效能。

在這本書中，類似這樣的觀點爭鋒還有很多。可以把這本書看成是一場辯論比賽，正反雙方討論當下人工智慧的發展，辯論人工智慧有沒有讓我們變成自己製造的工具的奴隸，人工智慧的終極天花板又在哪裡，該不該對其有所限制。25個人提供了25個看待人工智慧的價值維度，或悲觀或樂觀，或工具論或控制論，或反思本質或展望未來。書中的觀點不是像量子力學那樣燒腦，但邏輯嚴絲合縫，我看到了截然不同的觀點，卻覺得每一篇都有道理。

可以說，這本書就像一張大網，網羅並幾乎窮盡了全世界最偉大頭腦對於人工智慧的前沿性思考。閱讀它，你除了比周圍人豐富了多個尺度之外，還有可能登上下一個時代的客船。

欄目主編：顧學文

本文作者：西貝

文字編輯：王一