類腦智慧：人造超級大腦

作者：任福繼（電子科技大學特聘講席教授）；李太豪（之江實驗室高階研究專家）

腦科學被視為理解宇宙、自然與人類關係的“終極疆域”，人類從未停止對人腦的探索，以及對其執行機制的模仿。人腦以極強的可塑性、通用性、自適應性、自組織性以及低能耗、高效率等，為人工智慧技術的發展提供了啟發和示範。類腦智慧這一新興學科得以誕生，被認為是後摩爾時代最具發展潛力的顛覆性領域之一。日前，中國科學技術協會完成了《直麵人類未來——2021年度人類社會發展十大科學問題解讀》一書的編輯出版，本期，我們邀請其中的兩位作者，介紹有關類腦智慧的研究。

《直麵人類未來——2021年度人類社會發展十大科學問題解讀》圖片由中國科協提供

1。全球關注類腦智慧研究

類腦智慧研究具有重大意義，借鑑人腦的資訊處理方式，有助於打破馮·諾依曼體系結構束縛，有望引領人工智慧從機器智慧走向機增強智慧，從專用智慧走向通用智慧。因此，目前世界各主要發達國家和地區都在積極推動類腦智慧的發展。該領域全球重大專案密度逐年提升，如歐盟的“人類腦計劃”、美國的“推進創新神經技術腦研究計劃”以及我國的科技創新2030——“腦科學與類腦研究重大專案”等，而且有谷歌、微軟等國際商業機器公司等高科技公司的大力度投入。

類腦智慧又被稱為神經形態計算，旨在模擬人類大腦的形態結構及資訊處理機制。一方面，突出生物學基礎和硬體導向，以神經形態硬體模擬為核心，開發類腦晶片，模擬神經電路結構和脈衝神經網路，並利用神經脈衝計算原理形成新型物理模式；另一方面，突出感知模式、認知機理、學習能力、記憶儲存等功能實現，在腦智慧機制研究的基礎上，藉助機器強大的整合、搜尋、計算等能力，實現功能類腦和效能超腦的執行模式。

自然選擇並不必然意味著智慧發展，其中蘊含著對於生存的妥協和生物體依附關係的輔助。因此，人類大腦作為自然進化的產物，仍然存在諸多弊端和侷限，並非其所有的執行機制都是科學的和值得被模仿的，其資訊處理的方式亦然。諸如記憶容量有限、學習過程緩慢、計算能力個體差異明顯等，這就需要梳理明確機腦究竟在哪些方面應該借鑑人腦之所長，在哪些方面恰恰應該發揮機腦與人腦相互協同之作用。

在資訊處理方面，人腦有幾個顯著優勢：一是能夠很好地處理非結構化資訊，能夠多模態感知並行處理資料，動態過濾和捕捉關鍵內容，並進行跨媒體融合和自主決策；二是小樣本學習和泛化能力強，在知識和資源相對不足的條件下，主體具有強有力的自適應能力，具有強容錯性；三是存算一體化，大腦的生物神經元同時具備運算和儲存能力，具有一體化執行和超低能耗的特點；四是大腦建模不僅可以透過計算來實現，還具有稀疏性、學習性、選擇性和方向性等生物特性，蘊含巨大的資訊處理潛能。

從資訊的獲取、處理與儲存等角度，以及綜合考慮人腦在資訊處理方面的顯著優勢，類腦智慧可以劃分為類腦感知、類腦記憶和類腦學習等。要最終形成“人造超級大腦”，還有很長的路要走，目前的類腦研究尚處於初級階段，僅是對大腦的高度抽象和簡化。

未來研究路徑應該對大腦如何進行資訊加工加以揭示，闡明覆雜行為之下的內在機制實現形式，特別是瞭解神經資訊如何產生感知覺、學習、記憶、決策等認知功能，並思考如何透過機腦實現智慧，建立新型的計算結構與智慧形態，使其在資訊處理機制上“類腦”，在資訊處理效能上“超腦”，在認知行為和智慧水平上“類人”。

2。類腦感知模擬視覺、聽覺、觸覺和嗅味覺

根據人類感知世界的方式，類腦感知可以分為視覺智慧、聽覺智慧、觸覺智慧和嗅味覺智慧。當前的視覺智慧、聽覺智慧處於資訊科技領域學術研究與實際應用的最前沿。相比之下，觸覺智慧和嗅味覺智慧處於材料硬體、規模化晶片硬體和類腦晶片結構創新的研究階段。

在基礎研究層面，類腦視覺智慧已經發展為目前以深度學習為代表的視覺方法。1982年，大衛·馬爾的《視覺》一書問世，使得視覺計算理論成為跨界計算機科學與認知神經科學的橋樑。現在，不同的類腦神經網路框架與其他領域的模型，如自然語言處理領域的轉換器已經取得最先進的效能。在產業發展層面，視覺智慧從上游的光源、鏡頭、相機，到視覺系統中游的中間演算法，再到下游的裝置製造和終端應用等已經取得全面的發展。

聽覺智慧作為另外一個發展較為成熟的領域，其主要研究內容以自然語言處理為核心，以語音和文字為載體，對抽象的資訊進行表達。在應用層面，語音訊號處理技術已廣泛應用於虛擬主播、線上通話、智慧音箱等。在產業界，自然語言處理技術已經被用於機器翻譯、聊天機器人、輿情分析和市場預測等各個領域。

觸覺智慧是相對發展較為緩慢的一類感知技術。為了實現機器人準確地感知世界，需要全方位的視覺智慧與觸覺智慧。2021年諾貝爾生理學或醫學獎得主、美國加利福尼亞大學舊金山分校的戴維·朱利葉斯和斯克利普斯研究所的阿德姆·帕塔普蒂安分別獨立發現了溫度與觸覺的受體，該發現揭示了人體面板感知溫度、壓力及疼痛的分子機制，即揭示了外部的溫度和機械刺激是如何轉化為內部的神經訊號的。以該類發現為啟發，機器的觸覺智慧以新材料為切入點，感知環境的溫度、壓力與溼度等各種訊號，透過神經網路等機器學習方法自適應地學習模型引數，使得機器具備感知觸覺的能力。

嗅味覺智慧的研究難點也在感知材料層面，而不是後續的深度學習演算法與認知訓練層面。人工智慧對味覺與嗅覺的識別，進展遠遠落後於對視覺和聽覺的識別。原因之一是視覺與聽覺的資料獲取相對容易且標註較為簡單。而相比之下，嗅覺與味覺的標註非常稀疏，且大部分物品並不會被輕易標註，因為人類不會自己去嘗試陌生物品的味道。在基礎理論層面，人類對味覺和嗅覺的機理研究並不透徹，目前的認知僅停留在味道與物質分子有關，而對分子之間的聯合作用不存在類似視覺的系統認知。因基礎理論認知的缺失、感知材料的發展限制，嗅味覺智慧尚未在工業界廣泛應用。在學術研究層面，IBM研究院於2019年研發的“電子舌頭”能在1分鐘內識別多種液體，可以用於監測食品安全、工廠質檢、疾病診斷、環保檢測等領域。2020年，英特爾與康奈爾大學在《自然-機器智慧》上聯合發表論文，宣佈其利用英特爾神經擬態晶片Loihi可以識別10種有害氣體。

人腦對大量的資訊會基於注意力機制進行篩選，並將資源重點用於面向任務的關鍵資訊處理。類腦注意力智慧已經被應用於深度學習的各個領域，如影片影象處理、語音識別和自然語言處理等。當前注意力機制發展最為成熟的領域是自然語言處理，它透過編碼-解碼器來實現對詞語的注意權重。

3。類腦記憶已用於問答系統、機器翻譯

生物大腦在進行資訊處理時，能夠將資訊記住一段時間，即大腦具有記憶功能。該功能是生物大腦的重要功能，是大腦進行學習、認知的基礎。根據記憶時間的長短，可將記憶分為短時記憶和長時記憶。短時記憶是對當前環境的即時反應，將當前環境資料儲存於生物大腦中，從微觀角度來看，短時記憶是刺激神經元后的持續性變化。長期記憶是對歷史資訊的高層次概括，從微觀角度來看，是神經元之間的突觸連線和強度發生了變化。具有記憶單元的智慧體有很好的自適應能力，可以從歷史經驗中學習，從而更好地發揮作用。

受到腦科學的啟發，研究人員將記憶模組應用於機器學習模型中。長短期記憶網路就是一種代表性方法。它透過對神經記憶單元進行結構化設計，透過門控模型控制資訊的更新。其中，遺忘門控制資訊中的哪些部分會被丟棄，輸入門控制神經元要更新的資訊，輸出門控制神經元要輸出的資訊，一個細胞狀態中儲存著由遺忘門和輸入門共同確定的可記憶的資訊。長短期記憶網路方法將資訊表示成固定長度的向量化編碼，當外部資訊量變大時，這種定長的編碼方法可能會丟失資訊的細節。這導致了長短期記憶網路的記憶能力有限，並不能精確地記住過去的事實。此時的大部分模型都缺乏可以讀取和寫入外部知識的元件。

在此基礎上，研究人員開始研究非定長的記憶單元儲存資訊。Facebook 團隊提出的記憶網路就是其中一種。該團隊在記憶網路中引入了一個獨立的儲存器。我們可以透過類比方式來理解這種網路：網路結構可看作計算機中的中央處理器，而獨立儲存器可看作隨機儲存器。一個記憶網路由一個記憶陣列和四個元件（輸入元件、泛化元件、輸出元件、回答元件）組成。輸入元件負責將輸入資料轉化為網路內在的向量；泛化元件用來更新記憶陣列；輸出元件結合輸入，從記憶陣列中抽取合適的記憶；回答元件負責將輸出元件的輸出轉化為需要的形式。

記憶網路雖然解決了定長記憶方法的侷限性，但這種方法並不是一種端到端的方法。端到端的記憶神經網路隨之出現了。鍵值記憶網路的提出解決了端到端的神經網路記憶規模不足的問題。以上方法透過非定長記憶編碼的方式改善定長記憶方法的缺陷，但隨著記憶的增長，這種方法可能會造成資訊的冗餘。因此，學者又引入了注意力機制來對資訊進行動態融合，提取記憶中的重要資訊。目前，相關工作已經在問答系統、機器翻譯等任務中取得了良好表現。

儘管目前的神經網路計算模型對記憶的借鑑已經在應用層面取得了良好的效果，但這些方法仍然是從功能角度去模擬大腦，其進一步的發展還需要對人腦記憶機制和原理進行深入的探索。

在類腦記憶方面，現有的人工神經網路並不具備生物機理作為理論支撐。例如，在生物大腦中，記憶遵循著赫布學習律與脈衝時序依賴的突觸可塑性等法則。類腦記憶未來的發展方向應該借鑑生物大腦的研究，根據生物大腦的記憶環路結構及相關理論構建多尺度的記憶框架，實現自主記憶。由於不同種類的記憶型別在神經機制和神經環路上差異明顯，因此類腦記憶應重點解決對生物大腦的長時記憶、短時記憶、工作記憶等不同種類記憶方法的建模，探索不同記憶的腦機制。除此之外，類腦記憶還應解決如何對記憶進行表示、如何構建層次化記憶、如何對記憶進行去冗餘處理、如何快速啟用記憶單元等關鍵問題。

4。類腦學習需要融合更多神經生物學理論

生物大腦的學習智慧來源是其有著超大規模和複雜互聯的神經網路，透過模擬生物神經網路從而實現類腦學習是類腦智慧的發展思路之一。近年來蓬勃發展的深度神經網路利用生物大腦在進行資訊處理時的層次化資訊，在諸多領域取得了重大突破。

卷積神經網路就是一個很好的例子。它透過對網路結構的改造，使其某些神經元共享相同引數，可以提取輸入資料某種不變的特徵。但其仍是淺層的初步嘗試，對腦資訊處理機制的深度借鑑還有很長的距離。

神經學研究顯示，大腦新皮質的功能實現依賴於其區域連線組成的層次結構。該理論是皮質學習演算法的理論基礎，認為人腦的智慧與新皮質緊密相關。皮質學習演算法中的核心部分是分層時間記憶演算法，該演算法模擬了大腦新皮質結構和功能運作。雖然該模型目前已經在資料處理領域得到了廣泛的應用，但只是對大腦皮層對應的功能進行粗略建模，與大腦的真實結構差距甚遠。

20世紀90年代，神經生物學家發現，在神經元細胞體或軸突附近存在一系列的短脈衝，而且不同的資訊在尖脈衝數量和脈衝輸出的時間上存在差異。這些研究成果促使了脈衝神經網路的產生。脈衝神經網路被稱為第三代神經網路，設計更加接近生物大腦的真實結構，是對真實的生物神經元進行建模。脈衝神經網路目前在模式識別、腦電訊號處理、智慧感知和控制方面有著良好效果，但在影象或語音處理的效果方面仍然是個未知數。除此之外，脈衝神經網路訓練演算法的理論發展尚需完善。

對於人類來說，學習新的知識並不需要很多標記資料。這是由於人類在學習新任務時，會有其他的先驗知識可以用於聯想或者類比學習，人類只需要透過少量樣本就能快速學習，這就是機器學習和人類學習之間存在的差距。可不可以借鑑人類學習的過程，從而透過其他任務的學習促進當前任務的學習？

元學習就是基於此思想發展而來的，它試圖讓機器學習更加接近人類思維。元學習又被稱為學會學習，是利用以往的經驗來指導新任務的學習，使人工神經網路具備學習的能力。元學習儘管取得了一些成績，但還有自適應性、進化性、可解釋性等一系列問題有待研究，其系統理論知識尚需進一步完善。

在類腦學習方面，雖然現有的深度神經網路已經模擬了生物大腦資訊處理的部分原理，但這只是初步的探索，並沒有從更深層次去融合神經生物學的相關理論。目前，在微觀層面，神經生物學在神經元和突觸的型別、數目及其工作原理等方面都取得了不少進展，發現它們在不同的腦區中差異很大，且能根據實現功能的不同動態變化調整，可以透過深度融合生物大腦的學習機制來提升現有模型。

《光明日報》（ 2022年12月22日 16版）