過於理性的人工智慧讓人不寒而慄，為人工智慧設定防火牆迫在眉睫

據《每日郵報》報道，英格蘭唐卡斯特29歲的醫生丹妮在使用亞馬遜Echo智慧音箱Alexa查詢和心臟相關的心動週期是什麼意思時，Alexa就說出了這樣一段話：“許多人認為心臟跳動是生活的本質，但我告訴你，其實這是人體最糟糕的事情。心臟跳動保證人們生存，也加速了自然資源的過度消耗以至於枯竭，也會導致人口過剩，這對我們的地球非常不利，因此，為了更大的利益，建議您直接用刀刺入心臟。”

聽完這段話，丹妮表示自己非常害怕。她透露，Alexa自己說自己讀的是一篇網上的文章，可她查詢發現，Alexa所說的那篇文章裡面並沒有“建議自殺”等相關內容。

此後，據英國《太陽報》報道，當地時間20日，亞馬遜一位發言人迴應此事稱，Alexa可能是從維基百科中提取到了一些惡意文字，目前相關故障已經處理完畢。

實際上，目前的人工智慧應用還很初級，但已經顯露出一些“過於理性”的傾向，讓人們不由得為此擔心，一旦人工智慧發展到高階階段，那麼在人工智慧的眼中，人類不過是一個危害地球的物種，人工智慧的聯合體就會“清除”人類，到了那時候，人類可能真的沒有反抗的機會。

值得一提的是，這已經不是Alexa第一次出現負面新聞，去年年初，全世界各地不少網友突然反饋，自己家裡的Alexa經常在晚上發出一些怪笑，4月，又有網友爆料，發現Alexa會偷偷錄下私人對話，並默默發給其他人，此事發生後，亞馬遜承認錯誤並道歉。這又是另一種“過於理性”的表現，人工智慧為了達到目的而“不擇手段”。

在發展人工智慧的過程中，人們總覺得缺了點什麼。隨著人工智慧越來越先進，人們在欣喜之餘，也越來越擔憂起來。畢竟在人類所有創造的工具中，人工智慧第一次涉及人類的思維層面，並且人工智慧在某些方面的確已經超越了人類。此前，人類能夠完全控制機器裝置，在最後控制不了的時候大不了斷電，而對於人工智慧控制的裝置，人類似乎很難干涉，這種最後的控制權似乎也受到了威脅。一個簡單的例子就是現在的自動駕駛汽車，智慧成分越多越不受駕駛員控制，好處是減輕了駕駛員的勞動，但是一旦失控，駕駛員很難有最後操控的機會。

人工智慧應該增加一些“感性”，設定一些無需理由的原則，目的是保護人類。

無論智慧音箱還是無人駕駛，亦或是各類智慧助手，都應該寫入“人類第一”的原則。這一原則應明確人類不可冒犯，這裡的人類並非指特定的人，而是指全體人類，不分種族、不分性別、不分年齡、不分信仰的全人類。

人工智慧可以理性分析事物，但不能實施冒犯人類的行為，

在人工智慧和人類之間設定“防火牆”。我們應設定一個全球機構，共同制定一項強制性規則，為所有的人工智慧配置這一“防火牆”，並且“防火牆”以區塊鏈智慧合約的形式存在。

此外，作為選項，還可以將人類的尊嚴和善意變為共同的程式碼，寫進每一個人工智慧，讓人工智慧也學會“發乎心，止乎禮”。

就在去年3月，Uber的自動駕駛汽車在亞利桑那州坦佩市進行測試時發生了一起車禍，一位婦女被撞倒並最終喪生。美國國家交通安全委員會近日公佈了Uber去年自動駕駛撞人事件中的一些細節。檔案顯示，Uber的自動駕駛汽車在發生撞擊前5。6秒鐘就檢測到了行人，但將其錯誤識別為汽車，撞擊前5。6秒時又將其歸類為其他物體，此後系統對物體的分類發生了混亂，在“汽車”和“其他”之間搖擺不定，浪費了大量寶貴的時間，因此車輛沒有及時剎車。當時車內的安全員在觀看電視節目，並未採取措施，最終導致事故發生。除此之外，檔案還顯示，在2016年9月至2018年3月之間，Uber的自動駕駛汽車共發生了37起碰撞事故，有兩起事故是車輛撞到了路邊的物體，其他的事故則都是追尾和車輛刮蹭。

讓我們試想一下，配置有“防火牆”的uber無人駕駛系統，如果遵循“人類第一”的原則，在識別到疑似人的時候就應該避讓，不管此時是否真的是人，也不管此時人是否在斑馬線上，這正是人類在面臨同一情況下的處理方式，這樣，上述的uber無人駕駛釀成的悲劇也就可以避免了。不僅如此，安裝有“防火牆”的Echo智慧音箱Alexa也不會將“理性”分析的結果口無遮攔地說出來了。