2021-11-26 19:39:55| 人氣42| 回應0 | 上一篇 | 下一篇
推薦 0 收藏 0 轉貼0 訂閱站台

當人工智能有了情感,人類未來該如何自處?


《情感經濟:人工智能、顛覆性變革與人類未來》,[美]羅蘭·T. 拉斯特、黃明蕙 著,彭相珍: 譯,中譯出版社2022年1月版。

文學作品和電影,往往將奇點視為威脅和恐怖事件。例如,在斯坦利·庫布里克的電影《2001:太空漫遊》中,計算機HAL(IBM公司縮略名稱字母前移一位,即H-I、A-B、L-M),不僅具有機械智能和思維智能,它還具有足夠的情感智能來愚弄和操縱宇航員(並殺死了大部分宇航員)。最終,HAL基於自己的利益,損害了它本應服務的人類的利益。



電影《2001:太空漫遊》(1968)劇照。

但在斯蒂芬·斯皮爾伯格的優秀電影《人工智能》中,人工智能表現為更積極的形象,庫布里克也是該片的主要合作者(直到他英年早逝)。在這部電影中,大部分主角都是擁有發達情感智能的機器人。在電影的最後,人工智能外星人已經占據了主導地位,但他們對老一代的機器人,表現出了相當程度的關心、關注和同情。電影《她》也從一種有利於人類的角度描繪了人工智能。人工智能「操作系統」(斯嘉麗·約翰遜配音),對她的人類主人表現出極大的同情心。經典科幻電影《銀翼殺手》也從正面描寫了人工智能機器人,並描繪了具備深刻情感智慧的最先進的機器人。

因此,我們也看到,人類對人工智能的情感能力的觀感是矛盾的。在最壞的情況下,人工智能將利用其情感智能來操縱人類,以達到自己的目的。在最好的情況下,人工智能將利用其情感智能,與人類產生共鳴並幫助人類。我們將在下文中探討這兩種可能性。



電影《人工智能》(2001)劇照。

收入和財富不平等會進一步惡化嗎?

一旦人工智能發展到了高度的情感智能,它將全方位壓倒人類智能。這將自然而然地導致一個後果,即人類的勞動變得不夠理想,因為人工智能幾乎在所有方面都表現得比人類智能更好。這就意味着人類的勞動將喪失價值,且所有的工作將由人工智能接管。如果經濟中的所有價值,幾乎都來自人工智能,那麼價值將幾乎來自資本,而不是勞動。其結果是,經濟將由相對少數的資本家掌控。這反過來又會進一步加劇收入和財富的嚴重不平等。在這種情況下,大多數人類將如何謀生,尚無答案。


人類真的能控制人工智能嗎?

許多思想家聲稱人工智能永遠也不能自主完成任務,因為它必須由人類編程。因此,人類將永遠控制着人工智能。但事實真的如此嗎?我們不妨簡單地回想一下當前最常見的人工智能形式,即深度學習神經網絡。這種人工智能已經被視為一個「黑盒子」,因為人類很難對其如何產出結果進行解釋,即為什麼它們能給出特定的解決方案。為此,計算機科學當前的一個重要研究領域就是,如何讓深度學習對其客戶(人類)而言,變得「可解釋」。但一個顯然的趨勢是,隨着人工智能變得越來越複雜,也越來越難被人類理解,導致人類感覺其逐漸失控。

最終,這個問題將變得越來越嚴重,而不是隨着發展逐漸淡化。當人工智能變得足夠聰明時,它就有可能做到自我編程。畢竟,計算機的自我編程作用已經存在,並將隨着時間的推移而變得越來越普遍。換句話說,人類對人工智能的控制力正在迅速減弱,而隨着控制力的喪失,人類如何確保人工智能繼續按照既定的要求,致力於實現人類設定的目標,而非它自己的目標,也將成為一個問題。

牛津大學哲學家尼克·博斯特羅姆和麻省理工學院物理學家馬克斯·泰格馬克,都提醒人類應該注意這種人類失去對機器的控制的問題。他們都指出,人工智能可能會演變成一種智能或多種智能,無論哪種結果,都可能威脅到人類的控制力,甚至威脅到人類的生存能力。正如作家凱文·凱利(KevinKelly)所指出的那樣,人工智能設備的聯網可能造就異常強大的超級人工智能。


人類享受悠閒生活的設想

關於奇點,人們設想的最幸福場景是,人工智能負責完成社會的所有工作,而人類則可以自由地過着悠閒的生活,追求藝術、玩電子遊戲、看3D電視,或沉浸在虛擬現實中。人類也會擁有幾乎無限的社交時間(無論是面對面交流還是線上互動),或許未來全人類的生活都會變得類似現代的沙特阿拉伯王國公民的生活。在那裡,幾乎所有的工作,都由外國人完成,而沙特公民(至少是男性)則享有相當高程度的財富和自由。



電影《人工智能》(2001)劇照。

然而,如果我們從現實的角度來研究這種人類享受閒暇的情景,就會看出這種可能性將很難被實現。因為控制資本的相對少數人,將控制社會的大部分財富,而與對社會沒有價值貢獻的其他人分享財富,顯然不符合前者自身的利益。或許會有少數傑出的人類技術專家能夠賺取大量的金錢,但即使是這樣的可能性也不太現實,因為人工智能將在三個智能層面碾壓人類,並能夠比最優秀的人類更好地完成各項工作。

有人可能會辯駁,最終剩下的少數占據主導地位的資本家,或許會是利他主義者,並願意把自己的財富分配給其他沒有賺錢能力的人類,但我們在現實世界中,並沒有看到很多證明此類舉動可能存在的證據。事實上,在收入最不平等的國家(如印度)中,出現此類善舉的概率比世界上最平等的國家(如丹麥)要少得多。


人類的増強和改造

庫茲維爾認為,既然相較於超級人工智能而言,人類在經濟上不會有競爭力,那麼唯一有吸引力的發展道路,就是人類利用人工智能來增強自己,甚至是徹底改變自己。人類利用人工智能實現增強自己,已經存在很長時間了。

首先,是身體的增強。例如,有人可能會使用一條人工腿,來替代被截肢的腿。聽力不好的人可以戴助聽器,視力不好的人可以戴眼鏡。

接下來,是思維增強。人工智能可以通過很多方式來增強人類的思維智能。在很多方面,人工智能已經比人類更聰明了,這些能力可能會被用於人類能做的事情。例如,人類可能會給自己增加一個記憶芯片或計算模塊,現在已經有各種各樣的方法,能夠連接人腦和計算機。最近,科學家已經成功地將人腦與互聯網連接起來,可以讓人類直接與一個巨大的信息網絡連接。

最終,我們還將看到情感的增強。黃明蕙教授曾開玩笑說,她有時候希望拉斯特有一個「同理心芯片」,可以在和她交流的時候運用。而拉斯特則希望黃明蕙教授在開這個玩笑的時候,就能使用這個同理心芯片,然後她就會知道,這樣的玩笑聽起來不公平且傷人。我們離製作出這樣的同理心芯片還相當遙遠,但必定會越來越努力地利用人工智能,讓人類變得更好。



電影《銀翼殺手:2022黑暗浩劫》(2017)劇照。

另一種可能性是,人類有可能完全脫離身體的軀殼。如果整個人類的大腦,都能夠被映射和理解(目前,我們只能在體型微小的動物身上運用這種技術),那麼理論上一個人的所有知識和記憶,都可以被上傳到電腦,甚至轉移到機器人的軀體裡。這樣的技術,被稱為「數字季生」氣因此,僅在理論上而言,只要計算機能夠運行,這樣的人類就可以永生。

作為一種已經存在的技術,人類增強幾乎必然會隨着時間的推移,而變得更加廣泛和複雜,從只能夠增強機械智能,發展到思維智能和情感智能的增強。

但我們也有理由相信,人類的增強和改造將無法在奇點中存活,且我們的理由非常合乎邏輯。假設我們現在有一個增強型的人類,表現為人類智能+人工智能。毫無疑問,增強的人類將優於未增強的人類,因為其人工智能部分可增加價值。現在,我們再從人工智能的角度來看,人類智能+人工智能可能同樣優於單純的人工智能,只要人類智能部分能貢獻一些人工智能不具備的東西。

但問題在於,在奇點概念中,人工智能將在各個方面優於人類智能,換句話說,人工智能可以利用人工智能,生產出一個「更好」的人工智能版本(我們將其稱為HI)。那麼,人工智能生產的人類智能+人工智能,將比人類增強版的人類智能+人工智能更好。也就是說,人工智能將失去與人類合作的動力。結論是,在人類可以控制人工智能的範圍內,人類智能+人工智能(HI+AI)的版本是可行的,但基於優勝劣汰的自然進化理論,更有效的人工智能更有可能存活下來,最後將導致不與人類智能合作成為對人工智能最有效的策略。


末日場景

博斯特羅姆認為,如果出現了人工智能「超級智能」,末日情景是最有可能出現的結果。他指出,在超級智能的人工智能實體中,未必存在仁愛等人類品質。這表明人類作為物種的存在將有處於巨大危險。例如,假設人工智能與人類之間的智力差異,大致類似於人類與蚊子之間的智力差異。如果人類認為徹底消滅蚊子不是什麼大事兒,那麼人工智能在將人類視為蟆蟻,並徹底滅絕人類的時候,能不能做到三思而後行?


物種進化的下一階段?

當然,我們也擁有一個合理地應對高級人工智能的出現的積極方式,就是將其視為人類進化的下一個階段。就像人類從「低等的」、不那麼聰明的猿類進化而來那樣,一個高級的人工智能,將以人類為基礎進化出來。前面討論的電影《人工智能》就預示了這種可能性。在那部電影中,人類已經滅絕,地球完全由人工智能管理。我們能否接受這種情況可能取決於我們與人工智能的聯繫,以及我們是否認為新興的超級人工智能比人類「更好」。但是,要人類接受這樣的想法可能存在相當大的阻力,這也意味着,人類接受超級人工智能,可能會變得越來越困難。



電影《人工智能:滅絕危機》(2018)劇照。

當人工智能變得足夠聰明的時候,它可以在機械、思維和情感這三個領域,都優於人類的智能。這就是廣為人知的奇點場景。我們的觀點是,這種情況的發生,可能還需要幾十年的時間,但它最終將是不可避免的。市面上已經有不少流行的電影,讓我們初步領略了奇點到來之後的可能場景。

和所有大規模的技術變革一樣,奇點導致的後果存在無數的可能性,從烏托邦式的(人工智能負責工作,人類負責享受),到災難性的(人工智能徹底淘汰人類)。但在這兩個極端場景的中間,存在一個相輔相成的領域,即人類有可能利用人工智能來增強自己的能力,就像今天我們經常使用機械輔助工具那樣。不幸的是,我們得出的結論是,幫助人類可能不符合人工智能自身的利益。相比之下,奇點將使目前的社會由思維經濟向情感經濟的過渡,變得平淡無奇、無足輕重。

本文選自《情感經濟:人工智能、顛覆性變革與人類未來》,較原文有刪節修改。已獲得出版社授權刊發。

[作者:美.羅蘭·T. 拉斯特、黃明蕙*摘編:安也*編輯:張進*導語校對:趙琳/新京報]

台長: 聖天使
人氣(42) | 回應(0)| 推薦 (0)| 收藏 (0)
全站分類: 社會萬象(時事、政論、公益、八卦、社會、宗教、超自然) | 個人分類: 人生紅塵饗宴 |
此分類下一篇:"人拿時代沒有辦法"
此分類上一篇:人格障礙*天堂地獄兩極化

TOP
詳全文