2021-07-26 18:49:31| 人氣48| 回應0 | 上一篇 | 下一篇
推薦 0 收藏 0 轉貼0 訂閱站台

由於人類的認知偏見,AI很容易被誤解



[文/學術頭條,翻譯:王言心 *編審:寇建超]



(來源:HYUNG TAEK YOON)

以下內容為 Sangbae Kim 此前發表在 Naver Labs 的博客,學術頭條在不改變原意的前提下,做了精心的編輯:

大多數人會將人工智能與機器人聯繫在一起,認為他們就是一回事。

事實上,「人工智能」一詞在研究實驗室中很少使用。相反,針對某些特定類型的人工智能和其他智能技術的術語更貼切一些。

每當有人問我「這個機器人是由人工智能操作的嗎?」,我都會猶豫不決——我其實想知道將我們開發的算法稱為「 人工智能 」到底是否合適。


20 世紀 50 年代,John McCarthy 和 Marvin Minsky 等科學家首次使用了「人工智能」這個術語,此後幾十年它經常出現在科幻小說或電影中。現如今,人工智能也已經用於智能手機的虛擬助手和自動駕駛汽車的算法中。由此可見,長時間以來,人工智能都涵蓋許多不同的內容,而這些內容總是造成混淆。

然而,人們往往會有一種偏見,認為人工智能是人類智能的人工實現形式。而這種成見可能來自於我們作為人類的認知偏見。


不要用人類標準看待機器人或人工智能的任務

如果你在 2017 年看到 DeepMind 開發的人工智能 AlphaGo 擊敗九段圍棋選手李世石(Lee Sedol)時,你會有什麼感受?你可能會感到驚訝或害怕,認為人工智能的能力已經超越了人類天才。可儘管如此,贏得像圍棋這樣具有指數級可能走法的遊戲只意味着人工智能已經超越了人類智力的一個非常有限的部分。


我相信很多人都對麻省理工學院仿生機器人實驗室開發的 Mini Cheetah 表演的後空翻印象深刻。雖然向後跳躍並降落在地面上對人類來說也很困難,但與需要更複雜的反饋環才能實現穩定行走的算法相比,特定動作的算法已經非常簡單了。由此可見,完成對我們來說看似容易的機器人任務,往往極其困難和複雜。而之所以出現這樣的情況,是因為我們總是傾向於根據人類的標準來考慮任務的難度。


我們往往在觀看一個機器人演示後就急於概括出人工智能的所有功能。例如,當我們在街上看到有人在做後空翻時,我們往往會認為這個人擅長走路和跑步,而且還具有足夠的靈活性和運動能力,肯定也擅長其他運動。一般來說,我們對這個人的判斷並不會出錯。


然而,我們是否也可以將這種判斷方法應用到機器人上呢?我們很容易根據對特定機器人運動或功能的觀察來概括和確定人工智能的性能,就像我們對人類所做的一樣。通過觀看人工智能研究實驗室 OpenAI 的機器人手解魔方的視頻,我們認為,既然人工智能可以執行如此複雜的任務,那麼它一定可以完成一切比這更簡單的任務。但是,我們忽略了這樣一個事實:人工智能的神經網絡僅針對有限類型的任務(比如解魔法)進行過訓練。如果情況發生變化,例如,在操作魔方時將其倒置,那麼算法的效果就無法像預期那樣好了。


與人工智能不同,人類可以將單個技能結合起來,並將其應用於多項複雜的任務中。一旦我們學會了如何解魔方,即使我們將其倒置,儘管一開始可能會覺得很奇怪,但我們仍然可以快速手解魔方。而對於大多數機器人算法來說,它們需要新的數據或重新編程才能做到這點。此外,自動駕駛汽車需要每種情況的真實數據,而人類司機可以根據預先學習的概念做出理性決定,以應對無數種情況。這些例子讓人類智能和機器人算法形成了鮮明的對比:機器人算法無法在數據不足的情況下執行任務。



(來源:HYUNG TAEK YOON)

從古至今,哺乳動物已經連續進化了 6500 多萬年。而人類花在學習數學、使用語言和玩遊戲上的全部時間加起來也只有 10000 年。

換句話說,人類花費了大量時間開發與生存直接相關的能力,例如行走、跑步和使用雙手。因此,計算機的計算速度比人類快得多也就不足為奇了,因為它們最初就是為此目的而開發的。同樣,計算機自然也不能像人類那樣輕易獲得自由使用手腳的能力。因為這些技能是通過 1000 多萬年的進化獲得的。


這也就是說為什麼將機器人或人工智能的性能與動物或人類的能力進行比較是不合理的。如果在觀看麻省理工學院的 Cheetah 機器人在田野上奔跑並跳過障礙物的視頻之後,就認為像動物一樣行走和奔跑的機器人技術已經成熟,那可太過於草率了。許多機器人演示仍然依賴於為有限情況下的特殊任務設置的算法。事實上,研究人員傾向於選擇看似困難的演示,因為它可以讓觀眾印象深刻。但是,這種難度的級別是從人類角度來看的,可能與實際算法性能無關。


在進行任何邏輯思考之前,人類很容易受到瞬時和反思性感知的影響。當研究對象非常複雜且難以對其進行邏輯分析時,這種認知偏差就會加強,例如,一個使用機器學習的機器人。


那麼,我們人類的認知偏見從何而來呢?在我看來,它來自我們潛意識地將我們看到的對象擬人化的心理傾向。人類已經進化為社會性動物,可能在這個進化過程中發展出了相互理解和共情的能力。而我們將主體擬人化的傾向可能來自相同的進化過程,如人們在提到編程算法時傾向於使用「教學機器人」這個詞。可儘管如此,我們還是習慣於使用擬人化的表達方式。正如 18 世紀的哲學家 David Hume 所說,「人類有一種普遍的傾向,認為所有的生命都和他們一樣。」


當然,我們不僅將研究主體的外表擬人化,而且將它們的心態也擬人化。例如,當波士頓動力公司發布其工程師腳踢機器人的視頻時,許多觀眾的反應是,「這太殘忍了」「同情這個機器人」「總有一天,機器人會報復那個工程師」。


實際上,工程師只是在測試機器人的平衡算法。然而,在理解這種情況的任何思維運轉之前,粗暴地踢人動作加上像動物一般機器人的掙扎動作瞬間傳遞到我們的大腦,給我們留下了強烈的印象。如此一來,這種瞬時的擬人化對我們的認知過程產生了深遠的影響。


人類定性處理信息,而計算機定量處理信息

環顧四周,我們的日常生活充滿了算法。由於所有算法都是基於數字,於是我們使用諸如「目標函數」這樣的術語,它是一個表示特定目標的數值函數。許多算法的唯一目的是達到該函數的最大值或最小值,並且算法的特性因實現方式而異。

贏得諸如圍棋或國際象棋等任務的目標相對容易量化。量化越容易,算法的效果就越好。相反,人類往往在沒有量化思考的情況下做出決定。


舉個「打掃房間」的例子,我們打掃房間的方式每天都有細微的不同,這取決於具體情況,取決於房間的主人,也取決於我們的感覺。在這個過程中,我們是否試圖使某種功能最大化?事實上,我們沒有做過這樣的事情。「打掃」這個行為一直是以「足夠乾淨」這個抽象目標進行的。此外,多少是「足夠」的標準很容易改變,這個標準在人與人之間可能是不同的。


我們習慣將已知信息放在一起來做出足夠好的決定。但是,我們通常不會檢查每個決定是否是最優的。而且大多數時候都是如此,因為我們必須用有限的數據滿足眾多相互矛盾的指標。

但是,在設計我們期望機器人執行的工作或服務時,人和算法之間的這種操作差異可能會造成麻煩。這是因為,當算法根據量化值執行任務時,人類的滿意度,也就是任務的結果,很難被完全量化。


量化一項必須適應個人喜好或不斷變化環境的任務的目標(如上述打掃房間)並不是一件容易的事。也就是說,為了與人類共存,機器人的進化也許不是為了優化特定功能,而是為了實現「足夠好」的結果。當然,後者想要在現實生活中穩健地實現要困難很多,因為你需要應付這麼多相互衝突的目標和定性約束。


實際上,我們並不知道自己在做什麼

試着回憶一下你在閱讀這篇文章之前吃過的最後一頓飯。你還記得你吃了什麼嗎?除此之外,你還記得咀嚼和吞咽食物的過程嗎?你知道那一刻你的舌頭到底在做什麼嗎?


事實上,我們的舌頭為我們做了很多事情:它幫助我們將食物放入嘴裡,在牙齒之間分配食物,吞下嚼碎的食物,甚至在需要時將大塊食物送回到牙齒。我們可以自然而然地完成所有這些,甚至在與朋友交談時,也會使用舌頭負責發音。


我們有意識的決定對同時完成這麼多複雜任務的舌頭運動有多大貢獻呢?我們看起來像是在隨心所欲地移動自己的舌頭,但實際上更多時候,舌頭在自動移動,並且它從我們的意識中獲取高級命令。這就是為什麼我們無法記住進餐時舌頭的詳細動作,因為首先我們對它們的運動就知之甚少。


我們可能會認為手是最有意識的可控器官,但其實許多手部運動也是自動和無意識發生的,或者最多是下意識發生。不信的話,試着把鑰匙之類的東西放進你的口袋裡,然後再拿出來。在那短短的一瞬間,無數的微操作瞬間無縫地協同完成這項任務。


我們常常無法分別感知每個動作。我們甚至不知道應該把它們分成哪些單位,所以我們把它們統統表達為抽象的詞語,如整理、洗滌、塗抹、揉搓、擦拭等。事實上,這些動詞是定性定義的。它們通常是指精細動作和操作的總和,其組成隨情況而變化。當然,即使是孩子們也很容易理解和思考這個概念,但從算法發展的角度來看,這些詞是無限模糊和抽象的。



(來源:HYUNG TAEK YOON)

比如,我們通過在麵包上塗抹花生醬來展示如何製作三明治,並用幾個簡單的詞對此稍作解釋。假設有一個外星人和我們使用相同的語言,但對人類文明或文化一無所知。(我知道這個假設已經自相矛盾了……,但請耐心往下看。)我們可以通過電話向他解釋清楚如何製作花生醬三明治嗎?


在這種情況下,我們可能在解釋如何從罐子裡舀出花生醬時就陷入困境。甚至讓他拿住一片麵包也變得沒那麼容易了:我們必須把麵包用力拿住,才能塗抹花生醬,但與此同時又不能太過用力,以免破壞軟麵包的形狀。


其實想要做到這一點並不是很困難,但是通過語言或文字來表達這一點並不容易,更不用說通過函數了。即便是人類在學習一項任務,我們能通過電話學會木匠的工作嗎?我們能通過電話精確地糾正網球或高爾夫姿勢嗎?真實情況是,我們很難辨別我們看到的細節在多大程度上是有意識或無意識地完成的。


總而言之,我們用手腳所做的一切並非都是可以直接用語言表達的。發生在連續動作之間的事情通常會無意識地自動發生,因此我們常常以一種比實際情況更簡單的方式來解釋我們的行為。這就是為什麼我們的行為看起來很簡單,但實際上卻很不可思議。表達的局限性往往會讓我們低估實際的複雜性。我們應該認識到,語言描述的困難會阻礙詞彙發展不完善領域的研究進展。


直到最近,人工智能已經應用於與數據處理相關的信息服務,比較突出的例子如語音識別和面部識別。現如今,我們即將進入一個人工智能的新時代,它可以高效地為我們提供物理服務。也就是說,複雜物理任務的自動化時代即將到來。


尤其值得關注的是,日益老齡化的社會給我們帶來了巨大的挑戰。勞動力短缺變成了明顯的社會問題。因此,我們迫切需要討論如何開發增強人類能力的技術,從而讓我們能夠專注於更有價值的工作,追求人類特有的生活。這就是為什麼工程師以及來自各個領域的社會成員都應該提高他們對人工智能和無意識認知偏見的理解。


如上所述,人工智能很容易被誤解,因為它在本質上就不同於人類智能。

總而言之,人類對人工智能和機器人存在認知偏見是件很自然的事。但是,如果我們不清楚地了解這個認知偏見,我們就無法為這項技術的研究、應用和政策制定合適的方向。作為一個科學共同體,為了使科學的發展富有成效,我們需要在促進技術適當開發和應用的過程中密切關注我們的認知。

本文僅為作者的觀點,不代表學術頭條的立場 。(鈦媒體)

參考資料:

https://spectrum.ieee.org/automaton/robotics/robotics-software/humans-cognitive-biases-facing-ai

【鈦媒體作者介紹:Sangbae Kim,麻省理工學院仿生機器人實驗室(Biomimetic Robotics Laboratory)主任,此前,他們研發了一種特技機器人,希望通過一些步態探索和簡單的四條腿特技,讓未來機器人的肢體運動更加精細化。】


台長: 聖天使

TOP
詳全文