AlphaGo輸瞭，但它已證明自己比世界冠軍高明
[摘要]在看到AlphaGo優異表現後，你是不是比較能夠接受讓機器人醫生給你看病呢？
騰訊科技精選優質自媒體文章，文中所述為作者獨立觀點，不代表騰訊科技立場。
微信公眾號：新智元
在昨天的圍棋比賽中，李世石戰勝瞭 AlphaGo。 這是讓人欣慰的消息，但我總覺得這種欣慰有點底氣不足。誰知道是不是人類最後一次戰勝機器的圍棋系列賽呢？
從這 4 盤比賽來看，AlphaGo 即便今天有關鍵失誤，但掩蓋不瞭這幾盤比賽的落子光輝。AlphaGo 強大的判斷和計算能力，讓循規蹈矩的對戰變得基本沒有勝算。而隻有找到它的 Bug，方才有戰勝它的可能。這已經是根本的實力差距瞭。
台中月子中心價格李世石 9 段今天的表現是人類歷史偉大的一幕，但改變不瞭的是，機器未來將統治圍棋。王飛躍老師在博文裡說，任何規則明確的問題或任務都應該是計算機戰勝人類，早晚隻是時間而已，圍棋不應例外。
我們低估瞭 AI 的發展速度
從專傢到普通人，都低估瞭 AI 的發展速度。
在這次比賽前，有非常多的頂級專傢，包括人工智能界和圍棋界都做出瞭預言，其中大部分都認為李世石將 5：0 毫無疑問戰勝 AlphaGo。
在新智元當時的讀者調查中，42% 的人認為需要 1 到 3 年，AI 才能在人機
台中月子中心圍棋對決中獲勝。
但實際上呢？現在就實現瞭。
台中坐月子中心推薦99.99% 的人，都被 AlphaGo 騙過去瞭
在這幾天的比賽中，尤其是第三盤，李世石贏著、贏著，就輸瞭。那時候圍棋頂級棋手都認為李世石贏定瞭，但比賽中間基本上都蒙瞭。世界冠軍柯潔倒是比較清醒，在很多人之前預言瞭李世石會輸。但世界上隻有一個柯潔，剩下 99.99% 的人，都沒看懂 AlphaGo 的佈局，被它騙過去瞭。
我們很難理解 AlphaGo，即便是在圍棋這樣規則明確的遊戲裡。它的對圍棋的認識和我們有很大的不同，我們可以從它的行為去推測想法，但它裡面究竟在想什麼，行為背後的原因，都無從知曉。
即便是 AlphaGo 創造者 Hassabis，也在采訪中表示被 AlphaGo 的下法震驚瞭。
在圍棋中，AlphaGo 有自己的認識，而理解結構和人類有很大的不同。在未來更多的領域裡，AI 會形成自己的價值觀。
但人類要通過行為去揣測它的價值觀？
現在看來不怎麼靠譜。
圍棋之後？AlphaGo 的下一步是什麼
我相信 Google 不會過於糾結在圍棋上。AlphaGo 在創立之初，就是一個通用人工智能程序。這意味著它不僅僅會下圍棋，隻要你喂給它足量其他領域的數據，它也能表現的非常好。
在和李世石的對戰中，AlphaGo 已經證明自己可以比世界冠軍還要高明，這對於 Google 已經足夠瞭。
幾周前，DeepMind（創造 AlphaGo 的公司）剛宣佈瞭和 NHS（英國國傢醫療服務體系）的合作，著手建立醫療+機器學習的平臺。這項合作有助於 DeepMind 獲得醫療診斷方面的數據，而就像圍棋一樣，當把這些數據喂給醫療版本的 AlphaGo 的時候，它也能學會怎麼給人看病。
在看到 AlphaGo 在圍棋的優異表現後，你是不是比較能夠接受，讓機器人醫生給你看病呢？
所以我猜測，DeepMind 會鳴金收兵，公佈進軍醫療領域！
而除瞭醫療，還有遊戲、律師、金融、智能手機助
台中西區月子中心介紹手，你相信各種版本的 AlphaGo 在這幾個領域，能比最好的人類選手做得還好麼？反正我是信的。
恐懼：16% 對人類未來不抱希望
這會帶來人們的恐懼。
在新智元最新的一次調查中，“面對AI，你對人類的未來充滿希望嗎？”，猜猜結果是什麼？
16% 的參與者，投瞭“不抱希望”。
昨天李世石獲勝帶來的狂歡，掩蓋不瞭人類集體的落寞。當然，人工智能的堅定支持者們，大多是心情平靜的。
但我們很容易估計到，在未來的 5 到 10 年，AI 會一步一步取代很多工作崗位。《紐約時報》有一篇文章，講到瞭自從 21 世紀以來，美國的就業率就在不斷的下降。
這是事實，而且還將繼續。也許有人會說，當機器去做那些枯燥、重復性的工作的時候，人類還可以從事創意的工作。但無論什麼時候，我們都不會需要那麼多的演員、畫傢和歌手。
現實一點說，阿爾法工場的一篇文章的數據，統計表明經濟衰退以來企業用於購買軟硬件設備的投資增長瞭 26%，而人力成本根本沒有增長。
千萬不要低估，AI 對人類的影響。
所以今天我們推薦一篇文章，來自 the Guardian，新智元翻譯。
這篇文章說的是 DeepMind 背後的故事，有點長，講述瞭這個團隊的價值觀和使命，以及這對人類的未來意味著什麼。
專訪 DeepMind CEO：超級英雄 Demis Hassabis
來源：theguardian
譯者：王婉婷 王嘉俊 李宏菲
通過他的公司DeepMind，倫敦人Demis Hassabis正在領導著谷歌(微博)的一個計劃 創造比人類大腦更強力的軟件。但是，這對於人類的未來而言，意味著什麼？
Demis Hassabis有著謙遜低調的風度和平易近人的神情，但是當他告訴我他正在為“解開智力的謎團，隨後將之用於解決其他一切問題”的使命而努力時，他看上去無比嚴肅。如果從其他人 幾乎任何一個其他人 口中聽到這句話，都會讓人發笑；但是從他口中聽到就沒那麼讓人想笑瞭。39歲的Hassabis曾經是一位圍棋大師和一位視頻遊戲策劃，而他的人工智能研究初創公司DeepMind在2014年據傳被谷歌以6.25億美元收購。他的父母都是移民，他在Finchley讀瞭一所州立綜合學校，又從劍橋大學和倫敦大學學院（UCL）獲得瞭計算機科學和認知神經科學的學位。一位“空想傢”，與他一起工作的人們是這麼評價他的，Hassabis也順水推舟地表示，他已經找到瞭“讓科學研究更高效”的方法，並且在領導著一個“21世紀的阿波羅登月計劃”。他是那種你在街上看到也不會留下印象的樣貌平平的傢夥，但是Tim Berners-Lee曾經對我說，他是地球上最聰明的人之一。
人工智能已經來到我們的身邊，這毫無疑問，每當我們詢問Siri或是從安卓上看到推薦信息時，背後都有人工智能的影子。而在短期內，谷歌的產品肯定會從Hassabis的研究中獲益，即使個人化、搜索、YouTube、語音和面部識別從名字上看並沒有“AI”這個詞（“於是這隻是軟件，對吧？”他露齒一笑，“這隻是某種能派上用場的東西。”）。不過，從長遠來看，他正在研發的技術所具有的意義並不會僅僅止步於有情感的機器人和更智能的手機。它甚至不會止步於谷歌，也不會止步於Facebook、微軟、蘋果、以及其他正在搜刮人工智能博士並往這場最近的科技軍備競賽中砸下數以億計金錢的巨頭們。它關系著我們能想象得到的一切，以及更多我們想象不到的東西。
如果這聽上去極其野心勃勃 就是這樣沒錯。大多數AI系統都是“狹隘”的，訓練事前編寫好程序的代理（agent）來掌握某種特定的任務，它們並沒有太多其他的能力瞭。所以IBM的“深藍”可以在國際象棋上擊敗Gary Kasparov，卻無法在畫圈圈叉叉的井字棋上和一個三歲小孩對戰。Hassabis站在另一邊：他從人類大腦中獲取靈感，試圖創造第一臺“通用用途的學習機器”，一組靈活的、適應性強的算法，能夠 就像生物系統做的那樣 隻利用原始數據來學習如何從頭開始掌握任何一種任務。
這就是人工通用智能（AGI），重點在於“通用”。在他憧憬的未來中，超級智能的機器將會與人類專傢共同協作，差不多能解決任何問題。“癌癥、氣候變化、能源、基因組、宏觀經濟、金融系統、物理學，我們想要掌握的系統中有許多都在變得日益復雜，”他說道，“信息太過泛濫，即使是對於最聰明的人類來說，要在有限的生命中掌握這些也正變得越來越艱難。我們要如何篩選這些鋪天蓋地的數據、從中找到正確的洞見？人工通用智能可以被當作某種自動將非結構信息轉化為有行動意義（actionable）的知識的過程。”
獲得這種元解決方案可能仍然有數十年的路要走，但是它似乎正在不可避免地漸漸來臨。2015年2月，全球頂尖的科學雜志《自然》在封面上刊登瞭像素遊戲“太空侵略者”的圖片，配以“自我學習的AI軟件”已經獲得瞭“人類級別的視頻遊戲表現”的概述。翻開這期雜志，這篇來自DeepMind的論文描述瞭第一個成功的通用“端到端”學習系統，其中他們的人工代理（agent） 圖像處理單元上一個被稱作Deep-Q網絡的算法 學會瞭如何處理屏幕上的一個輸入，理解這個輸入的意義，然後做出決策來達到希望的結果（在這個例子裡，就是成為精通許多經典雅達利2600遊戲（包括太空侵略者、拳擊、和Pong）的超人）。這個突破在科技界一石激起千層浪。
隨後，在上個月，DeepMind第二次登上瞭《自然》雜志封面 在如此短的時間內第二次登上封面本身就是一件值得稱道的事瞭。這次，它略過70年代和80年代的復古街機遊戲，回溯到更久以前選擇遊戲。圍棋，這種來自中國的深奧的策略遊戲，已經有超過2500年的歷史，連孔子的作品中也提到過圍棋。圍棋的分支因子非常龐大，它可能的行動步數超過瞭宇宙中的原子數量，並且，與象棋不同，它不能通過暴力計算來破解。它非常棘手，也不可能為它寫出一個評估函數（通過一組規則來告訴你誰在某個位置的輸贏以及輸多少贏多少）。取而代之的是，圍棋需要旗手具備某種類似“直覺”的東西：當被問起為何做出某個落子的決定時，專業旗手們往往說出類似這樣的話：“這樣做感覺比較對。”
很顯然，計算機一直以來在做這種判斷方面都不太在行。因此，對於AI來說，圍棋始終被視為“不同凡響的偉大挑戰”之一，大部分研究者預期至少還需要10年才能看到機器破解圍棋的希望。
但是經過嚴格的同行評審的證據就擺在面前：DeepMind的最新人工智能算法，AlphaGo，已經在去年秋天的一場秘密賽事中以5比0的成績完勝蟬聯三屆歐洲圍棋冠軍的樊麾，並且將在之後的3月於世界圍棋冠軍李世石對戰。“一個讓人震驚的成就”，帝國理工學院認知機器人學教授Murray Shanahan這樣向我描述這件事。“一個重要的裡程碑”，超人類主義哲學傢Nick Bostrom表示瞭贊同，他在《超級智能：路線圖，危險性與應對策略》一書中曾寫道，如果能夠完成AGI，這將會是一個無與倫比的事件 也許，借用谷歌工程主管Ray Kurzweil的話來說，甚至稱得上是“撕裂人類固有的歷史結構（a rupture in the fabric of history）”。在Bostrom位於牛津大學人類未來研究所的辦公室中，他告訴我，AlphaGo的出現“讓過去幾年間機器學習領域的進展一下子變得引人註目起來”。
“這相當酷，當然，”Hassabis同意道。當時我們約在他的辦公室見面，討論最近的這場勝利。像往常一樣，他穿著不倫不類的黑色上衣、褲子、以及鞋子：你覺得他是一個實習生也無可厚非，雖然據傳谷歌的收購讓他個人獲益8000萬歐元。“圍棋就是終極：它是所有遊戲的頂峰，需要的智力深度（intellectual depth）也最高。它讓人目眩神迷，而令我們感到激動的不隻是我們掌握瞭這個遊戲，還有我們在其中使用的神奇有趣的算法。”比起科學，下圍棋更像一種藝術，他堅持道，“而AlphaGo的下棋方法與人類非常像，因為它是像人類一樣學習圍棋、接著通過不斷下棋變得日益強大的，就像你我會做的那樣。”Hassabis可能看上去還像個學生，但是他現在笑得像是為孩子感到自豪的傢長。AlphaGo是他在職業生涯中獲得的最讓人興奮的成就。“這個量級超出瞭任何人的想象，”他對此津津樂道，“不過對於我們來說，最重要的是，這不是一個使用手工打造的規則的專傢系統。使用通用用途的機器學習技術，它自己學會並精通瞭這個遊戲。最終，我們希望將這些技術應用於中藥的現實世界的問題上，比如氣候建模或是復雜病癥分析，對吧？所以開始想象它可能下一步會解決什麼問題是非常激動人心的。”
“氣候建模，復雜病癥分析 開始想象它可能下一步會解決什麼問題是非常激動人心的。” Demis Hassabis
我第一次見到Hassabis是在2014年夏天，那是DeepMind被收購之後幾個月。從那時起，我一直觀察著他在各種各樣的環境中工作，在過去的8個月裡也曾在不同情況下對他進行瞭3次正式采訪。這段時間裡，我看著他從一個谷歌的AI天才逐漸成長為一個言辭鑿鑿的溝通者，找到瞭有效的方式向我這種非科學傢描述他那極其復雜的工作 他對那些工作熱情洋溢 以及為何他的工作是重要的。他用詞質樸而易懂，非常擅長深入淺出地講解DeepMind使用的方法 也就是結合舊有和全新的AI技術 比如，在圍棋中，使用瞭傳統的“樹搜索”方法來分析落子效果，以及新穎的“深度學習網絡”（它模擬瞭大腦中的神經元網絡） 還有他們對不同領域AI研究的方法學“聯姻”。
在DeepQ中，他們將深度神經網絡與“強化學習”
台中頂級月子中心相結合，強化學習是所有動物都用到的、通過大腦中多巴胺驅動的獎勵系統進行學習的方法。在AlphaGo中，他們更進一步，增加瞭另一個更深度的強化學習，用來處理長期規劃。下一步，他們將會整合其他的，比如說記憶能力，以及其他的東西 直到理論上所有的智力裡程碑（intelligence milestone）都就位。“我們在這些能力的數量方面有一個想法，”Hassabis說道，“結合所有這些不同的領域會是一把鑰匙，因為我們有興趣的是能夠將在某個領域中學到的東西應用到另一個領域中的算法。”
這聽上去有一點像人類自身。對於他簡歷的第一印象可能是他對一切都一知半解的好奇心，從棋盤遊戲到視頻遊戲到計算機編程到認知神經科學，更不用說人工智能瞭。事實上，他能取得今天的地位是因為聚焦於一點：將他強大的、幾十年一遇的智力與他畢生鉆研的那些領域精心結合。（簡要重點回顧：8歲編寫自己的計算機遊戲；13歲國際象棋達到大師水平；17歲創造最早的包含AI的遊戲之一“主題公園”；20歲從劍橋大學獲得計算機科學雙重一級榮譽學位（double first）；不久之後創辦自己的開創性視頻遊戲公司Elixir；在2011年創辦DeepMind之前一直在被譽為“拼圖的最後一塊”的海馬體和情節記憶方面進行開拓性的學術研究）
“我很容易感到厭倦，而這個世界是那麼有趣，有那麼多很棒的事情可以做，”他承認（他也保持著蟬聯5屆腦力奧林匹克運動會全能腦力王（Pentamind）稱號的紀錄，腦力奧林匹克運動會中，參賽者們通過各種遊戲進行比賽）。“如果我是一個體育運動員，我一定會想要成為一個十項全能選手。”
體育運動比賽的榮耀從未垂青於他。雖然Hassabis是利物浦球隊的忠實粉絲，也喜歡觀看所有的體育比賽，他4歲時開始下國際象棋，隻有僅僅一年就在國內立於不敗之地，並在不久之後世界無敵。想必這很明顯地預示瞭他日後的生命將以腦力為重心。
1976年的倫敦北部，他誕生在一個有希臘-塞浦路斯混血的父親和新加坡-中國混血的母親的傢庭中，是3個孩子中的老大。他的父母都是教師，曾經開過玩具店。他的妹妹是一位作曲傢和鋼琴傢；他的弟弟研究的是創造性寫作。對科技的熱情並沒有盤踞在這個傢庭中。“在我傢，我絕對是一頭奇怪的黑羊，”他開瞭一個玩笑，回憶起他小時候怎樣把國際象棋比賽的獎金花在當時的個人電腦ZX Spectrum 48K和Commodore Amiga上 買回來以後，他立刻將它們拆開，找出瞭如何編程的方法。“我的父母都是不喜歡新科技的人。他們不怎麼喜歡計算機。他們有一些像波西米亞人。我的妹妹和弟弟也都走瞭藝術傢的路線。他們沒有一個人真的對數學或是科學有興趣，”他聳瞭聳肩，有些抱歉的意思，“所以，好吧，這有些怪異，我不太確定（我的）這一切是從哪兒來的。”
他的公司在谷歌收購時隻有50名員工，現在已經雇傭瞭接近200人；他們來自超過45個國傢，將位於倫敦國王十字地區一角的大樓的6個樓層都占滿瞭。Hassabis下定決心要讓他的公司接近他的根源，無論受到何種搬遷的壓力（想必也包括搬遷往矽谷山景城）。
“倫敦北部生養瞭我，”他提醒我，“我絕對熱愛這座城市，這就是為什麼我堅持留在這裡：我不覺得有什麼理由說倫敦不能擁有一個世界頂級AI研究所。而且我對於我們所在的地方感到非常自豪。”所有的房間都以智力上的巨人命名：特斯拉、拉瑪奴江、柏拉圖、費曼、亞裡士多德。還有瑪麗 雪萊（他是粉絲嗎？“當然，”他向我保證，“《科學怪人（Frankenstein）》我讀瞭好幾遍。時刻記得這些東西是很重要的。”）
一樓是一間咖啡屋和裸露著磚塊結構的接待臺，擺著儲存椰子水的冰箱、桌上足球機和沙包，就像你對一傢世界上最雄心勃勃的科技公司的期待一樣。上樓以後，在原本的樓頂上是新添的現代開放式結構，放眼望去，滿目都是倫敦的屋頂風光，美麗得讓人難以抗拒。
星期五的晚上，DeepMind的員工就在這裡聚會歡飲。一位員工熱情地向我描述這個聚會，說是“醉人地結束一周”的方法。社交是一種內在生活方式：他們告訴我DeepMind內部有跑步俱樂部、足球隊、還有棋盤遊戲俱樂部。墻上有一幅帶有可移動照片的位置圖，上面標明瞭每個人在特定某天會出現在哪張辦公桌上（hot-desking）。這是一種激進的開放式環境。走廊中與我擦肩而過的工程師們 大部分是男性 粉碎瞭我對於在科學的枯燥角落工作著的人們的刻板印象：這些傢夥看上去健康，快樂，又酷炫。不得不說，空氣中散發著一股才智的迷人氣息。盡管有許多谷歌的最大競爭對手們都越來越多地重視起AI，更不用說全球的一流大學瞭，但是毫無疑問，地球上最聰明的人們都在排著隊想進入這裡工作，到現在為止離職率還是漂亮的0%。
“我們真的很幸運，”Hassabis說，他將他的公司與阿波羅計劃和曼哈頓計劃類比，因為他正在以越來越快的速度集結起來的研究人員的質量和DeepMind的野心都讓人驚嘆不已。“每一年，毫不誇張地說，我們都能夠從每個國傢獲得最好的科學傢。所以我們將會有，比如說，波蘭的奧林匹克物理冠軍，法國的頂尖數學博士。我們已經有的想法比我們已經有的研究人員還要多，不過與此同時，青睞我們的優秀人才數量也比我們能接收的還要多。所以我們正處在一個非常幸運的位置。唯一的局限是，在不傷害公司文化的前提下，我們能吸收的人員數量。”
這種文化不隻是沙包、免費的零食和屋頂的啤酒。Hassabis堅持不讓谷歌的收購以任何方式強行影響他自己的研究路徑，他估計自己花費瞭“至少和思考算法一樣多的時間來思考DeepMind的運轉效率”，並將這傢公司描述為“調和瞭最好的學術圈與最激動人心的初創企業，擁有令人難以置信的能量來為創造力和成就助力。”他好幾次提到“創造力”這個詞，他觀察到，雖然他接受的正式訓練都來自於科學領域，但是他“本能地站在創造力或是直覺的一側”。“我談不上是一個標準的科學傢，”他評價道，看上去並無諷刺之意。對於DeepMind的構造來說至關重要的，是被他稱作“膠水大腦（glue minds）”的人才：能夠在相當程度上理解無數科學領域、以此“用某種別具一格的方式找到不同領域間的連接點、隨後迅速鑒別出有前途的交叉領域連接可能是什麼”的博學者。符合標準以後，這些像膠水一樣的人才可以每隔幾周在工作中的小組中登記信息，隨後快速靈活地在需要時調用資源和工程師。“所以如果你有一個讓人吃驚的天才研究員，那麼幾乎立刻 與學術圈中不同 就會有三四個來自其他領域的人可以接過他的指揮棒、將自己的智慧添加進去，”他這樣描述道，“這會導致令人震驚的結果的產出速度非常迅速。”啟動於僅僅18個月前的AlphaGo項目就是對這一點的完美闡釋。
每天晚上，Hassabis都要登上北線列車，及時回傢與傢人團聚、享用晚餐。他們居住在海格特，離他長大的地方不遠。他的妻子是一位意大利分子生物學傢，研究的是阿茲海默病。他們的兩個兒子一個7歲，一個9歲。Hassabis會與他們一起玩遊戲、讀書，或是幫他們一起做作業（“他們都以自己的方式發揮著聰明才智，但是他們幾乎就像我對立的兩面，一面是科學，一面是創造”）。
他會帶他們上床睡覺，就像任何一個普通人傢的父親一樣。隨後，大概晚上11點左右，當大部分人可能都合理地預計將要睡覺瞭的時候，他開始瞭他自己說的“第二天”。與美國方面的常規Skype通話將會持續到凌晨1點。之後是“純粹思考的時間。直到凌晨3點或是4點之前，那是我用來思考的時間：思考研究，思考我們的下一個挑戰，或是寫一份算法設計文檔”。
並沒有太多真正的AI代碼，他承認，“因為我的數學現在已經不行瞭。這更像是直覺性的思考。或者可能是對公司的策略性思考：如何擴張它，如何管理好它。或者可能隻是我從一篇文章裡讀到的東西、或是那一天從新聞裡看到的東西，我會思考我們的研究能如何與它相連。”
這讓我想起瞭AlphaGo，它就在谷歌強大到難以想象的計算雲中，不停地下棋、下棋、下棋，每一天的每一分每一秒都在自我提高，因為它學習的唯一方式就是繼續不停地做下去…
“它休息過嗎？”我問。
“沒有。無休無止！它甚至沒有聖誕假期。”
我猶豫瞭一下。“它需要休息嗎？”
“也許它就喜歡這樣，”他駁回瞭我的話，眼神閃亮。
懂瞭。所以Hassabis自己呢？“絕對是超人，”他的一位同事順口告訴過我。他關機休息過嗎？他能夠讓自己關機休息嗎？“這很難，”他承認，“我從來沒有真的感到過工作與生活對立的問題；它們是同一張畫佈上的部分。我的確喜歡讀書、看電影、聽音樂，但這些都傾向於和我做的事有所關聯。”（他是一個影迷，與最近執導AI電影《Ex Machina》的Alex Garland是朋友；他也提到瞭他剛與美國電影制片人Brian Grazer見過面，那是一個“真的很酷的傢夥”，而他們的會面討論的是，你猜得到的，就是AI）。“我的大腦就是為它而運轉的。”
那他的孩子、朋友、還有日常生活呢？“當然，我在試圖保持腳踏實地，否則我會變得有點瘋狂。關於孩子，最神奇的一點是，他們是唯一能讓你以類似的方式度過時間的存在。”
“如果存在超越瞭人類智能的數字智能，那麼‘助手’這個詞就不是一個正確的描述瞭。” Elon Musk
他和自己的朋友們保持著親密的關系：他在UCL讀博士的時候遇到瞭DeepMind的聯合創始人之一Shane Legg，另一位Muatafa Suleyman則是他的發小。他講述瞭一段令人愉快的經歷：他在劍橋大學時與本科同學Dave Silver成瞭朋友，隨後在空閑時間教他如何下棋盤遊戲，包括某種古老的中國遊戲。二十年後，我註意到，David Silver是DeepMind裡圍棋項目的主要程序員，而且也是最近這篇《自然》論文的第一作者。“是的，Dave和我認識很久瞭，”Hassabis笑著說，“我們曾經夢想在未來做這件事情，所以19歲的我們可能對於現在取得的這個成就感到非常欣慰。”
他沉思瞭一下，補充道：“雖然如此，但我真的沒有多少日常生活。在所有醒著的時刻，我都在思考這些東西，也許在我夢裡也是這樣。因為它是如此讓人興奮，如此重要，也是我最有熱情的事情。”
他的眼裡有一種神采，我隻能用熠熠生輝來描述，就像孩子一樣天真無辜。“我覺得太幸運瞭。我想不出比我正在研究的更有趣的問題瞭，而且我也可以每天都思考這些問題。每時每刻，我都在致力於做那些我抱有信心的事。否則的話，生命如此短暫，為何還要做這些（不抱信心的）事呢？”
如果史蒂芬霍金、比爾蓋茨、Elon Musk、Jaan Tllinn、Nick Bostrom和其他一些偉大科學傢對於AI的恐懼成真瞭，那麼我們的生命可能會比我們預期的要短很多。對AI的顧慮從未經審查的人工通用智能武裝、到揮散不去的“技術奇點”的陰影，最終是讓機器有能力迭代地自我完善的“智能爆炸”，這會讓機器的智能超越人腦的智能，接著，就是超越人類的控制。如果超級智能之災即將來臨，那麼過去的歷史是無法可靠地指示我們預見到這一點、在一切無法挽回前退出AI軍備競賽的。“當你看到某樣東西在技術上很誘人時，”Robert Oppenheimer曾經觀察到，這非常著名，“你會上前研究它；而隻有在你取得瞭技術成果以後，你才會回過頭來討論應該用它來做什麼。”“如果有辦法能確保超級智能永遠不會傷害人類，”Bostrom在幾十年後說道，“那麼這樣的智能將會被創造出來。如果沒有這樣的保證，可能無論如何它們也會被創造出來。”“成功創造AI，”霍金在最近簡練地總結道，將是“人類歷史上最大的事件。但不幸的是，它可能也是最後一個事件。”
“好吧，我希望不會這樣，”Hassabis面不改色地說。在他看來，公眾對人工通用智能危言聳聽的態度，模糊瞭它近期巨大的潛力和價值，而且在根本上就錯位瞭，尤其是在時間上。 “我們距離任何類似人類水平的通用智能的東西都還有幾十年的時間，”他提醒我，“我們還踩在梯子的第一條橫杠上。我們都不過是在玩遊戲。”他也認同，有一些“我們應該現在就考慮起來的法律風險”，但是他堅定地認為，這些要考慮的風險不是科幻小說中超級智能機器把它們的人類創造者無情消滅的反烏托邦場景。
此外，他強調，談到減少人工通用智能的潛在危險時，這個領域的領導者是DeepMind。雖然，很明顯，這傢公司不像政府領導的阿波羅計劃和曼哈頓計劃那樣需要接受官方審查，但它的運作也相當透明。它傾向於發佈自己的代碼，而它接受谷歌收購時的協議也包含瞭禁止將它的技術應用於軍備或是智能應用的條款。Hassabis和他的同事們在召開2015年波多黎各人工智能大會方面起到瞭重要的作用，並且簽署瞭公開信宣誓為“良好的目的”而使用技術，同時“避免潛在的陷阱”。最近他們幫助協辦瞭另一場在紐約的會議，會議期間他們組建瞭被大肆報道的內部倫理委員會和咨詢委員會（雖然是私下組建的）。“Hassabis對人工智能的安全性爭議瞭解得非常透徹，”Murray Shanahan說，“他當然不是幼稚的人，也不會把頭埋在沙子裡當鴕鳥。”
“在鼓勵圍繞這些問題展開對話溝通這一方面，DeepMind一直是行業中的佼佼者，”Bostrom對此表示贊同，“並且在致力於進行一些未來可能需要用於解決這些挑戰的研究方面也是如此。”
我讓Hassabis列出他認為的未來主要的長期挑戰。“隨著這些系統變得越來越復雜，我們需要開始思考它們能怎樣做出優化、能對什麼做出優化，”他回答道，“技術本身是中性的，但它是一個學習系統，所以，不可避免地，它們會帶有一些設計者的價值體系和文化背景的印記，所以我們對於價值觀的思考必須非常謹慎小心。”
關於超級智能問題，他說：“我們需要確保設定的目標是正確指明的，並且其中沒有任何模棱兩可的東西，隨著時間推移也依舊穩定。但在我們所有的系統中，最高級的目標仍然要由它的設計者們指定。系統可能會得出自己的方法來實現這個目標，但是它自己是不會創造一個自己的目標的。”
他用毫無動搖的語調寬慰我。“看，這些都是既有趣又困難的挑戰。隨著配備上所有新穎強大的技術，人工智能需要被負責地、符合倫理地使用，而這就是為什麼我們現在正積極地呼籲對這個問題展開辯論和研究，那麼當時候到來時，我們才會準備充足。”
什麼的時候到來？機器變得超級智能的時候，還是它們超越人類的時候？他笑瞭起來，“不，不，不，我指的是還要在那些之前！”（我覺得他是在開玩笑，盡管在2011年，他的同事Shane Legg的確說過：“我認為人類滅絕這件事可能會發生，而技術有可能在其中發揮不小的作用。”）Hassabis澄清道：“我的意思是，當這些系統強大到不隻是會玩遊戲時，我們放任它們處理更現實、更重要的事，比如醫療。然後我們需要確保我們知道它們將會有怎樣的能力。”他對我露齒一笑：“那將會阻止機器掌管世界的情景成真。”
Hassabis經常微笑。他待人友好，言辭讓人信服。他所說的一切似乎都很有道理，並不自以為是，而且誰知道呢：說不定人工通用智能將一直處於在我們的控制之下。但是許多人仍持懷疑的態度。“顯然，如果存在一個任何方面都大大超過人類的數字智能，‘助手’這個詞就不是一個正確的描述瞭。”Elon Musk反對道，他最近將AI技術的進步描繪成人類“正在召喚一個惡魔”。這位SpaceX的創始人、Tesla和PayPal的聯合創始人，曾經是DeepMind最早的投資者之一，但他投資DeepMind不是為瞭獲得金錢上的回報。“我的投資並不是為瞭投資所帶來的經濟利益，”他在加利福尼亞州的辦公室中這樣對我說，“我投資DeepMind的原因僅僅是因為想對AI的進展與威脅有更好的理解。如果我們對AI不夠小心，讓一些不好的事情發生瞭，到那時銀行存款將變得毫無意義。”
“Elon是這個行業裡最聰明的人之一，並且有著驚人的溝通能力，”Hassabis態度中立地回應道，“而且我真的認為，像他這樣的人正在如此關註AI，是一件很酷的事情，因為這恰恰顯示瞭AI是一件大事。”他保持著外交辭令般的回應，但是來自其他領域的科學傢放肆地公開對AI下斷言這樣的事確實激怒瞭他：畢竟，你沒有聽到過他對粒子物理學指手畫腳。
“總體來說，我發現瞭那些不真正在AI領域工作的人對於AI的理解都是不完全的。他們通常都沒有與許多AI專傢交談過，所以他們腦袋裡的思想實驗總是把他們帶偏，因為這些想法都是基於一些我認為即將被證明是錯誤的假設。”他又再一次提到，他組織的內部倫理委員會和咨詢委員會 其中都是來自各個科學和哲學領域的頂尖學者 將會管理未來任何的人工通用智能技術的應用。他毫不動搖地堅持現階段不公開進程的決定。“之前沒有任何人嘗試做過類似的東西，所以在我們對於公眾揣測我們在Twitter或者其他什麼東西上做瞭什麼能有額外的審查之前，我們還有許多事情需要探索，從第一天就要開始。”這個初始階段，他說，是關於“給每個人提供最新的消息，這樣下一階段我們才能準備好討論實際的算法和應用。對於許多參與其中的人來說，這不是他們的核心領域。我們需要他們的專業知識，但是他們必須弄清楚將會發生什麼事。”
史蒂芬霍金作為一個“得到最新消息”意味著什麼的榜樣，被人引以為鑒。Hassabis最近邀請霍金在劍橋大學進行私人會談。“僅僅是見到他對於我來說就顯然是巨大的榮耀瞭，” Hassabis興奮地說著，拿出手機 無論他的新東傢怎麼看，Hassabis仍然是霍金的擁躉 向我展示瞭他和霍金的自拍合照。“我們本來隻安排瞭1個小時的時間，但是他提出瞭那麼多的問題，以至於我們最後談瞭4個小時。他錯過瞭午餐，所以他的陪同人員不大喜歡我。”
在他們的會面之後，Hassabis指出，霍金沒有再在媒體報道時提及“任何關於AI的有煽動性的言論”；最令人驚訝的是，在他上個月的BBC Reith講座上，他所列出的他認為將會對人類產生威脅的列表上沒有將AI技術。“可能聽到更多關於實用性、更多關於我們可能建立的真實的系統，以及我們對這些系統能夠有的監察和控制的討論，的確起到瞭作用。” Hassabis大膽地猜想道。他環顧這間有許多佈滿瞭難以辨認的字跡的白板的屋子。“一旦你理解瞭工程，這一切看上去就變得好理解多瞭，也合理得多瞭。”
很明顯，我沒有希望做到這一點，但是他真的相信霍金轉變瞭思想嗎？“我想，在談話的最後，是的，他寬慰瞭不少。他擁有這種好笑的、幹巴巴的幽默感，在我離開之前，我對他說，‘所以你怎麼想呢？’，然後他把打出瞭這樣的字，‘我祝你好運’。隨後，他眼裡閃爍著的光芒，又補充道，‘但是不要太多。’”Demis Hassabis給瞭我一個勝利的微笑，說到：“我當時想，‘我會把這當做是勝利的宣告’。”
台灣電動床工廠 電動床
台灣電動床工廠 電動床
AUGI SPORTS｜重機車靴｜重機車靴推薦｜重機專用車靴｜重機防摔鞋｜重機防摔鞋推薦｜重機防摔鞋
AUGI SPORTS｜augisports｜racing boots｜urban boots｜motorcycle boots
一川抽水肥清理行｜台中抽水肥｜台中市抽水肥｜台中抽水肥推薦｜台中抽水肥價格｜台中水肥清運
文章定位：
