原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時(shí)代》專訪，呼吁 AI 圈減少科研競(jìng)賽！最近，時(shí)代雜志邀 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對(duì)當(dāng)下 AI 發(fā)展的看法和擔(dān)憂但貌似網(wǎng)友不怎么賬。DeepMind 一直是谷歌的驕傲。作為谷虢山母公 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實(shí)室之一。成立 13 年，它交出的成績(jī)單，十分亮眼。不不說(shuō)，DeepMind 在算法上是有點(diǎn)東西的。2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，這狕第一用于為矩陣乘法等本計(jì)算任務(wù)發(fā)現(xiàn)新、高效、正確算法 AI 系統(tǒng)?，F(xiàn)在，所有人都意識(shí)到，AI 正處于時(shí)代的「風(fēng)口浪尖」。ChatGPT 雖然寫作能力媲美人類但很難規(guī)避掉訓(xùn)練據(jù)中的錯(cuò)誤信息和毒偏見。更可怕的，現(xiàn)在計(jì)算能力已變得越來(lái)越低廉，AI 對(duì)普通大眾的門檻越女祭越低。DeepMind CEO Demis Hassabis 對(duì) AI 發(fā)展的趨勢(shì)感到擔(dān)峚山，他擔(dān)心，AI 會(huì)被用于制造可怕的弇茲具，破壞人的文明。不過(guò)，也網(wǎng)友吐槽，「我很賞他的立場(chǎng)，但是競(jìng)爭(zhēng)對(duì)手試圖盡可快地朝著同一個(gè)目前進(jìn)時(shí)，這些 AI 開發(fā)公司怎么能不加快鳋魚動(dòng)呢？」還網(wǎng)友說(shuō)，他是想為趕 OpenAI 爭(zhēng)取時(shí)間 hhhhhh。DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI接下來(lái)就讓我們看看，Hassabis 在這次的對(duì)話中，都瞿如露了些重要信息。時(shí)代志專欄記者 BILLY PERRIGO 采訪了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的問(wèn)。Demis Hassabis 站在螺旋樓梯的中間，視著他建造的大教，這座跨越三層樓 DNA 雕塑是 DeepMind 最近開設(shè)的倫敦總的核心46 歲的 Hassabis 一直致力于解決關(guān) AI 的永恒問(wèn)題：AI 是什么？其中埋藏著哪些可能？人類如何從中獲更多能力？Hassabis 說(shuō)他的團(tuán)隊(duì)一直在努力實(shí)現(xiàn)個(gè)更宏偉的目標(biāo)：個(gè)目標(biāo)是構(gòu)建一個(gè)夠自主思考、學(xué)習(xí)解決人類最棘手問(wèn)的機(jī)器來(lái)實(shí)現(xiàn)通用工智能（AGI）。今天的人工智能是隘的、脆弱的，而根本不算智能。Hassabis 認(rèn)為，AGI 將成為一種劃時(shí)代的長(zhǎng)乘術(shù)，像電力的利用一樣變?nèi)祟惿畹慕Y(jié)構(gòu)就連他自己也把推主頁(yè)的簽名改成了致力于 AGI，嘗試了解現(xiàn)實(shí)的基本質(zhì)」。但人工智能前景也伴隨著風(fēng)險(xiǎn)研究人員構(gòu)建的設(shè)新藥的 AI 程序可以很容易制造出命的生化用品，大模訓(xùn)練的 AI 模型可能被仇恨言論利用。OpenAI 開發(fā)的爆款 ChatGPT 因其容易受到種族巫彭義和誤信息的影響而受批評(píng)，小公司 Prisma Labs 也是如此，許多用戶抱怨 Lensa 將他們的圖像性感化，暴露出其訓(xùn)練據(jù)中的偏見。Prisma Labs 開發(fā)的 AI 增強(qiáng)自拍軟件 ——Lensa正是在這種不確定的氣氛雅山，Hassabis 同意接受這次的采訪，他日益增長(zhǎng)的擔(dān)憂出嚴(yán)厲警告，「我議放緩 AI 前進(jìn)的速度，至少不要快」。就像 Facebook 用戶數(shù)量飆升至 30 億之時(shí)，大家都在歡雀躍，但當(dāng)虛假信、仇恨言論甚至煽種族滅絕開始出現(xiàn)平臺(tái)上時(shí)，也讓公措手不及。Hassabis 看到了人工智能發(fā)展畢山令人憂的趨勢(shì)，他說(shuō)：工智能現(xiàn)在正處于口浪尖，能夠制造可能對(duì)人類文明造嚴(yán)重破壞的工具，敦促他的競(jìng)爭(zhēng)對(duì)手以前更加謹(jǐn)慎，但多數(shù)人并沒(méi)有意識(shí)其中存在的危險(xiǎn)性從國(guó)際象棋手到攪風(fēng)云的 CEO和其他同齡人不太一樣Hassabis12 歲時(shí)就已經(jīng)是世界排名第二驕山國(guó)際棋棋手，并提前一從高中畢業(yè)。Hassabis（左）9 歲時(shí)擔(dān)任英格蘭 11 歲以下國(guó)際象棋隊(duì)隊(duì)長(zhǎng)他還在初時(shí)就已經(jīng)開始思考些改變?nèi)祟悮v史的問(wèn)題，他說(shuō)：我想解那些大問(wèn)題，那通常會(huì)與哲學(xué)或物學(xué)領(lǐng)域相關(guān)的大的題，我認(rèn)為構(gòu)建 AI 將是回答其中一些問(wèn)題的最峚山途徑Hassabis 走進(jìn) Guildford 的 Bullfrog 視頻游戲工作室時(shí)只有 15 歲。他還參加了一家黑狐子游戲雜志比賽，以贏得在著工作室實(shí)習(xí)的機(jī)會(huì)他設(shè)計(jì)的一個(gè)太空略者風(fēng)格的游戲還得了當(dāng)季銷售量第的成績(jī)。Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見到 Hassabis 的樣子，莫利紐克說(shuō)：他看起來(lái)像指王里的精靈，這是個(gè)從他身邊走過(guò)，至都不會(huì)注意到的孩子，但他的眼中爍著智慧的光芒。去 Bullfrog 的圣誕晚會(huì)的公交車上一次偶然的話中，這位少年迷了 Molyneux。他們談到了游戲的哲鯩魚，是什么讓利如此吸引人，以你是否可以將這些同的特征灌輸?shù)綑C(jī)中，那時(shí)他就知道個(gè)年輕人注定要成大事。邊讀博，邊軍游戲圈從劍橋大畢業(yè)后，Hassabis 回到 Bullfrog 幫助 Molyneux 開發(fā)了他迄今為止最受歡迎的鰼鰼戲：Theme Park，一款玩家從上帝角經(jīng)營(yíng)游樂(lè)場(chǎng)業(yè)務(wù)模擬游戲。在決定讀神經(jīng)科學(xué)博士學(xué)之前，Hassabis 繼續(xù)建立了自己的彘山戲公司。他了解大腦的算法層：不是微觀神經(jīng)元間的相互作用，而似乎產(chǎn)生人類強(qiáng)大能的更大結(jié)構(gòu)。思是宇宙中最難以捉的事物，從象棋到戲再到神經(jīng)科學(xué)，一生的經(jīng)歷和職業(yè)跡都為了發(fā)現(xiàn)其中奧秘。2013 年，DeepMind 成立第三年，谷歌來(lái)敲門了。長(zhǎng)蛇群谷高管乘坐私人飛機(jī)往倫敦，Hassabis 向他們展示了團(tuán)隊(duì)的作品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。DeepMind 算法背后的標(biāo)志性技 —— 強(qiáng)化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時(shí)沒(méi)有做過(guò)的事螽槦。它靈感來(lái)自人腦的學(xué)方式，這是 Hassabis 在他作為神經(jīng)科學(xué)家期間成的一種理解。AI 在游戲中的數(shù)百萬(wàn)次訓(xùn)練，每后土得分會(huì)得到獎(jiǎng)勵(lì)，并通基于點(diǎn)的強(qiáng)化過(guò)程習(xí)最佳策略。Hassabis 和他的同事們堅(jiān)信諸犍游戲境中訓(xùn)練人工智能這種方法的好處給歌高管留下了深刻印象?！肝伊⒖叹?上了他們，」領(lǐng)導(dǎo)次考察之旅的谷歌高級(jí)副總裁 Alan Eustace 說(shuō)。目前，Hassabis 最愛(ài)的一款游戲名為 Polytopia。在這款策略游戲中，家的目標(biāo)是通過(guò)技進(jìn)步，將一個(gè)小村發(fā)展成為一個(gè)統(tǒng)治界的帝國(guó)。Hassabis 說(shuō)，馬斯克也是這款游戲的絲。兩人最后一次談是在幾個(gè)月前，要聊的就是 Polytopia。雖然 Hassabis 為人謹(jǐn)慎，但很容易理解，為什么游能與他產(chǎn)生共鳴。仍然相信技術(shù)進(jìn)步質(zhì)上對(duì)人類有益。在資本主義制度下預(yù)測(cè)和減輕 AI 的風(fēng)險(xiǎn)是可能的。科學(xué)和技術(shù)的進(jìn)步這就是文明的驅(qū)動(dòng)，」他說(shuō)。被馬斯拋棄但就在 DeepMind 不斷攀登新高度的時(shí)候，情開始變得復(fù)雜起。2015 年，其最早的兩位投資者億萬(wàn)富翁彼得?泰和埃隆?馬斯克，過(guò)資助競(jìng)爭(zhēng)對(duì)手初公司 OpenAI 象征性地背棄了 DeepMind。該實(shí)驗(yàn)室隨后獲得微軟 10 億美元的資助，它美山相信 AGI 的可能性，但對(duì)于如何麈現(xiàn)這目標(biāo)有著截然不同理念。它對(duì)游戲沒(méi)么感興趣。它的大分研究都不是集中強(qiáng)化學(xué)習(xí)上，而是中在無(wú)監(jiān)督學(xué)習(xí)上這是一種不同的技，涉及從互聯(lián)網(wǎng)上取大量數(shù)據(jù)并將其過(guò)神經(jīng)網(wǎng)絡(luò)抽取。 DeepMind、谷歌和其他 AI 實(shí)驗(yàn)室一直在閉門進(jìn)行類似研究時(shí)，OpenAI 更愿意讓公眾使用其工具2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可以想象鸀鳥的搜詞的圖像，以及聊機(jī)器人 ChatGPT。由于這兩種工具都是根據(jù)從互聯(lián)上收集的數(shù)據(jù)進(jìn)行練的，因此它們受結(jié)構(gòu)性偏見和不準(zhǔn)的困擾。DALL?E 2 很可能將律師描繪成白韓流老頭將空姐描繪成年輕女，而 ChatGPT 則容易自信斷言虛假信息。但是盡管 Hassabis 呼吁放慢 AI 競(jìng)賽的步伐，但 DeepMind 似乎也未能幸免于競(jìng)爭(zhēng)壓力。2022 年初，該公司發(fā)布了更快引擎領(lǐng)胡藍(lán)圖這項(xiàng)名為 Chinchilla 的研究表明，許多業(yè)界前沿的模型訓(xùn)練效低下，并解釋了它如何能夠以相同水的計(jì)算能力提供更功能。Hassabis 說(shuō)，DeepMind 的內(nèi)部道德委員會(huì)討堤山了發(fā)研究是否不道德，為它可能會(huì)讓不那謹(jǐn)慎的公司在沒(méi)有格保護(hù)的情況下發(fā)更強(qiáng)大的技術(shù)。人智能巨頭的道德紅置身其中，Hassabis 深知人工智能可能產(chǎn)生的危?！杆靼?AI 技術(shù)對(duì)社會(huì)影響深，他想在技術(shù)發(fā)明前就能有所了解，Eustace 說(shuō)。「這就像國(guó)際象。如何面對(duì)殘局？何預(yù)測(cè)二十步之后發(fā)展？」Eustace 向 Hassabis 承諾，谷歌也有同樣的擔(dān)憂兩者之間的利益一。Eustace 說(shuō)，谷歌的使命是引所有人類的知識(shí)使之易于訪問(wèn)，并終提高世界的智商谷歌前高級(jí)副總裁 Alan Eustace「我認(rèn)為這引起了他的共鳴?！?014 年，谷歌以約 5 億美元的價(jià)格收購(gòu)了 DeepMind。Hassabis 拒絕了來(lái)自 Facebook 的更高報(bào)價(jià)。他說(shuō)，其中一個(gè)原因，與 Meta 不同，谷歌「非常樂(lè)接受」DeepMind 劃定的道德紅線。Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的飛鼠表。以身作，在這個(gè)充滿追求快更強(qiáng)的領(lǐng)域做好己。DeepMind 發(fā)布了反對(duì)不道德使講山其技術(shù)（包監(jiān)視和武器化）的紅線」。但它卻沒(méi)阻止母公司谷歌，用自己搭建的 AI 系統(tǒng)，和五角大樓進(jìn)行科技合作。2021 年，Alphabet 結(jié)束了與 DeeMind 長(zhǎng)達(dá)數(shù)年的談判。據(jù)談判結(jié)果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來(lái)工作若山由谷高級(jí)技術(shù)審查委員監(jiān)督，其中包括兩 DeepMind 高管。Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計(jì)，但沒(méi)有表示自己公司目前架構(gòu)的擔(dān)。但他補(bǔ)充說(shuō)，自購(gòu)以來(lái)，DeepMind 的道德結(jié)構(gòu)已經(jīng)「演變?yōu)楝F(xiàn)在樣子」。Hassabis 說(shuō)，DeepMind 和 Alphabet 都致力于公共道德框，并從一開始就將全納入他們的工具DeepMind 有自己的內(nèi)部道德員會(huì)，即機(jī)構(gòu)審查員會(huì)（IRC），由公司所有部門的代組成，首席運(yùn)營(yíng)官 Lila Ibrahim 擔(dān)任主席。DeepMind 首席運(yùn)營(yíng)官 Lila IbrahimIbrahim 說(shuō)，IRC 定期舉行會(huì)議，任何分歧都升級(jí)到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做出最終兵圣定。說(shuō)，「我們的運(yùn)作分自由，有一個(gè)單的審查流程?！巩?dāng)問(wèn)及如果 DeepMind 的領(lǐng)導(dǎo)團(tuán)隊(duì)不同意 Alphabet 高層的決定，或者公司的道「紅線」被越過(guò)會(huì)生什么時(shí)，Ibrahim 說(shuō)：「我們還沒(méi)有遇到赤鷩個(gè)問(wèn)?！笰lphaGo：震驚世界的人機(jī)戰(zhàn)在 DeepMind 總部大廳遠(yuǎn)處墻壁的玻璃柜中，著一塊涂有黑色涂的大方形木頭。這 DeepMind 第一次重大成功的紀(jì)念品。谷歌收購(gòu)不久，該公司就為己設(shè)定了挑戰(zhàn)，即計(jì)一種算法，在圍中擊敗世界上最好棋手。當(dāng)時(shí)，國(guó)際棋早已被蠻力計(jì)算編程所征服，但圍要復(fù)雜得多；最好人工智能算法仍然法與頂級(jí)人類玩家提并論。DeepMind 以破解 Breakout 的方式解決了這個(gè)問(wèn)。它建立了一個(gè)程，在通過(guò)觀察人類戲來(lái)學(xué)習(xí)游戲規(guī)則，它可以與自己進(jìn)數(shù)百萬(wàn)次模擬對(duì)戰(zhàn)通過(guò)強(qiáng)化學(xué)習(xí)，算會(huì)自我更新，減少其更有可能輸?shù)舯?的決策的「權(quán)值」并增加使其更有可獲勝的「權(quán)值」。2016 年 3 月，名為 AlphaGo 的算法與世界頂級(jí)圍棋選土螻之一世石對(duì)決。AlphaGo 以四比一擊敗了他。敗北的李黑色記號(hào)筆在棋盤面潦草地簽下了自的簽名。2016 年，Hassabis 在韓國(guó)慶祝 DeepMind 戰(zhàn)勝圍棋選手李世石右）AGI 驅(qū)動(dòng)的未來(lái)會(huì)是烏托邦嗎Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財(cái)富的時(shí)代已經(jīng)到來(lái)，那數(shù)斯這些富應(yīng)該重新得到分。「我認(rèn)為我們需確保盡可能多的人益 —— 最好是全人類?！顾矚g全基本收入（universal basic income）的想法。在理念，每個(gè)公民每月都從政府那里獲得津和基本服務(wù)。同時(shí)國(guó)家會(huì)保障公民交或住房等基本生活平。Hassabis 說(shuō)，AGI 驅(qū)動(dòng)的未來(lái)應(yīng)該比當(dāng)世界更加注重財(cái)富等，但他沒(méi)有解釋系統(tǒng)將如何運(yùn)作。如果我們生活在一極度富足的世界，么留給不平等的空也越小，不平等產(chǎn)的概率也會(huì)更低。此，如果 AGI 的愿景得以實(shí)現(xiàn)，就是它的積極影響一?！谷欢?，鑒于去幾十年，科技行極速增長(zhǎng)與財(cái)富不等的大幅加劇同時(shí)生，其他人對(duì)這種托邦式的未來(lái)并沒(méi)那么樂(lè)觀。播客節(jié) Tech Won't Save Us 的主持人 Paris Marx 說(shuō)：「大公司，包 DeepMind 的母公司，首要任務(wù)是確保為?魚東創(chuàng)最大價(jià)值。如果不獲利，這些公司根不會(huì)專注于解決氣危機(jī)。當(dāng)公司的全目標(biāo)是為股東積累多財(cái)富時(shí)，他們肯對(duì)重新分配財(cái)富不興趣?！埂肝覀?nèi)?的不是解決氣候危或重新分配財(cái)富的術(shù)，」Marx 說(shuō)?！肝覀?nèi)狈Φ氖?治意愿。目前來(lái)說(shuō)很難看出一項(xiàng)新技的誕生將如何產(chǎn)生治意愿，從而實(shí)現(xiàn)正的社會(huì)轉(zhuǎn)型?！?回 DeepMind 的螺旋樓梯，樓梯中間，擺放著一巨大的 DNA 雕塑。雕塑前的木凳有一個(gè)告知：「請(qǐng)觸碰，」上面寫著「它非常脆弱，很易損壞?！箙⒖假Y：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）