原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時(shí)代》專(zhuān)訪(fǎng)，呼 AI 圈減少科研競(jìng)賽！》最近，時(shí)代雜邀請(qǐng) Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對(duì)當(dāng)下 AI 發(fā)展的看法和擔(dān)憂(yōu)，但貌似友不怎么買(mǎi)賬。DeepMind 一直是谷歌的驕傲。作為谷歌公司 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實(shí)驗(yàn)室一。成立 13 年，它交出的成績(jī)單，十亮眼。不得不說(shuō)，DeepMind 在算法上是有點(diǎn)東西的。2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，是第一個(gè)用于為矩陣法等基本計(jì)算任務(wù)發(fā)新穎、高效、正確算的 AI 系統(tǒng)?，F(xiàn)在，所有人都意識(shí)到了AI 正處于時(shí)代的「風(fēng)口浪尖」。ChatGPT 雖然寫(xiě)作能力媲美人類(lèi)，但很難規(guī)掉訓(xùn)練數(shù)據(jù)中的錯(cuò)誤息和有毒偏見(jiàn)。更可的是，現(xiàn)在計(jì)算能力經(jīng)變得越來(lái)越低廉，AI 對(duì)普通大眾的門(mén)檻越來(lái)越低。DeepMind CEO Demis Hassabis 對(duì) AI 發(fā)展的趨勢(shì)感到擔(dān)憂(yōu)，他心，AI 會(huì)被用于制造可怕的工具，破壞類(lèi)的文明。不過(guò)，也網(wǎng)友吐槽，「我很欣他的立場(chǎng)，但是當(dāng)競(jìng)對(duì)手試圖盡可能快地著同一個(gè)目標(biāo)前進(jìn)時(shí)這些 AI 開(kāi)發(fā)公司怎么能不加快行動(dòng)呢」還有網(wǎng)友說(shuō)，他是為追趕 OpenAI 爭(zhēng)取時(shí)間 hhhhhh。DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI接下來(lái)就讓我們看看，Hassabis 在這次的對(duì)話(huà)中，都露了哪些重要信息。代雜志專(zhuān)欄記者 BILLY PERRIGO 采訪(fǎng)了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的題。Demis Hassabis 站在螺旋樓梯的中間，審視他建造的大教堂，這跨越三層樓的 DNA 雕塑是 DeepMind 最近開(kāi)設(shè)的倫敦總部的核心46 歲的 Hassabis 一直致力于解決關(guān)于 AI 的永恒問(wèn)題：AI 是什么？其中埋藏著哪些可能性？人如何從中獲取更多能？Hassabis 說(shuō)他的團(tuán)隊(duì)一直在努實(shí)現(xiàn)一個(gè)更宏偉的目：這個(gè)目標(biāo)是構(gòu)建一能夠自主思考、學(xué)習(xí)解決人類(lèi)最棘手問(wèn)題機(jī)器來(lái)實(shí)現(xiàn)通用人工能（AGI）。今天的人工智能是狹隘的、弱的，而且根本不算能。Hassabis 認(rèn)為，AGI 將成為一種劃時(shí)代的技術(shù)就像電力的利用一樣變?nèi)祟?lèi)生活的結(jié)構(gòu)。連他自己也把推特主的簽名改成了「致力 AGI，嘗試了解現(xiàn)實(shí)的基本性質(zhì)」。但工智能的前景也伴隨風(fēng)險(xiǎn)。研究人員構(gòu)建設(shè)計(jì)新藥的 AI 程序可以很容易制造出命的生化用品，大規(guī)訓(xùn)練的 AI 模型可能被仇恨言論者利用OpenAI 開(kāi)發(fā)的爆款 ChatGPT 因其容易受到種族主義和錯(cuò)誤信息的影響受到批評(píng)，小公司 Prisma Labs 也是如此，許多用戶(hù)抱怨 Lensa 將他們的圖像性感化，露出其訓(xùn)練數(shù)據(jù)中的見(jiàn)。Prisma Labs 開(kāi)發(fā)的 AI 增強(qiáng)自拍軟件 ——Lensa正是在這種不確定的氣氛中，Hassabis 同意接受這次的采訪(fǎng)，就他益增長(zhǎng)的擔(dān)憂(yōu)發(fā)出嚴(yán)警告，「我建議放緩 AI 前進(jìn)的速度，至少不要太快」。就像 Facebook 用戶(hù)數(shù)量飆升至 30 億之時(shí)，大家都在歡雀躍，但當(dāng)虛假信息仇恨言論甚至煽動(dòng)種滅絕開(kāi)始出現(xiàn)在平臺(tái)時(shí)，也讓公司措手不。Hassabis 看到了人工智能發(fā)展令人擔(dān)憂(yōu)的趨勢(shì)，他：人工智能現(xiàn)在正處風(fēng)口浪尖，能夠制造可能對(duì)人類(lèi)文明造成重破壞的工具，并敦他的競(jìng)爭(zhēng)對(duì)手比以前加謹(jǐn)慎，但大多數(shù)人沒(méi)有意識(shí)到其中存在危險(xiǎn)性。從國(guó)際象棋到攪動(dòng)風(fēng)云的 CEO和其他同齡人不太一，Hassabis12 歲時(shí)就已經(jīng)是世界排名第二的國(guó)際鸀鳥(niǎo)棋手，并提前一年從高畢業(yè)。Hassabis（左）9 歲時(shí)擔(dān)任英格蘭 11 歲以下國(guó)際象棋隊(duì)隊(duì)長(zhǎng)他還初中時(shí)就已經(jīng)開(kāi)始思那些改變?nèi)祟?lèi)歷史的問(wèn)題，他說(shuō)：我想理那些大問(wèn)題，那些通會(huì)與哲學(xué)或物理學(xué)領(lǐng)相關(guān)的大的話(huà)題，我為構(gòu)建 AI 將是回答其中一些問(wèn)題的最途徑。Hassabis 走進(jìn) Guildford 的 Bullfrog 視頻游戲工作室時(shí)只有 15 歲。他還參加了一家子游戲雜志的比賽，贏得在著名工作室實(shí)的機(jī)會(huì)，他設(shè)計(jì)的一太空侵略者風(fēng)格的游還獲得了當(dāng)季銷(xiāo)售量二的成績(jī)。Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見(jiàn)到 Hassabis 的樣子，莫利紐克斯說(shuō)：他看起像指環(huán)王里的精靈，是一個(gè)從他身邊走過(guò)甚至都不會(huì)注意到的孩子，但他的眼中閃著智慧的光芒。在去 Bullfrog 的圣誕晚會(huì)的公交車(chē)上次偶然的談話(huà)中，這少年迷住了 Molyneux。他們談到了游戲的哲學(xué)，是什么勝利如此吸引人，以你是否可以將這些相的特征灌輸?shù)綑C(jī)器中那時(shí)他就知道這個(gè)年人注定要成就大事。讀博，邊進(jìn)軍游戲圈劍橋大學(xué)畢業(yè)后，Hassabis 回到 Bullfrog 幫助 Molyneux 開(kāi)發(fā)了他迄今為止最受歡迎的游戲：Theme Park，一款玩家從上帝視角經(jīng)營(yíng)樂(lè)場(chǎng)業(yè)務(wù)的模擬游戲在決定攻讀神經(jīng)科學(xué)士學(xué)位之前，Hassabis 繼續(xù)建立了自己的游戲公司。他了解大腦的算法層面不是微觀神經(jīng)元之間相互作用，而是似乎生人類(lèi)強(qiáng)大智能的更結(jié)構(gòu)。思想是宇宙中難以捉摸的事物，從棋到游戲再到神經(jīng)科，我一生的經(jīng)歷和職軌跡都為了發(fā)現(xiàn)其中奧秘。2013 年，DeepMind 成立第三年，谷歌來(lái)敲了。一群谷歌高管乘私人飛機(jī)飛往倫敦，Hassabis 向他們展示了團(tuán)隊(duì)的作品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。DeepMind 算法背后的標(biāo)志性技術(shù) —— 強(qiáng)化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時(shí)沒(méi)有做過(guò)的事情。的靈感來(lái)自人腦的學(xué)方式，這是 Hassabis 在他作為神經(jīng)科學(xué)家期間形成的種理解。AI 在游戲中的數(shù)百萬(wàn)次訓(xùn)練，次得分都會(huì)得到獎(jiǎng)勵(lì)并通過(guò)基于點(diǎn)的強(qiáng)化程學(xué)習(xí)最佳策略。Hassabis 和他的同事們堅(jiān)信在游戲環(huán)中訓(xùn)練人工智能，這方法的好處給谷歌高留下了深刻的印象。我立刻就愛(ài)上了他們」領(lǐng)導(dǎo)這次考察之旅谷歌前高級(jí)副總裁 Alan Eustace 說(shuō)。目前，Hassabis 最?lèi)?ài)的一款游戲名為 Polytopia。在這款策略游戲中，玩家的目是通過(guò)技術(shù)進(jìn)步，將個(gè)小村莊發(fā)展成為一統(tǒng)治世界的帝國(guó)。Hassabis 說(shuō)，馬斯克也是這款游戲的絲。兩人最后一次交是在幾個(gè)月前，主要的就是 Polytopia。雖然 Hassabis 為人謹(jǐn)慎，但很容易理解，為么游戲能與他產(chǎn)生共。他仍然相信技術(shù)進(jìn)本質(zhì)上對(duì)人類(lèi)有益。在資本主義制度下，測(cè)和減輕 AI 的風(fēng)險(xiǎn)是可能的?！缚茖W(xué)技術(shù)的進(jìn)步，這就是明的驅(qū)動(dòng)力，」他說(shuō)被馬斯克拋棄但就在 DeepMind 不斷攀登新高度的時(shí)候事情開(kāi)始變得復(fù)雜起。2015 年，其最早的兩位投資者，億富翁彼得?泰爾和埃?馬斯克，通過(guò)資助爭(zhēng)對(duì)手初創(chuàng)公司 OpenAI 象征性地背棄了 DeepMind。該實(shí)驗(yàn)室隨后獲得了微軟 10 億美元的資助，它也相信 AGI 的可能性，但對(duì)于如何實(shí)現(xiàn)這一目標(biāo)著截然不同的理念。對(duì)游戲沒(méi)那么感興趣它的大部分研究都不集中在強(qiáng)化學(xué)習(xí)上，是集中在無(wú)監(jiān)督學(xué)習(xí)，這是一種不同的技，涉及從互聯(lián)網(wǎng)上抓大量數(shù)據(jù)并將其通過(guò)經(jīng)網(wǎng)絡(luò)抽取。當(dāng) DeepMind、谷歌和其他 AI 實(shí)驗(yàn)室一直在閉門(mén)進(jìn)行類(lèi)似研時(shí)，OpenAI 更愿意讓公眾使用其工。2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可想象到的搜索詞的圖，以及聊天機(jī)器人 ChatGPT。由于這兩種工具都是根據(jù)從聯(lián)網(wǎng)上收集的數(shù)據(jù)進(jìn)訓(xùn)練的，因此它們受結(jié)構(gòu)性偏見(jiàn)和不準(zhǔn)確困擾。DALL?E 2 很可能將律師描繪成白人老頭，將空姐繪成年輕美女，而 ChatGPT 則容易自信斷言虛假信息。是，盡管 Hassabis 呼吁放慢 AI 競(jìng)賽的步伐，但 DeepMind 似乎也未能幸免于競(jìng)爭(zhēng)力。2022 年初，該公司發(fā)布了更快引的藍(lán)圖。這項(xiàng)名為 Chinchilla 的研究表明，許多業(yè)最前沿的模型訓(xùn)練效低下，并解釋了它們何能夠以相同水平的算能力提供更多功能Hassabis 說(shuō)，DeepMind 的內(nèi)部道德委員會(huì)討了發(fā)布研究是否不道，因?yàn)樗赡軙?huì)讓不么謹(jǐn)慎的公司在沒(méi)有格保護(hù)的情況下發(fā)布強(qiáng)大的技術(shù)。人工智巨頭的道德紅線(xiàn)置身中，Hassabis 深知人工智能可能產(chǎn)生的危險(xiǎn)?！杆靼?AI 技術(shù)對(duì)社會(huì)影響深遠(yuǎn)，他想在技術(shù)發(fā)之前就能有所了解，Eustace 說(shuō)?！高@就像國(guó)際象棋。何面對(duì)殘局？如何預(yù)二十步之后的發(fā)展？Eustace 向 Hassabis 承諾，谷歌也有同樣的憂(yōu)，兩者之間的利益致。Eustace 說(shuō)，谷歌的使命是索所有人類(lèi)的知識(shí)，使易于訪(fǎng)問(wèn)，并最終提世界的智商。谷歌前級(jí)副總裁 Alan Eustace「我認(rèn)為這引起了他的共鳴」2014 年，谷歌以約 5 億美元的價(jià)格收購(gòu)了 DeepMind。Hassabis 拒絕了來(lái)自 Facebook 的更高報(bào)價(jià)。他說(shuō)，其中個(gè)原因是，與 Meta 不同，谷歌「非常樂(lè)意接受」DeepMind 劃定的道德紅線(xiàn)。Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的代。以身作則，在這個(gè)滿(mǎn)追求更快更強(qiáng)的領(lǐng)做好自己。DeepMind 發(fā)布了反對(duì)不道德使用其技術(shù)（包監(jiān)視和武器化）的「線(xiàn)」。但它卻沒(méi)能阻母公司谷歌，使用自搭建的 AI 系統(tǒng)，和五角大樓進(jìn)行科技作。2021 年，Alphabet 結(jié)束了與 DeeMind 長(zhǎng)達(dá)數(shù)年的談判。根據(jù)談判結(jié)果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來(lái)作將由谷歌高級(jí)技術(shù)查委員會(huì)監(jiān)督，其中括兩名 DeepMind 高管。Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計(jì)劃，沒(méi)有表示自己對(duì)公司前架構(gòu)的擔(dān)憂(yōu)。但他充說(shuō)，自收購(gòu)以來(lái)，DeepMind 的道德結(jié)構(gòu)已經(jīng)「演變?yōu)?在的樣子」。Hassabis 說(shuō)，DeepMind 和 Alphabet 都致力于公共道德框架，并一開(kāi)始就將安全納入們的工具。DeepMind 有自己的內(nèi)部道德委員會(huì)，即機(jī)構(gòu)查委員會(huì)（IRC），由公司所有部門(mén)的代組成，首席運(yùn)營(yíng)官 Lila Ibrahim 擔(dān)任主席。DeepMind 首席運(yùn)營(yíng)官 Lila IbrahimIbrahim 說(shuō)，IRC 定期舉行會(huì)議，任何分歧會(huì)升級(jí)到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做出最終決定。她說(shuō)「我們的運(yùn)作十分自，有一個(gè)單獨(dú)的審查程?！巩?dāng)被問(wèn)及如果 DeepMind 的領(lǐng)導(dǎo)團(tuán)隊(duì)不同意 Alphabet 高層的決定，或者公司的道「紅線(xiàn)」被越過(guò)會(huì)發(fā)什么時(shí)，Ibrahim 說(shuō)：「我們還沒(méi)有遇到這個(gè)問(wèn)題。」AlphaGo：震驚世界的人機(jī)大戰(zhàn)在 DeepMind 總部大廳遠(yuǎn)處墻壁的玻璃柜中放著一塊涂有黑色涂的大方形木頭。這是 DeepMind 第一次重大成功的紀(jì)念。谷歌收購(gòu)后不久，公司就為自己設(shè)定了戰(zhàn)，即設(shè)計(jì)一種算法在圍棋中擊敗世界上好的棋手。當(dāng)時(shí)，國(guó)象棋早已被蠻力計(jì)算編程所征服，但圍棋復(fù)雜得多；最好的人智能算法仍然無(wú)法與級(jí)人類(lèi)玩家相提并論DeepMind 以破解 Breakout 的方式解決了這個(gè)問(wèn)題。它建立了中庸個(gè)序，在通過(guò)觀察人類(lèi)戲來(lái)學(xué)習(xí)游戲規(guī)則后它可以與自己進(jìn)行數(shù)萬(wàn)次模擬對(duì)戰(zhàn)。通過(guò)化學(xué)習(xí)，算法會(huì)自我新，減少使其更有可輸?shù)舯荣惖臎Q策的「值」，并增加使其更可能獲勝的「權(quán)值」2016 年 3 月，名為 AlphaGo 的算法與世界頂級(jí)圍棋選手之一李世石決。AlphaGo 以四比一擊敗了他。北的李用黑色記號(hào)筆棋盤(pán)背面潦草地簽下自己的簽名。2016 年，Hassabis 在韓國(guó)慶祝 DeepMind 戰(zhàn)勝?lài)暹x手李世石（右）AGI 驅(qū)動(dòng)的未來(lái)會(huì)是烏托邦嗎？Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財(cái)富的時(shí)代已經(jīng)到來(lái)，那么這財(cái)富應(yīng)該重新得到分?！肝艺J(rèn)為我們需要保盡可能多的人受益 —— 最好是全人類(lèi)?！顾矚g全民基本視山（universal basic income）的想法。在理念下，每個(gè)公民每月會(huì)從政府那里獲得津和基本服務(wù)。同時(shí)，家會(huì)保障公民交通或房等基本生活水平。Hassabis 說(shuō)，AGI 驅(qū)動(dòng)的未來(lái)應(yīng)該比當(dāng)今世界更加注財(cái)富平等，但他沒(méi)有釋該系統(tǒng)將如何運(yùn)作「如果我們生活在一極度富足的世界，那留給不平等的空間也小，不平等產(chǎn)生的概也會(huì)更低。因此，如 AGI 的愿景得以實(shí)現(xiàn)，這就是它的積影響之一?！谷欢?于過(guò)去幾十年，科技業(yè)極速增長(zhǎng)與財(cái)富不等的大幅加劇同時(shí)發(fā)，其他人對(duì)這種烏托式的未來(lái)并沒(méi)有那么觀。播客節(jié)目 Tech Won't Save Us 的主持人 Paris Marx 說(shuō)：「大公司，包括 DeepMind 的母公司，首要任務(wù)是確保為股東創(chuàng)造最價(jià)值。如果不能獲利這些公司根本不會(huì)專(zhuān)于解決氣候危機(jī)。當(dāng)司的全部目標(biāo)是為股積累更多財(cái)富時(shí)，他肯定對(duì)重新分配財(cái)富感興趣?！埂肝覀?nèi)?的不是解決氣候危機(jī)重新分配財(cái)富的技術(shù)」Marx 說(shuō)?！肝覀?nèi)狈Φ氖钦我庠?目前來(lái)說(shuō)，很難看出項(xiàng)新技術(shù)的誕生將如產(chǎn)生政治意愿，從而現(xiàn)真正的社會(huì)轉(zhuǎn)型。說(shuō)回 DeepMind 的螺旋樓梯，樓梯中間，擺放著一個(gè)巨的 DNA 雕塑。雕塑前的木凳上有一個(gè)知：「請(qǐng)勿觸碰，」面寫(xiě)著?！杆浅４?，很容易損壞?！箙?資料：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來(lái)自微信公眾號(hào)：新智元 （ID：AI_era）