原文標(biāo)題：《OpenAI 剛?cè)谫Y 100 億，DeepMind 急了？CEO 接受《時代》專訪呼吁 AI 圈減少科研競賽！》近，時代雜志邀 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis 發(fā)表了他對當(dāng)下 AI 發(fā)展的看法和擔(dān)憂，但似網(wǎng)友不怎么買。DeepMind 一直是谷歌的驕傲。作為谷歌公司 Alphabet 的子公司，DeepMind 是世界領(lǐng)先的人工智能實驗室一。成立 13 年，它交出的成單，十分亮眼。得不說，DeepMind 在算法上是有點東西的2022 年 7 月，AlphaFold 大爆。2022 年 10 月，DeepMind 研發(fā)的 AlphaTensor 登上了自然雜志封面，是第一個用于為陣乘法等基本計任務(wù)發(fā)現(xiàn)新穎、效、正確算法的 AI 系統(tǒng)?，F(xiàn)在，所有人都意識了，AI 正處于時代的「風(fēng)口浪」。ChatGPT 雖然寫作能力媲美人類，但很規(guī)避掉訓(xùn)練數(shù)據(jù)的錯誤信息和有偏見。更可怕的，現(xiàn)在計算能力經(jīng)變得越來越低，AI 對普通大眾的門檻越來越。DeepMind CEO Demis Hassabis 對 AI 發(fā)展的趨勢感到擔(dān)憂，他擔(dān)心AI 會被用于制造可怕的工具，壞人類的文明。過，也有網(wǎng)友吐，「我很欣賞他立場，但是當(dāng)競對手試圖盡可能地朝著同一個目前進時，這些 AI 開發(fā)公司怎么能不加快行動呢」還有網(wǎng)友說，是想為追趕 OpenAI 爭取時間 hhhhhh。DeepMind 的使命 —— 構(gòu)建通用人工智能 AGI接下來就讓我們看看，Hassabis 在這次的對話中都透露了哪些重信息。時代雜志欄記者 BILLY PERRIGO 采訪了 Deepmind CEO 兼創(chuàng)始人 Demis Hassabis，探討了 DeepMind 的使命，以及如何構(gòu)建 AI，從而解決一些世界上最棘手的題。Demis Hassabis 站在螺旋樓梯的中間，審視著他造的大教堂，這跨越三層樓的 DNA 雕塑是 DeepMind 最近開設(shè)的倫敦部的核心46 歲的 Hassabis 一直致力于解決關(guān)于 AI 的永恒問題：AI 是什么？其中埋藏著哪些可能性人類如何從中獲更多能力？Hassabis 說他的團隊一直在努實現(xiàn)一個更宏偉目標(biāo)：這個目標(biāo)構(gòu)建一個能夠自思考、學(xué)習(xí)并解人類最棘手問題機器來實現(xiàn)通用工智能（AGI）。今天的人工智是狹隘的、脆弱，而且根本不算能。Hassabis 認(rèn)為，AGI 將成為一種劃時代的技術(shù)，就電力的利用一樣變?nèi)祟惿畹慕Y(jié)。就連他自己也推特主頁的簽名成了「致力于 AGI，嘗試了解現(xiàn)實的基本性質(zhì)」但人工智能的前也伴隨著風(fēng)險。究人員構(gòu)建的設(shè)新藥的 AI 程序可以很容易制出致命的生化用，大規(guī)模訓(xùn)練的 AI 模型可能被仇恨言論者利用OpenAI 開發(fā)的爆款 ChatGPT 因其容易受到種族主義錯誤信息的影響受到批評，小公 Prisma Labs 也是如此，許多用戶抱 Lensa 將他們的圖像性感，暴露出其訓(xùn)練據(jù)中的偏見。Prisma Labs 開發(fā)的 AI 增強自拍軟件 ——Lensa正是在這種不確定氣氛中，Hassabis 同意接受這次的采訪，他日益增長的擔(dān)發(fā)出嚴(yán)厲警告，我建議放緩 AI 前進的速度，至少不要太快」。像 Facebook 用戶數(shù)量飆升至 30 億之時，大家都在歡雀躍，但當(dāng)虛假息、仇恨言論甚煽動種族滅絕開出現(xiàn)在平臺上時也讓公司措手不。Hassabis 看到了人工智能發(fā)展的令人擔(dān)的趨勢，他說：工智能現(xiàn)在正處風(fēng)口浪尖，能夠造出可能對人類明造成嚴(yán)重破壞工具，并敦促他競爭對手比以前加謹(jǐn)慎，但大多人并沒有意識到中存在的危險性從國際象棋手到動風(fēng)云的 CEO和其他同齡人不一樣，Hassabis12 歲時就已經(jīng)是世界排第二的國際象棋手，并提前一年高中畢業(yè)。Hassabis（左）9 歲時擔(dān)任英格蘭 11 歲以下國際象棋隊隊長還在初中時就已開始思考那些改人類歷史的大問，他說：我想理那些大問題，那通常會與哲學(xué)或理學(xué)領(lǐng)域相關(guān)的的話題，我認(rèn)為建 AI 將是回答其中一些問題最快途徑。Hassabis 走進 Guildford 的 Bullfrog 視頻游戲工作室時只 15 歲。他還參加了一家電子戲雜志的比賽，贏得在著名工作實習(xí)的機會，他計的一個太空侵者風(fēng)格的游戲還得了當(dāng)季銷售量二的成績。Bullfrog 的聯(lián)合創(chuàng)始人 Peter Molyneux 仍然記得第一次見到 Hassabis 的樣子，莫利紐克說：他看起來像環(huán)王里的精靈，是一個從他身邊過，甚至都不會意到的小孩子，他的眼中閃爍著慧的光芒。在去 Bullfrog 的圣誕晚會的公交車上一次偶然談話中，這位少迷住了 Molyneux。他們談到了游戲的哲學(xué)是什么讓勝利如吸引人，以及你否可以將這些相的特征灌輸?shù)綑C中，那時他就知這個年輕人注定成就大事。邊讀，邊進軍游戲圈劍橋大學(xué)畢業(yè)后Hassabis 回到 Bullfrog 幫助 Molyneux 開發(fā)了他迄今為止最受歡迎的游：Theme Park，一款玩家從上帝視角經(jīng)營樂場業(yè)務(wù)的模擬戲。在決定攻讀經(jīng)科學(xué)博士學(xué)位前，Hassabis 繼續(xù)建立了自己的游戲公司他想了解大腦的法層面：不是微神經(jīng)元之間的相作用，而是似乎生人類強大智能更大結(jié)構(gòu)。思想宇宙中最難以捉的事物，從象棋游戲再到神經(jīng)科，我一生的經(jīng)歷職業(yè)軌跡都為了現(xiàn)其中的奧秘。2013 年，DeepMind 成立第三年，谷歌敲門了。一群谷高管乘坐私人飛飛往倫敦，Hassabis 向他們展示了團隊的品 —— 訓(xùn)練玩電腦游戲 Breakout 的 AI 原型，這讓他們驚嘆不已。DeepMind 算法背后的標(biāo)志技術(shù) —— 強化學(xué)習(xí)（Reinforced Learning），是谷歌當(dāng)時沒有過的事情。它的感來自人腦的學(xué)方式，這是 Hassabis 在他作為神經(jīng)科學(xué)期間形成的一種解。AI 在游戲中的數(shù)百萬次訓(xùn)，每次得分都會到獎勵，并通過于點的強化過程習(xí)最佳策略。Hassabis 和他的同事們堅信游戲環(huán)境中訓(xùn)練工智能，這種方的好處給谷歌高留下了深刻的印?！肝伊⒖叹蛺?了他們，」領(lǐng)導(dǎo)次考察之旅的谷前高級副總裁 Alan Eustace 說。目前，Hassabis 最愛的一款游戲名為 Polytopia。在這款策略游戲中，家的目標(biāo)是通過術(shù)進步，將一個村莊發(fā)展成為一統(tǒng)治世界的帝國Hassabis 說，馬斯克也是這款游戲的粉絲兩人最后一次交是在幾個月前，要聊的就是 Polytopia。雖然 Hassabis 為人謹(jǐn)慎，但很容易理解為什么游戲能與產(chǎn)生共鳴。他仍相信技術(shù)進步本上對人類有益。在資本主義制度，預(yù)測和減輕 AI 的風(fēng)險是可能的。「科學(xué)和技的進步，這就是明的驅(qū)動力，」說。被馬斯克拋但就在 DeepMind 不斷攀登新高度的時候事情開始變得復(fù)起來。2015 年，其最早的兩投資者，億萬富彼得?泰爾和埃?馬斯克，通過助競爭對手初創(chuàng)司 OpenAI 象征性地背棄了 DeepMind。該實驗室隨后獲得了微軟 10 億美元的資助，它也相信 AGI 的可能性，但對于如何實現(xiàn)這一標(biāo)有著截然不同理念。它對游戲那么感興趣。它大部分研究都不集中在強化學(xué)習(xí)，而是集中在無督學(xué)習(xí)上，這是種不同的技術(shù)，及從互聯(lián)網(wǎng)上抓大量數(shù)據(jù)并將其過神經(jīng)網(wǎng)絡(luò)抽取當(dāng) DeepMind、谷歌和其他 AI 實驗室一直在閉門進行類研究時，OpenAI 更愿意讓公眾使用其工具。2022 年，DeepMind 推出了 DALL?E 2，可以生成幾乎任何可以想到的搜索詞的圖，以及聊天機器 ChatGPT。由于這兩種工都是根據(jù)從互聯(lián)上收集的數(shù)據(jù)進訓(xùn)練的，因此它受到結(jié)構(gòu)性偏見不準(zhǔn)確的困擾。DALL?E 2 很可能將律師描成白人老頭，將姐描繪成年輕美，而 ChatGPT 則容易自信斷言虛假信息。是，盡管 Hassabis 呼吁放慢 AI 競賽的步伐，但 DeepMind 似乎也未能幸免于爭壓力。2022 年初，該公司發(fā)布了更快引擎的圖。這項名為 Chinchilla 的研究表明，許多業(yè)界最前沿模型訓(xùn)練效率低，并解釋了它們何能夠以相同水的計算能力提供多功能。Hassabis 說，DeepMind 的內(nèi)部道德委員討論了發(fā)布研究否不道德，因為可能會讓不那么慎的公司在沒有格保護的情況下布更強大的技術(shù)人工智能巨頭的德紅線置身其中Hassabis 深知人工智能可能產(chǎn)生的危險。他明白 AI 技術(shù)對社會影響深，他想在技術(shù)發(fā)之前就能有所了，」Eustace 說?！高@就像國際象棋。如何對殘局？如何預(yù)二十步之后的發(fā)？」Eustace 向 Hassabis 承諾，谷歌也有同樣的憂，兩者之間的益一致。Eustace 說，谷歌的使命是索引所人類的知識，使易于訪問，并最提高世界的智商谷歌前高級副總 Alan Eustace「我認(rèn)為這引起了他的鳴?！?014 年，谷歌以約 5 億美元的價格收購了 DeepMind。Hassabis 拒絕了來自 Facebook 的更高報價。他說，其中個原因是，與 Meta 不同，谷歌「非常樂意接」DeepMind 劃定的道德紅線。Hassabis 希望，DeepMind 成為 Al 研究中安全和道德的代。以身作則，在個充滿追求更快強的領(lǐng)域做好自。DeepMind 發(fā)布了反對不道德使用其技術(shù)包括監(jiān)視和武器）的「紅線」。它卻沒能阻止母司谷歌，使用自搭建的 AI 系統(tǒng)，和五角大樓行科技合作。2021 年，Alphabet 結(jié)束了與 DeeMind 長達數(shù)年的談判。根據(jù)談判果，DeepMind 將保持其在 Alphabet 的現(xiàn)有地位，其未來工作將由歌高級技術(shù)審查員會監(jiān)督，其中括兩名 DeepMind 高管。Hassabis 并不否認(rèn) DeepMind 的「逃離谷歌」計，但沒有表示自對公司目前架構(gòu)擔(dān)憂。但他補充，自收購以來，DeepMind 的道德結(jié)構(gòu)已經(jīng)演變?yōu)楝F(xiàn)在的樣」。Hassabis 說，DeepMind 和 Alphabet 都致力于公共道德框架，并從一始就將安全納入們的工具。DeepMind 有自己的內(nèi)部道德委會，即機構(gòu)審查員會（IRC），由公司所有部門代表組成，首席營官 Lila Ibrahim 擔(dān)任主席。DeepMind 首席運營官 Lila IbrahimIbrahim 說，IRC 定期舉行會議，任何歧都會升級到 DeepMind 的執(zhí)行領(lǐng)導(dǎo)人做最終決定。她說「我們的運作十自由，有一個單的審查流程?！?被問及如果 DeepMind 的領(lǐng)導(dǎo)團隊不同意 Alphabet 高層的決定，或者公司的道德「線」被越過會發(fā)什么時，Ibrahim 說：「我們還沒有遇到這問題?！笰lphaGo：震驚世界的人機大戰(zhàn)在 DeepMind 總部大廳遠(yuǎn)處墻的玻璃柜中，放一塊涂有黑色涂的大方形木頭。是 DeepMind 第一次重大成功的紀(jì)念品。歌收購后不久，公司就為自己設(shè)了挑戰(zhàn)，即設(shè)計種算法，在圍棋擊敗世界上最好棋手。當(dāng)時，國象棋早已被蠻力算機編程所征服但圍棋要復(fù)雜得；最好的人工智算法仍然無法與級人類玩家相提論。DeepMind 以破解 Breakout 的方式解決了這問題。它建立了個程序，在通過察人類游戲來學(xué)游戲規(guī)則后，它以與自己進行數(shù)萬次模擬對戰(zhàn)。過強化學(xué)習(xí)，算會自我更新，減使其更有可能輸比賽的決策的「值」，并增加使更有可能獲勝的權(quán)值」。2016 年 3 月，名為 AlphaGo 的算法與世界頂級圍棋選手之李世石對決。AlphaGo 以四比一擊敗了他。北的李用黑色記筆在棋盤背面潦地簽下了自己的名。2016 年，Hassabis 在韓國慶祝 DeepMind 戰(zhàn)勝圍棋選手李世石（右）AGI 驅(qū)動的未來會是烏托邦嗎？Hassabis 認(rèn)為，如果 AGI 創(chuàng)造財富的時代經(jīng)到來，那么這財富應(yīng)該重新得分配。「我認(rèn)為們需要確保盡可多的人受益 —— 最好是全人類。」他喜歡全民基收入（universal basic income）的想法。在理念下，每個公民月都會從政府那獲得津貼和基本務(wù)。同時，國家保障公民交通或房等基本生活水。Hassabis 說，AGI 驅(qū)動的未來應(yīng)該當(dāng)今世界更加注財富平等，但他有解釋該系統(tǒng)將何運作?！溉绻?們生活在一個極富足的世界，那留給不平等的空也越小，不平等生的概率也會更。因此，如果 AGI 的愿景得以實現(xiàn)，這就是它積極影響之一。然而，鑒于過去十年，科技行業(yè)速增長與財富不等的大幅加劇同發(fā)生，其他人對種烏托邦式的未并沒有那么樂觀播客節(jié)目 Tech Won't Save Us 的主持人 Paris Marx 說：「大公司，括 DeepMind 的母公司，首要任務(wù)是確保股東創(chuàng)造最大價。如果不能獲利這些公司根本不專注于解決氣候機。當(dāng)公司的全目標(biāo)是為股東積更多財富時，他肯定對重新分配富不感興趣。」我們?nèi)狈Φ牟皇?決氣候危機或重分配財富的技術(shù)」Marx 說。「我們?nèi)狈Φ氖?治意愿。目前來，很難看出一項技術(shù)的誕生將如產(chǎn)生政治意愿，而實現(xiàn)真正的社轉(zhuǎn)型。」說回 DeepMind 的螺旋樓梯，樓中間，擺放著一巨大的 DNA 雕塑。雕塑前的凳上有一個告知「請勿觸碰，」面寫著。「它非脆弱，很容易損?！箙⒖假Y料：https://time.com/6246119/demis-hassabis-deepmind-interview/https://www.youtube.com/watch?v=Gfr50f6ZBvo本文來自微信公眾號：智元 （ID：AI_era）