面對 ChatGPT，Nature 終于坐不住了。本周這家權(quán)威學(xué)術(shù)版機構(gòu)下場，對 ChatGPT 代寫學(xué)研文章、被列為者等一系列問，給了定性。體來說，Nature 列出兩項原則：（1）任何大型語言型工具（比如 ChatGPT）都不能成為文作者；（2）如在論文創(chuàng)作用過相關(guān)工具作者應(yīng)在“方”或“致謝”適當?shù)牟糠置?說明?，F(xiàn)在，述要求已經(jīng)添作者投稿指南。近段時間，ChatGPT 染指學(xué)研圈情越來越多。去 12 月一篇雷帕霉素抗衰應(yīng)用的論文中ChatGPT 就曾被列為一作，引發(fā)業(yè)內(nèi)議。該篇之外還有不少研究 ChatGPT 列為作者。Nature 也已注意到此狀況，他們于 12 月進行了一項調(diào)研顯示293 名受訪的教授老師中20% 已經(jīng)發(fā)覺或目睹學(xué)生用 ChatGPT 完成作業(yè)或論文，更多對此表示擔(dān)憂此次，Nature 所發(fā)表的聲明，正是希對種種爭議給定性。多篇論已將 ChatGPT 列為作者ChatGPT 由 OpenAI 在去年 11 月末推出，因其表現(xiàn)幅超越此前大語言模型（LLM），迅速成為歲末年初第一“竄天猴”。新媒體、影視軟件開發(fā)、游互動等領(lǐng)域中ChatGPT 被迅速加以利用，輔助生產(chǎn)升效能。學(xué)研也不例外。據(jù) Nature 統(tǒng)計，使用 ChatGPT 并將其列為作的論文最少有 4 篇。其中一篇預(yù)印本在 2022 年 12 月發(fā)表于醫(yī)學(xué)預(yù)印本資料 medRxiv 上。該論文研究了 ChatGPT 在美國醫(yī)學(xué)執(zhí)照考中的表現(xiàn)。盡研究關(guān)于 ChatGPT，但作者欄中也列了 ChatGPT。另一篇論文發(fā)表在《護教育實踐》雜上，關(guān)于開放工智能平臺在理教育中的利，同樣，ChatGPT 被列入作者欄：第篇論文來自 AI 藥物研發(fā)公司 Insilico Medicine，內(nèi)容關(guān)于一種新雷帕霉素，發(fā)于《Oncoscience》。同樣，ChatGPT 被列為作者。第四稍顯“古早”發(fā)表于 2022 年 6 月，探討主題就 ——AI 生成論文的能力何。被列入作一欄的 AI 也并非 ChatGPT，而是更早發(fā)布的 GPT-3。盡管上述研究內(nèi)容少都與生成語模型有關(guān)，但于嚴肅的科研動來說，使用研究對象”寫文，并將其列作者欄，不可免引發(fā)了爭議質(zhì)疑。且即便將 AI 列為作者，學(xué)研圈用 ChatGPT 的情況也越來越普遍。文提及 AI 藥物研發(fā)公司 Insilico Medicine 的 CEO，Alex Zhavoronkov，他透露道，其所的機構(gòu)已發(fā)表 80 多篇由 AI 工具生成的論文。英教授 Mike Sharples 一直關(guān)注生成 AI 對學(xué)術(shù)研究的影。不久前，他推特上親手演了如何用大型言模型 10 分鐘生成一篇術(shù)論文，一步描述自己如何 AI 根據(jù)標題生成摘要，引發(fā)不小討論學(xué)生使用 ChatGPT 幫助撰寫論文、成代碼、完成業(yè)更為普遍，前，美國已有分地區(qū)教育機禁止使用該工。就在上周，密歇根大學(xué)一學(xué)生依靠 ChatGPT 寫出全班最高分文。有意思的，該學(xué)生之所被抓住，是因所提交文章邏過于連貫，結(jié)過于合理，以于導(dǎo)師專門去問了一下才得真相。△?北歇根大學(xué)需要確的是，上述包只是偶然，多時候，生成容已讓科學(xué)家真假難辨。Nature 此前一篇文章指出ChatGPT 發(fā)布后，伊利諾伊州西北北史一個研究小組在探究，使用 AI 工具生成醫(yī)學(xué)論文摘，科學(xué)家是否識別。結(jié)果發(fā)，AI 生成摘要均通過了抄檢測器，在人審核中，32% 的 AI 生成摘要被認為真實人類完成。已在開發(fā)辨工具此番 Nature 下場，表明了他們 ChatGPT 引發(fā)問題的重視。在最新容中，Nature 表示，學(xué)研圈都在擔(dān)心學(xué)生及研究者可能會以大型言模型生成的容當作本人撰的文本，除卻用風(fēng)險外，上過程還會產(chǎn)生可靠的研究結(jié)。尤其針對 ChatGPT，Nature 團隊及很多出商、平臺均認，該工具無法科學(xué)論文的完性及內(nèi)容本身責(zé)。一個側(cè)面證是科技媒體 CNET 這兩天曝出，該平 AI 編寫的 77 篇內(nèi)容中，41 篇有錯誤，目前，臺已予以更正并表示將暫停種方式生產(chǎn)內(nèi)。正是基于對述情況的擔(dān)憂Nature 出臺了相關(guān)規(guī)。至于如何分 AI 生成內(nèi)容？Nature 表示，目前 ChatGPT 原始輸出可以通過仔細檢而被發(fā)現(xiàn)，尤涉及具體科學(xué)作時，內(nèi)容可包含最簡單的誤及泛泛乏味措辭。此外，Nature 也表示，他們還開發(fā)相關(guān)識別術(shù)。值得一提是，相關(guān)識別具也有人開發(fā)來了。比如 OpenAI 自己推出的 GPT-2 Output Detector，輸入 50 個以上字符（tokens）就能較準確地識別 AI 生成的文本。再比如普林頓大學(xué)生 Edward Tian，也做出過相關(guān)工具 GPTZero。不過，并非所有學(xué)教授和老師 AI 生成工具持否定態(tài)度比如賓大沃頓學(xué)院一位教授 Ethan Mollick，反其道而要求生使用 ChatGPT 完成課堂作業(yè)，并為這是在擁抱興技術(shù)工具。文發(fā)表平臺 medRxiv 一位工作者也示，ChatGPT 也不算新麻煩。他認為此前，研究者嘗試偷偷加入物、虛構(gòu)人物字。因此，他認為，問題核是 —— 需要繼續(xù)加強檢查最后問問，你科研工作中用 ChatGPT 么？參考鏈接：[1]https://www.nature.com/articles/d41586-023-00191-1[2]https://www.nature.com/articles/d41586-023-00056-7[3]https://www.nature.com/articles/d41586-023-00204-z[4]https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban[5]https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1本文來自微信公眾號量子位 （ID：QbitAI），作者：詹