西班牙《非常有趣》雜誌3月29日文章，原題：他們創造了一個AI軟件，它具備了獨立發表論文的能力，而我們還沒有做好準備  近日，英國牛津大學研究人員發表在英國《自然》期刊上的一篇論文展示了首個不需要人類參與，即可生成研究假設、編寫代碼、運行試驗和撰寫科學論文的AI系統，對人類認知中的科學邊界提出前所未有的挑戰。

獨立完成科研流程

大衆普遍認爲，科研是人類在AI時代的“一片淨土”。科研工作不僅需要處理數據，還需要人類天馬行空的想象力，來設想各種可能性、提出無數設計方案，最終將研究成果提交給其他人類專家進行嚴格評判。然而，牛津大學的這項研究打破了這一觀念。研究團隊提出了“AI科學家”的概念，該AI系統並非簡單的輔助工具，而是首個能夠在受控環境下、獨立完成整個科研流程的“硅基科學家”。

“AI科學家”並非像人類一樣、以生物學意義上的“思考”方式進行運作，而是被賦予了一種獨特的構思能力，這種能力是建立在概率計算和大量既有文獻基礎之上的。該系統首先圍繞某一主題進行“頭腦風暴”，根據新穎性和可行性進行“研究假設”的篩選工作，在此基礎上編寫代碼，並通過計算機系統進行模擬實驗，根據實驗結果驗證其假設。之後AI系統會生成圖表、分析結果，並按照專業期刊的格式撰寫完整的論文。最值得一提的是，該系統還能夠像人類研究人員一樣進行“同行評審”，評估自身工作質量，其準確度已達到人類審稿人可以接受的水平。這種全自動化的工作流程，能夠讓AI在人類閱讀一篇論文摘要所需要的時間裏，探索數千種算法變體。

將論文成本降至15美元

這一成果震撼了整個學術界。日前，由“AI科學家”獨立撰寫完成的一篇論文甚至通過了頂級科研會議的接受標準，而評審員並不知道作者是AI。這一突破標誌着AI領域的研究方向正在從機械化執行指令轉向“全自主系統”，還將撰寫一篇科學論文的成本降低至15美元。

“AI科學家”並非從零開始發現新的科學規律，而是利用人類研究人員提供的模板和代碼結構、對已知研究進行優化。“AI科學家”並不能像人類一樣，質疑某一學科的權威研究結論並進行積極探索。這種區別至關重要。AI擅長在海量數據中“大海撈針”，但缺乏連接不同領域或感知異常情況的人類特有的“直覺”。如果它能大規模生產科研成果，以極低的成本和極快的速度完成科研工作，人類研究人員的創造性思維是否會被埋沒？

科學幻覺是致命毒藥

然而，有人認爲，這種效率提升掩蓋了一系列系統性風險，這些風險甚至可能會永遠改變我們驗證真理的方式。“AI科學家”帶來的真正危險是“科學幻覺”。對普通的聊天機器人而言，偶爾出現“科學幻覺”也許會逗人發笑。但在嚴謹的科研領域，這種幻覺是致命毒藥。牛津大學研究人員承認，“AI科學家”可以僞造文獻引用、重複數據，甚至在看似正確的實驗過程中出現邏輯錯誤。     

“AI科學家”的算法優先考慮文本的連貫性，而非探索真相。AI可以生成結構嚴謹、語氣權威的文章，但其中卻可能包含虛假數據或帶有偏見的解讀。如果沒有持續不斷的、批判性的人工監督機制，“AI科學家”可能讓科學數據庫充斥着僞裝成真理的“噪音”。對科研領域的“數據污染”會使真正的研究人員難以在成千上萬篇由算法生成的文章中找到突破性進展。如果只需15美元就能生成論文、每天能生成1000篇文章的AI系統大行其道，而我們又不改變評價科學成就的方式，那麼AI非但不會幫助我們發現更多真理，反而會讓我們淹沒在大量無效文獻之中。（作者聖地亞哥·坎皮略·布羅卡爾，羅雲譯）