佛羅里達最高法院實在受不了了。一大堆律師,還有自己打官司的當事人,文件裡塞滿 AI 生出來的東西,引用了根本不存在的判例,寫著錯誤的法律推論。於是這次正式修了規則、發了公告

從今以後,任何提交到法院的文件,不管你是律師,還是自己訴訟的當事人,你都要簽名保證裡面所有的判例和推論都是正確的。

它並沒有特別針對 AI。意思是,你可以用 AI,也可以不用,法院不管。它管的是:你簽了名,就等於宣稱這些東西都是真的。一旦你違反了這個宣稱,法院就有一整排方法可以修理你:

我想,這種「看結果、不看工具」的監察模式,會慢慢確定下來,而且不會只停在法律界。

教學界、學術界,最後都會走到同一條路上。

老師跟你說作業要自己做,建議不要用 AI。如果你用了,也學會了,成品也沒被抓到,那就算了。但如果被抓到,老師可以強制退選掉你,或者給你很差的成績。

如果你作業用 AI 應付,技術沒真的學會,期末考就自己承受被當掉的結果。最近 UC Berkeley 的 CS10,這種頂尖學校的入門程式課,被當掉 35% 就是這樣的例子。

你寫科學論文投稿,號稱所有步驟都可重現,自己清楚每一步在做什麼,用到的工具全部列得清清楚楚,最後做出來的東西沒問題,那就 OK。

但如果裡面出現了錯誤的文獻、錯誤的引用、錯誤的統計、錯誤的推論,刊登之後被人質疑,連你自己重算都重現不出來,也解釋不了這些錯誤到底從哪裡來,那麼學術界的處罰,就是這篇文章永遠掛著 RETRACTED 的浮水印,且雜誌社會另發一篇聲明,說清楚這篇文章這群作者出了什麼問題。你的名字,從此釘在學術界的數位紀錄裡,永遠存在。

AI 生出來的東西,誰簽名,就誰負責。

一篇關於 ChatGPT 對學生學習成效影響的統合分析論文截圖,右側蓋著 RETRACTED 的撤稿浮水印。
圖為一篇關於 ChatGPT 對學生學習成效的統合分析,刊在 Nature 旗下期刊。後來多位學者重算發現數據抽取與整合有嚴重錯誤,作者未能回應,最終被撤稿,全文永久標上 RETRACTED。