Anthropic 這家公司很有意思，他們最近很有效地主導了全世界對 AI 發展走向的注意力。
像是最近一篇 Blog 文章，仔細說明了自家公司的進展。
工程師的角色，從自己寫程式，變成讓 AI 寫、自己檢查；再到後來，AI 寫好的程式由 AI 自己檢查也沒問題。甚至，AI 還能找出當年 Anthropic 頂尖工程師寫的程式裡，從來沒有人發現過的錯誤。
然後，連他們自己工程師都常覺得，AI 寫出來的程式規模跟複雜度，自己都快搞不清楚了。
文章裡有不少工程師的訪談感想，像是：
「總會遇到某些日子，所有東西都壞成一團，我卻完全搞不懂原因，這才驚覺自己早就對眼前在忙的事情一竅不通了。」
歸納起來，他們認為人類目前僅剩的優勢是：
「人類的相對優勢依然在於掌握大局觀，以及跳脫當前任務侷限的思考能力。」
這篇還建議，全世界應該考慮集體放慢 AI 的研發速度。因為他們認為，一旦人類開始用 AI 來訓練下一代模型，這種自我改進的能力一旦成形，加上人類目前對 AI「可解釋性」的掌握還很有限，這樣的進化有可能一路走到失控。
但這裡有兩個弔詭之處。
第一，他們自己也清楚，如果先停下來，別人就會追上，而且「心懷不軌者」更會積極隱藏、偷偷超車。這等於是在暗示：他們才不會傻傻地自己慢下來呢。
第二，前陣子最大的 AI 新聞之一，就是知名研究者 Andrej Karpathy（OpenAI 共同創辦人、前 Tesla AI 主管）加入 Anthropic。而他要做的事，正是把 Claude 用到下一代模型的 pre-training，去打造更強大的 AI。這不正是他們自己最擔心的那件事：用 AI 來自我訓練、改進下一代的 AI。
所以批評者也認為，這篇文章非常自戀，帶著濃濃的行銷意圖（恐懼行銷），同時又把自己塑造成很有反省力的誠懇形象。
但有個事實是：這篇的主筆群裡，有一半是政策、人文、經濟、歷史出身的人，另一半才是技術者。Anthropic 請了不少這類文史哲背景的專家，文章也因此很有特色，引用了許多國際關係歷史上可以借鑑的對應故事。
像是談到「可能失控的力量，人類如何彼此約束」，他們舉的一個例子就是《中程飛彈條約》。這條約撐了三十多年，最後是因為一個拒絕加入的局外人（中國）不受約束地大量增產，讓美俄都覺得自己像傻瓜一樣而退場。
選擇這個例子，而不是核不擴散條約，或許也是想暗示：真正的規則破壞者，會是那個不願加入框架的一方，也就是中國。
這篇真的很有啟發性，不只相關的報導分析值得看，原文也很值得一讀。
AI 的發展，不管是軟體或硬體，都到了深刻嵌入國際政治互動的狀況。而且不管是經濟、政治、軍事，全方面都受到影響。
經濟部份，最明顯的就是股票、市場資金流向。政治則有 Mythos 到底給誰用，以及 AI 模型監管的討論。軍事，則像是烏克蘭的無人機進展、Anthropic 之前與國防部的摩擦等。
AI 跟國際觀，不是兩個領域，而是已經深度嵌合了。這也是為什麼 Anthropic 請了很多公共政策、政治歷史、商業經濟專家，並讓他們做很多研究、思考，並寫成這類文章的根本原因。