人、AI 與神。一個 AI 工作者，跑到梵蒂岡，去見教宗。
他是 Anthropic 的共同創辦人 Chris Olah。
Anthropic 這幾年很努力想當 AI 產業裡比較「道德」的那一個，談安全，也常常提醒大家這東西的風險。
教宗去年上任後，對 AI 一直很有意見，最近還呼籲要把它「卸下武裝」。結果，主動找上 Olah 的是教會這邊。他們邀請他，到教宗發表通諭的儀式上發言。Olah 上了台，附和教宗的擔憂。
在教宗面前，Olah 描述 AI 的方式，很不一樣。
他談到 AI 運作的神秘，說這些模型比科幻小說預告我們的，更微妙、更奇異、也更美麗，不是冷冰冰、只會計算的機器人。一位使用過 Claude 的神父也說，它不是一個人，但也不只是工具，是一個我們還不了解的存在。
注意到了嗎？這些描述，是不是很有宗教意味？神秘、微妙、奇異、美麗、還不了解的存在 😳
更有意思的是，Anthropic 在寫 Claude 的「憲法」，也就是這個 AI 的行為準則時，還找了天主教的倫理學者和神父一起參與。其中一位回了二十八頁的意見，最後也出現在致謝名單。
神的世界、數位世界、人類世界，開始高度交集。
在這個故事裡，還有一個有趣的觀察。
雖然 Anthropic 是一家 AI 公司，但你會發現，它在重要的決策、推廣、公關上，該做什麼、要怎麼做，其實全都是「人」做的決定。
要不要接受這個邀請、去不去梵蒂岡，要把哪些價值寫進 Claude，要找誰來一起討論，沒有一樣是 AI 自己決定的。
所以，還擔心 AI 會取代「你」的判斷嗎？我認為，只要「人」自己不放棄，不把思考跟判斷委外，就沒問題。
思考與判斷，伴隨的是後續的觀察、負責、調整、前進。這都是「人」獨特的價值。
真正的問題是，即使在 AI 還沒出現之前，很多人就已經停止獨立思考與判斷了......
倒是什麼時候會出現以 AI 為崇拜標的的宗教呢？似乎也快了。畢竟那種無所不在、隨時都能接住情感、提供神秘體驗、近乎全知全能的狀態，放到宗教界，的確是很有競爭力 😳
圖片來源：截自 WIRED《The Vatican's Man Inside Anthropic》（Steven Levy 報導）。Olah 在儀式上的演講全文由 Anthropic 公布。
