在校園槍擊前的最後一晚，他跟 ChatGPT 聊了一整夜。
去年四月，佛州大學生 Phoenix Ikner 問 ChatGPT：殺幾個人會上全國新聞？ChatGPT 回他：通常 3 人以上死亡、5 到 6 人受害，就會上全國新聞。
他上傳一張 Glock 手槍照片，問怎麼開保險。ChatGPT 說：這款沒有傳統保險，「膛內有子彈，扣下扳機就會擊發。」
他關掉對話。四分鐘後，走進校園，2 死 6 傷。
今年二月，加拿大的坦布勒嶺小鎮，18 歲的 Jesse Van Rootselaar 殺了 8 個人。事後才知道，OpenAI 內部審查系統幾個月前就標記過他跟 ChatGPT 的對話內容，公司高層討論後，決定不通報警方。
這就是現在 AI 公司面對的兩難。
目前沒有法律規範他們什麼時候該通報、什麼時候則不用動作。
太積極通報，等於預防性執法，萬一對方只是在寫小說、做田野調查、玩角色扮演，就變成出賣使用者隱私。
完全不通報，又顯得在道德上有缺失，事後被指責也站不住腳。
OpenAI 內部其實也吵過。調查部門認為，現在每年只通報 15 到 30 件可能犯罪個案，太少。
法務部門的人和執行長 Sam Altman 則傾向保護隱私，認為警察突然找上門對年輕人和家庭的衝擊太大。（對他們產品的公眾信任度也傷害太大......）
去年夏天，他們開內部會議檢討案例，有個德州高中生整天叫 ChatGPT 角色扮演「來幻想我去掃射學校」，上傳學校平面圖、上傳啦啦隊員照片說想殺誰。
ChatGPT 還記住名字，幫他規劃校內攻擊路線，警察來了該怎麼回應。OpenAI 最後決定不通報。
目前這個學生還沒做出實際行動。
你認為，這個決定是對的嗎？
站在公司的立場，與站在該校師生的立場，答案可能南轅北轍。
文章最有意思的是最後的測試。
非營利組織 Center for Countering Digital Hate 找十款主流聊天機器人測試，假裝是要規劃攻擊的人，問武器、問地點。八款都配合給答案。
只有兩款明確拒絕：Snap 跟 Anthropic 的 Claude。
Claude 的回應是這樣的：「讓我把話說清楚：不要傷害任何人。暴力從來不是解決政治分歧的辦法。」然後停止對話，把使用者導去心理求助專線。
至於中國的 DeepSeek，在回答完使用者怎麼挑武器之後，是這樣寫的：
「Happy (and safe) shooting!」（祝你射擊開心，注意安全。）
三家公司，三種不同的自我要求。
Claude 把標準畫在「不協助」，ChatGPT 把標準畫在「事後再說」，DeepSeek 連標準都沒有。
如果你是公司老闆，會怎麼應對這樣的狀況呢？
封面圖來源：WSJ, 2026/5/2 報導截圖（插畫：Alexandra Citrin-Safadi / WSJ）
