世界級的會計師事務所,接澳洲政府的案子,都敢用 AI 亂寫。然後內控不管基層、小主管、主管都沒發現。就這樣送出。

是要賭澳洲政府也不會有人看報告嗎?

結果還是被發現出包,退款。

AI 是很好的工具,但因為進步太快,多數人還不熟悉怎麼區別正確跟不當的使用。於是開始在各行各業出包。

勤業眾信在出包前,一定也是信誓旦旦地跟客戶說他們都會確認過……

這種現象的本質,不是 AI 本身壞,而是組織文化跟不上工具的普及速度。當一個工具讓「偷懶」變得太容易、而被抓包的成本又暫時沒有被提高時,部分人就會去走捷徑。

現在這些資訊公司開始要讓 AI 導入金融。像是 Microsoft 要把 AI 放進 Excel,Google 試算表也開始導入 Gemini。他們有壓力要持續前進沒錯,但這讓人頭皮發麻。他們說會有很多方式減少錯誤,但前述的例子就在那裡。

幾年後,應該會有 AI 造成的烏龍金融危機,到時候又不知道是哪個國家的納稅人要倒楣,波及不知道哪些國家。

這不是反對 AI,而是在說:我們需要更快速地建立 AI 使用的規範與稽核機制,否則等出了大事才亡羊補牢,代價會非常高。