如果電腦系統說，犯人就是你，你怎麼辦？
一個住在美國佛羅里達州的 52 歲捕蟹漁民，某天警察上門：「你就是犯人。你在 500 公里外的海灘城市，深夜誘拐一名不滿 12 歲的女童。現在要把你抓走。」
警方唯一的證據，是人臉辨識系統說，他的臉跟監視器畫面中的嫌犯，「臉部特徵 93% 相符」。而拿去比對的那張照片，還是警員用手機翻拍電腦螢幕上的監視器畫面。
也許因為 93% 聽起來真的很高，所以即使其他證據全都指向「不是他」，他還是被抓走了。
哪些證據？警方查過車牌自動辨識系統，案發前後幾天，他名下兩輛車都沒有出現在案發的那個郡。麥當勞值班經理說，嫌犯是店裡常見的熟客；而他從沒去過那個城市，住處離案發地超過 480 公里。這些查到的結果，通通沒寫進逮捕令申請書。簽署逮捕令的法官，從頭到尾不知道有這些對他有利的事證。
於是他在自家門口、太太面前被捕，在冰冷的拘留室過夜，被押進一輛沒有燈、裝著鐵籠的廂型車。他抵押了卡車的所有權狀，才湊出保釋金。
被捕時正逢石蟹捕撈旺季，收入中斷，房租繳不出來，差點失去住的地方。從案發、比對、起訴、聘律師、不認罪，到檢方撤銷全部指控，前後將近一年。他的入監大頭照在郡政府網站掛了快一年，還是電視台記者介入才被撤下。
更諷刺的是：那位承辦警員，年底升職了。
這樣的案例在美國不是孤例。美國公民自由聯盟（ACLU）統計，目前已知因人臉辨識錯誤導致的錯誤逮捕，全美至少 15 起。同一個警局今年初才又抓錯一個人：85% 相符，一名北卡羅來納州男子被關了近三個月，等到撤告時，他已經失去房子、工作，和兩個孩子的監護權。
人臉辨識系統當然可以說，我們給的只是相似度分數。93% 的意思是「這兩張圖在演算法眼中有多像」，不是「這兩張圖是同一個人的機率」。
但很明顯，實際應用時，警方不是這麼想的。在破案的壓力下，在升遷與績效的壓力下，分數夠高就先抓再說，其他證據之後再找；不利的查核結果，甚至可以不寫進申請書。問題就出在這裡。
這套系統叫 FACES，2001 年就上線，是全美最老的警用人臉辨識資料庫之一，存了數千萬張佛州駕照與入監照片，高峰期有超過 260 個執法機構在用，包括 FBI 跟移民執法單位。2016 年喬治城大學法學院的研究發現，查詢它不需要任何合理懷疑，也幾乎沒有稽核。
這是在美國。資訊透明，法律系統可以對抗，還有 ACLU 這樣的組織協助受害者提告，把資訊公諸於世。連管轄的警長都公開說過，如果警員只拿一個人臉辨識命中，就當成逮捕的合理依據來找他，他大概會把人踢出辦公室。
但大規模使用人臉監控、用各種數位工具監控人民的中國，想起來就令人不寒而慄。公安系統幾乎不受節制的權力，加上就算你覺得哪裡不對，也找不到人幫你；抗議政府從來不會理你。連鐵鏈女這種全網關注的案件，最後也只能由官方自己調查自己，沒有獨立訴訟，沒有 NGO，受害者連名字都由通報代言。
在科技改變人類的過程中，資訊民主跟監督機制，一直都是最重要的配套。