自由開講》當國家開始判斷誰不正常~

◎ 張商陽

2017年，上海一個智慧公安試點社區，一名男子長時間徘徊，進出多個門洞，卻沒有拜訪任何住戶。系統判斷行為異常，民警手機隨即收到警報。如果這名男子真的準備闖空門，這套系統當然有它的價值。問題是，這雙眼睛除了防範犯罪，還拿來看什麼？

現實中的系統也已經開始分析人的行為，替國家尋找所謂的「異常」。圖為關鍵報告電影。（取自網路）

從《全民公敵》、《關鍵報告》到《鷹眼》，2、30年前的好萊塢早已想像過：當國家可以整合監視、通訊與個人資料，甚至判斷誰可能構成威脅，會發生什麼？電影當然是電影，但現實中的系統也已經開始分析人的行為，替國家尋找所謂的「異常」。

問題就在「異常」兩個字。人權觀察逆向分析新疆警方使用的「一體化聯合作戰平台」（IJOP）後發現，被列為值得注意的並不只是犯罪行為。不常與鄰居往來、經常不走正門、具有某些境外聯繫，甚至部分和平的宗教活動，都可能進入國家的注意範圍。「阿克蘇名單」中一名女性被系統標記的因素之一，是她在2017年3月收到四通境外電話；人權觀察後續查證，打電話給她的是住在海外的姊妹，而她後來遭到拘押。

所以「不要做壞事就好了」，到了這裡已經解釋不了問題。接到姊妹的電話，到底做了什麼壞事？犯罪、可疑與異常，本來就是三件不同的事。犯罪有法律定義，可疑是一種判斷，異常甚至可能只是生活方式偏離系統設定的「正常」。當監控從尋找犯罪者，變成從所有人裡尋找「異常者」，性質就已經改變了。

其他國家不是沒有這些技術。歐美同樣擁有人臉辨識、人工智慧與資料處理能力，也用於執法；但歐盟對警方使用即時遠端生物辨識設下嚴格限制，英國警方使用即時人臉辨識也有特定名單、必要性與比例原則等規範。差別不是做不做得到，而是國家被允許做到哪裡。

我們可以毫無心理負擔地裝寵物監視器，隨時看牠在哪裡、正在做什麼；同樣的事情換成人，卻必須考慮隱私、授權與用途。理由很簡單：人不是寵物。

因此，問題不該是「沒有做壞事，怕什麼監控」，而應該是「沒有犯罪，國家憑什麼一直看？」當國家開始判斷一個人是否「異常」時，事情早已超過防範犯罪。科技可以幫助國家找到犯罪者，卻不能因此取得檢查所有人是否「正常」的權力。中國的問題就在這裡：這不是正在接近人權的界線，而是已經踩過去了。