警務治安預測系統與人權問題

今年八月底,美國十七個公民團體(這些團體包含關心司法改革、族群平權、科技問責、隱私等各類議題)聯合發表聲明,擔心各州,大城市警政機關利用大數據以及「Predictive Policing預測式治安執勤」科技存在瑕疵,但其可能造成潛在種族歧視、階級偏見的執法不公並無助於社區治安的改變。讀了一下相關報導與此份聲明中引用的報告Upturn「Stuck In a Pattern:Early evidence on "predictive policing" and civil rights」,因為自己個人蠻想了解:對於「新興現象」如電腦,機器學習、科技應用等出現的“潛在”偏見,尚未被大眾察覺的“潛在”民權侵害,公民團體如何在這樣的階段中進行調查、研究與預防策略,以阻止公共政策與社會討論滑向權力者的一方,故略以此文摘要一下該份報告的重點,若有力氣日後會再繼續追踪此議題的發展。主要希望從參考別人的證據講理論述與策略行動,若有一天台灣社會也遇到類似的狀況,或許民間公民團體稍可以較輕鬆地渡過某種緩慢而無頭緒的摸索過程,能立即予以有力的提醒與適當地介入監督。(不過恐怕大多數的公共議題戰場,民間都還沒準備好應戰,然後事件不是先暫時避風頭叫停一下,就是被橫柴入灶地政策上架,鮮見雙方持續精彩的過招,更別說是可供作典範的公民勝利╮(-_-)╭ )

「Stuck In a Pattern:Early evidence on "predictive policing" and civil rights」報告所採的研究方法
1) Gathered and analyzed relevant legal, criminological, statistical, and technical literature
2) Gathered and analyzed public information on ten popular predictive policing systems
3) Surveyed the largest 50 police departments across the United States ## how ??請見報告第17頁

Predictive Policing的意思/定義:
"computer systems that use data to forecast where crime will happen or who will be involved. Some tools produce maps of anticipated crime “hot spots,” while others score and flag people deemed most likely to be involved in crime or violence."(但「predictive」某種程度算是「廠商」的行銷字眼,因為根本無法作到「準確推斷」的程度,僅能說是大致的犯罪預測forecast。且公民團體與此報告中採用「Predictive Policing」而不是軟體開發商或警察單位愛用的「Predictive Crime」,也有故意將警務系統一軍之感。)

系統所「預測」的主要類型:
1) 以地點為主的犯罪預測:
例如在地圖上呈現高危險犯罪區域,其主要依賴過去資料,如報案記錄,警方巡邏記錄。科技廠商除了利用這些警方記錄數據庫外,可能會再加上其它變數,如天氣狀況、鄰近酒精供應商店距離等資料來推斷預測何時可能會發生犯罪違法情事。)

2) 以「人」為中心的犯罪預測(犯罪者/受害人):
高危險名單,透過某「社交網絡分析」方法,提交一組高危險熱門名單,其名單上可能為犯罪者也可能是易受害者,以作為警方特別關照的對象。

預測軟體實際應用上的問題
1) 系統演算法仍建立在過往資料數據基礎上,但這些警方歷史數據除了本身一向反應警方在執勤上的偏好習性外,官方統計亦常有許多不足為人詬病(某些「違法」情事,如家庭暴力當事人未報案,或是警方在上報案件類型式,偏向採於有利的資訊認定,這些都是壞的統計方法上可動手腳的地方)未能反應社區當地真實的犯罪與治安狀況。在不免已遭「扭曲」無法反應社會真正現實的數據資料底下,只怕機器所推斷出來的犯罪預測也帶著警方過往喜好的犯罪型態與對象,不但無法突破的既成偏見與人為限制反而繼續深化人為限制與執勤盲點的擴大。(“ratchet effect”)

2) 過於依賴科技預測系統,將忽略其它面向可提高社區安全的替代措施,於實益上提高民眾對於治安信心並無正相關。在目前有限的實證研究報告中,也未見其與改善社區治安安全之間的必然性因果推論。再者預測系統是否能降低警方在執勤上使用過當暴力/武力亦不明朗,警方執勤手段與目的之間的比例原則向來為社區公眾安全的重要信心變量,但長久以來一直欠缺一套有效的問責系統來評價警方在此方面的表現。

3) 警方及時介入執勤的欠缺新式技法戰術與標準程序不明。想像當現實世界真的出現如影集「疑犯追踪」POI The Machine or Samaritan,但警方在面對跳出來的「數字」時會採取哪些措施?更多的逮捕更多的槍戰更暴力的執勤,還是革除舊有以暴制暴的因應戰術,採取其它結合心理、經濟、教育等手段的犯罪阻斷技法?目前看來似乎仍停留在利用新科技但仍然是舊有的「除惡除暴」比力氣與制敵先機的傳統執法思維。

4) 相關科技使用的公眾問責:透明、討論、監督
已採用相關犯罪預測工具的警察機關鮮少向公眾說明使用了何種系統,如何使用。在如此資訊不對等的狀況下,當然民意代表、公民團體、民眾也就無法了問題的現況、展開公共討論並對權力者進行問責與監督。

5) 當治安預測系統遇上自己人
前面提過,既然治安犯罪預測系統是以「地」與「人」為主,那麼若用以「人」為主的預測系統放入員警資料來預測其暴力危險程度如何?或是在「地理」預測上檢示當地哪一個分局派出所最常出現民眾檢舉反應問題如何?在警政治理改革上即有人倡議對於警方勤務表現或該採取某些早期介入系統,透過適當的諮商、訓練來修正這些員警不當的表現行為,一些小型實驗計畫也顯示利用預測系統對警方行為進行早期介入導正其實對社區治安導向的警民信任有正面效果,但許多員警仍抗拒此種把自己放入預測系統的作法。

另外報告中的第6頁整理出了目前其研究中所收集到的開發販售此種分析預測軟體系統的廠商(Who sells predictive policing systems? Survey of Vendors of Predictive Policing Systems);以及第17頁(A National Map - What's Happening Where.)則是透過樣本式問卷研究調查全美五十個城市的警政機關是否使用預測系統及其使用狀況的回應整理。

個人雜感:
撰寫這份報告的單位upturn,從其官網上呈現的資訊看來似乎是一家接受計畫研究委託的「公司」,其強調團隊成員本身科技訓練出身的背景又能閒熟法律與政策分析,受理處理的案件範疇有:司法正義、網路言論自由、消費者信用評價、皆是從科技如何影響衝擊社會議題作入手研究建議。絕大多數NGO本身資源能量有限,平日議題與各種突發狀況早已疲於奔命,哪裏還有閒暇餘力去處理某些「從未出現過潛在性」的社會不公問題。就算這十七個率先發聲的團體中不乏有出現一年預算上億美元營運規模的大型NGO其可能拿得資源去投入這類潛在問題的調查研究,但遇上的問題扯入了數位科技的審計恐怕也不能一天兩天就能建立自身內部in house 的技術稽核能力。因此如upturn這些能兼具技術與法律專長的團隊,似乎也找到當前「大數據」市場中另一種類型服務切入點。

1 意見:

jx tsai said...

一份HRDAG的相關報告,也值得比對參考
https://hrdag.org/2016/10/10/predictive-policing-reinforces-police-bias

Security First: umbrella app 中文化滙整

之前提過會作一篇 Security First's umbrella app 滙整與中文化超連結整合,以讓未下載使用、觀看過原手機應用的讀者(其實指的就是錯亂的我自己本人)稍能有全盤的概念來想像這個手機應用程式(或更精準的說:一個手機上的隨身電子書)的內容。好了,本文...

Videos

Contact Form

Name

Email *

Message *

Home Top Ad

Responsive Ads Here

Post Bottom Ad

Responsive Ads Here

Author Details

Templatesyard is a blogger resources site is a provider of high quality blogger template with premium looking layout and robust design. The main mission of templatesyard is to provide the best quality blogger templates which are professionally designed and perfectlly seo optimized to deliver best result for your blog.

Tags

Categories

Contact


Breaking

Recent News

Pages

Recent

Fashion

Connect With us

Comments

News

Food

Sports

test banner

Food

Technology

Featured