該不該羈押?英國警方計畫讓AI判斷嫌犯危險性

該不該羈押?英國警方計畫讓AI判斷嫌犯危險性
▲Hart會將嫌犯分成低、中、高風險群,協助警方判斷是否收押嫌犯。(圖/翻攝自BBC)

編譯陳建鈞/綜合外電報導

嫌犯是否該被羈押,時常是個議論紛紛的問題。英國達拉謨警方計畫要借助AI的力量,將嫌犯分成低、中、高風險三群,協助警方判定究竟是否該進行羈押。

有專家認為這項系統或許會帶來幫助,但應該要審慎評估AI做出錯誤決策的風險。該AI被稱作Hart(Harm Assessment Risk Tool的簡稱),曾使用達拉謨警方2008年至2012年的資料進行訓練,並在2013年進行過測試,判定嫌犯再犯的可能性,警方會於其後兩年追蹤嫌疑人的狀況,比對Hart的判斷結果。

被Hart判斷為「低風險的」嫌犯,其準確率高達98%,被判斷為「高風險」的嫌犯,其準確率則只有88%,這樣的結果顯示,Hart的判斷趨於保守,為避免潛在的犯罪,傾向於將嫌犯分類成中、高風險。

達拉謨刑事警察總長Sheena Urwin表示,在測試期間,Hart做出的判斷並沒有影響警方的決定,不過她認為,「接下來兩三個月,我們可能實際運用Hart協助決策。」

Urwin提到,沒有前科的嫌犯大多不會被列為高風險的對象,但如果是被謀殺等重罪起訴,那就有可能影響Hart的判斷。

在2016年時,美媒《ProPublica》針對一個預測犯罪者再犯案可能性的演算法做出調查,結果顯示該演算法具有「種族歧視」,對黑人犯罪者會有更負面的預測,不過該技術公司曾對ProPublica的調查結果提出質疑。

一位曾研讀演算法決策的賓夕法尼亞大學政治學家Cary Coglianese表示,在一定的程度上,學習模型會將人類沒說出口的推論表現出來,「嘗試與評估(機械學習)模型是否具有歧視,是非常困難的一件事。」

學者們還強調,AI預測的結果「僅供參考」,警方應謹慎使用這項工具。

曾參與Hart開發的劍橋大學教授Lawrence Sherman教授提到,未來將可以查詢Hart是如何得出每一個決定,這意謂著警方將能更了解AI判斷的準則。

不過,目前Hart有一個急需解決的問題──它僅能使用達拉謨警方的數據,無法使用其他地區的資料,這表示如果嫌犯在達拉謨外有犯罪前科,Hart就無法正確評估對方的危險性。

熱門標籤

留言

延伸閱讀