警察和法院正在轉向人工智慧，系統準備好了嗎？ “`

(SeaPRwire) –   人工智慧能否讓刑事司法系統更公平、更有效率？還是只會加強有害的偏見？ 專家表示，到目前為止，人工智慧的部署方式令人擔憂，但它具有產生正面影響的潛力。

如今，人工智慧技術幾乎已深入刑事司法系統的各個層面。 它被用於人臉識別系統以識別嫌疑人； 用於「預測性警務」策略以制定巡邏路線； 在法庭上協助案件管理； 並由公設辯護人篩選證據。 但儘管倡導者指出效率和公平性有所提高，但批評者對隱私和問責制提出了嚴重的質疑。

上個月，刑事司法委員會 (Council on Criminal Justice) 啟動了一項無黨派的人工智慧專案，以研究如何安全且合乎道德地在刑事司法系統中使用人工智慧。 該小組的工作將得到 RAND 研究人員的支持，他們最終將採用他們的研究結果並向決策者和執法部門提出建議。

「毫無疑問，人工智慧會產生不公正的結果，」工作組主席、前德克薩斯州最高法院首席法官 Nathan Hecht 說。 「這個工作組希望匯集科技人士、刑事司法人士、社群人士、各個不同領域的專家，真正坐下來看看如何利用它來改善系統，而不是造成它可能造成的危害。」

人工智慧在執法中的風險

Hecht 說，許多法院和警察部門已經在使用人工智慧。 「這是非常零散的：好奇的人會說，『哇，這裡有人工智慧，我們可以在刑事法庭上使用它。』」

但由於部署人工智慧的方式幾乎沒有標準，因此公民權利監督機構越來越擔心執法機構以危險的方式使用它。 數千個機構已經開始依賴像 Clearview 這樣的公司銷售的人臉識別技術，該公司擁有多達數十億張從互聯網上抓取的圖像的資料庫。 在許多資料庫中，黑人人口過多，部分原因是他們居住在警察過度執法的社區。 人工智慧技術也不擅長辨別黑人面孔的差異，這可能會導致更高的誤識別率。

去年，法律非營利組織 Innocence Project 表示，至少發生了七起因人臉識別技術而造成的錯誤逮捕事件，其中六起涉及被錯誤指控的黑人。 該組織的政策主管 Walter Katz 說，警察有時僅根據人工智慧的人臉識別結果進行逮捕，而不是讓人工智慧作為更大規模調查的起點。 「人們過於依賴人工智慧的輸出，」他說。

Katz 說，去年秋天他參加一個警務會議時，「到處都是人工智慧」。 供應商積極兜售聲稱可以解決警察部門實際問題的技術工具。 「但在提出這個建議時，很少關注任何權衡或風險，」他說。 例如，批評人士擔心，許多這些人工智慧工具會增加對公共空間的監控，包括監控和平抗議者，或者所謂的預測性警務將加強執法部門對警察過度執法地區的鎮壓。

人工智慧可以在哪些方面提供幫助

然而，Katz 承認人工智慧在刑事司法系統中確實佔有一席之地。 「很難擺脫人工智慧，而且在某些地方，人工智慧可以提供幫助，」他說。 因此，他加入了刑事司法委員會的人工智慧工作組。 「首先也是最重要的是了解採用的速度有多快。 如果每個人都理解完全沒有政策可能是錯誤的做法，那麼我們就從那裡開始。」

工作組主席 Hecht 認為，人工智慧可以在法庭上提供幫助的幾個領域，例如，改進被捕人員的接納流程，或幫助確定誰有資格參加轉移計劃，這些計劃允許罪犯避免被定罪。 他還希望工作組能夠就哪些類型的人工智慧使用明確不應在刑事司法中獲得批准提出建議，並採取措施保護公眾的隱私。 「我們想盡力收集必要的專業知識，以向產品的使用者和公眾保證，這將改善您在刑事司法系統中的體驗，並且之後它不會再打擾您，」他說。

與此同時，許多其他獨立的努力正在嘗試使用人工智慧來改善司法程序。 新創公司 JusticeText 希望利用人工智慧來縮小檢察官和公設辯護人之間的資源差距，後者通常人手嚴重不足且資源不足。 JusticeText 為公設辯護人構建了一個工具，可以篩選數小時的 911 呼叫、警察隨身攝影機錄像和錄音審訊，以便對其進行分析並確定，例如，警察是否發表了不一致的聲明或提出了誘導性問題。

創始人兼執行長 Devshi Mehrotra 說：「我們真的想看看首先成為公設辯護人是什麼樣子，並嘗試在過去幾年中技術在許多方面加劇的公平競爭環境。」 JusticeText 正在與全國各地約 75 個公設辯護機構合作。

刑事司法改革非營利組織 Recidiviz 也在測試幾種將人工智慧整合到其工作流程中的方法，包括向假釋官提供人工智慧生成的客戶摘要。 Recidiviz 的共同創始人 Andrew Warren 說：「您可能有 80 頁關於這個人的案件記錄，可以追溯到七年前，如果您有 150 人的案件量，並且您必須每月與每個人見面，您是不會讀這些記錄的。」 「人工智慧可以非常簡潔地突出這個人已經取得的成就以及他們可以在哪些方面獲得支持。」

那麼，決策者和刑事司法委員會工作組面臨的挑戰是確定如何制定標準和監督機制，以便人工智慧提高效率的優點超過其放大現有偏見的能力。 工作組的 Hecht 也希望防止未來黑盒人工智慧自行做出改變人生的決定。

「我們是否應該確保我們對人類正義的傳統觀念得到保護？ 當然。 我們是否應該確保有能力的法官和刑事司法系統的處理者完全控制局面？ 當然，」他說。 「但是說我們要讓人工智慧遠離司法系統是沒有希望的。 律師事務所正在使用它。 民事司法系統正在使用它。 它將會持續存在。」

“`