Một thuật toán đang được thử nghiệm ở San Francisco để đặt Bail trước khi dùng thử

Hệ thống tư pháp hình sự đang ở giữa một sự thay đổi thuật toán. Khoảng 30 khu vực pháp lý - bao gồm toàn bộ các bang Arizona, Kentucky và New Jersey, cũng như các thành phố như San Francisco và Chicago - đã thử nghiệm một thuật toán đặt chi phí bảo lãnh dựa trên dữ liệu hồ sơ tội phạm trên toàn quốc. Không phải tất cả các thẩm phán nhất thiết phải sẵn sàng để đưa các khuyến nghị kỹ thuật số vào trái tim.

Thuật toán được tạo bởi Quỹ Laura và John Arnold có trụ sở tại Houston và được gọi là Đánh giá An toàn Công cộng, hay PSA. Mục tiêu của thuật toán là đưa các thành kiến ​​ra khỏi việc bảo lãnh bằng cách sử dụng dữ liệu từ 1,5 triệu trường hợp trước khi sinh. Tuy nhiên, trong quá khứ, các thuật toán đã mang những thành kiến ​​tương tự của những người tạo ra chúng.

Chín yếu tố đi vào thuật toán, trên trang web Foundation Foundation:

• Liệu hành vi phạm tội hiện tại có bạo lực hay không
• Người đó có bị buộc tội tại thời điểm bị bắt không

• Người đó có bị kết án sai trước đó không
• Người đó có bị kết án trọng tội trước đó không
• Người đó có bị kết án trước về tội phạm bạo lực không
• Người tuổi Lôi tại thời điểm bị bắt
• Liệu người đó không xuất hiện tại phiên điều trần trước hai năm qua
• Liệu người đó không xuất hiện tại phiên điều trần trước hơn hai năm trước
• Cho dù người trước đó đã bị kết án tù.

Thuật toán không tính đến chủng tộc, giới tính, thu nhập, giáo dục, việc làm hoặc khu phố. Điều này, theo nền tảng, làm cho PSA trung tính.

Tuy nhiên, các thẩm phán ở San Francisco đã liên tục tuân theo các khuyến nghị, Biên niên sử San Francisco báo cáo.

San Francisco chuyển sang sử dụng thuật toán sau khi thành phố bị kiện bởi một nhóm dân quyền quốc gia tuyên bố bảo lãnh cắt cổ làm tổn thương người nghèo nhiều hơn người giàu. Những người giàu phạm tội nhẹ đã mua chuộc ra khỏi nhà tù, trong khi những người nghèo không thể chịu được số tiền bảo lãnh quá mức được để lại trong một phòng giam cho đến khi một phiên tòa có thể được lên lịch.

PSA có nhiệm vụ san bằng sân chơi bằng cách xem dữ liệu, thay vì tội phạm ngay lập tức. Thuật toán sử dụng dữ liệu lịch sử để đánh giá khả năng một người sẽ phạm tội khác hoặc tránh xét xử nếu được tại ngoại, Báo cáo thiểu số Phong cách. Nếu khả năng cao, bảo lãnh được đặt cao hơn và ngược lại.

Một thuật toán tương tự được tạo bởi Northpointe đã được sử dụng để hướng dẫn ngày phóng thích tù nhân. Cộng hòa công bố kết quả của một cuộc điều tra hồi tháng 5 cho thấy rằng đánh giá rủi ro của điểm số của điểm số được đưa ra bởi thuật toán Northpointe đã dự đoán một cách không tương xứng rằng người da đen có nhiều khả năng phạm tội khác hơn người da trắng sau khi họ thoát ra. Chỉ 20 phần trăm dự đoán của Northpointe là chính xác.

Mặt khác, các công nghệ lập bản đồ và dữ liệu lớn cũng đang giúp cơ quan thực thi pháp luật xác định và các điểm nóng hình sự của cảnh sát.

Thuật toán nền tảng nhằm mục đích tránh sự thiên vị tương tự bằng cách loại bỏ bất kỳ chỉ số nhân khẩu học nào. Dù nó có thực sự hoạt động hay không, tuy nhiên, won đã được nhìn thấy cho đến khi các thẩm phán thực sự bắt đầu dựa vào các thuật toán so với tiền lệ và trực giác.