Нги спрашивает меня ?
Các thuật toán cũng thiên vị như những người tạo ra chúng. Một cuộc điều tra bởi Cộng hòa nhận thấy rằng Northpointe, người tạo ra một thuật toán cố gắng dự đoán một người bị giam giữ có khả năng phạm tội khác, dự đoán người da đen có nhiều khả năng phạm tội sau khi thoát ra ngoài so với người da trắng.
Thuật toán tạo ra một đánh giá rủi ro của điểm số điểm số của các tù nhân. Nó được sử dụng trên toàn quốc để hướng dẫn ngày ra tù. Sau khi phân tích dữ liệu cho hơn 7.000 người ở Hạt Broward, Florida, thực tế của các thuật toán phân biệt chủng tộc đã rõ ràng: các bị cáo da đen gần như gấp đôi so với các bị cáo da trắng để dự đoán phạm tội khác.
Phân tích kiểm soát các biến như giới tính và hình sự. Tuy nhiên, người da đen được dự đoán là có khả năng phạm tội bạo lực cao hơn 77% trong tương lai và 45% có khả năng phạm tội trong tương lai. Một điều đáng lo ngại nữa là chỉ có 20% dự đoán của Northpointe về việc ai sẽ phạm tội bạo lực trong tương lai là chính xác.
Northpointe sử dụng 137 câu hỏi để đánh giá tiềm năng của những người phạm tội. Theo báo cáo của ProPublica, các câu hỏi tránh hỏi về cuộc đua hoàn toàn. Một số câu hỏi có thể liên quan, tuy nhiên.
Ví dụ về các câu hỏi bao gồm: Một trong những cha mẹ của bạn đã từng bị tống vào tù hay ở tù?, Và Bạn có thường xuyên đánh nhau khi ở trường không? Một người khác cũng có / không có câu hỏi nào như một người đói có quyền để ăn cắp. Các yếu tố khác bao gồm trình độ học vấn và việc một người có việc làm hay không.
ProPublica đã trình bày chi tiết các phương pháp chính xác về cách họ truy cập và phân tích dữ liệu của Northpointe trong một bài giải thích và Northpointe đã gửi thư cho ProPublica nói rằng công ty này không đồng ý rằng kết quả phân tích của họ hoặc các khiếu nại được đưa ra dựa trên điều đó phân tích, là chính xác hoặc chúng phản ánh chính xác các kết quả từ việc áp dụng mô hình.
Kết quả ProPublica, nếu không đáng ngạc nhiên, có liên quan. Đánh giá rủi ro được sử dụng để tính toán tạm tha và quyết định số lượng trái phiếu; họ thậm chí còn có yếu tố kết án hình sự ở chín tiểu bang.
Công nghệ không phải là giải pháp cuối cùng cho mọi vấn đề, đặc biệt là xem xét công nghệ cũng hoàn hảo như những người tạo ra nó.