Theo dõi nhân quyền: Trung Quốc sử dụng dữ liệu lớn để nhắm mục tiêu vào các nhóm thiểu số

Chính phủ Trung Quốc đang sử dụng các thuật toán trị an dự đoán để nhắm mục tiêu vào các dân tộc thiểu số ở tỉnh Tân Cương, theo báo cáo của Tổ chức Theo dõi Nhân quyền công bố hôm thứ Hai.

Tỉnh ở phía tây bắc Trung Quốc là nơi sinh sống của 11 triệu người Uyghur, một nhóm dân tộc Hồi giáo Thổ Nhĩ Kỳ đã bị chính phủ Trung Quốc kỳ thị trong những năm gần đây.

Bây giờ, các nhà chức trách được báo cáo sử dụng dữ liệu lớn để nhắm mục tiêu một cách có hệ thống bất cứ ai nghi ngờ về sự không trung thành chính trị. Sự thúc đẩy này là một phần của chiến dịch Hard Strike Strike, nhằm mục đích dập tắt hoạt động khủng bố tiềm năng ở Trung Quốc. Trong thực tế, điều này đã dẫn đến chính sách không cân xứng của người Duy Ngô Nhĩ, Tổ chức Theo dõi Nhân quyền nói.

Hệ thống kiểm soát dự đoán, được gọi là IJOP - Nền tảng hoạt động chung tích hợp - được cung cấp dữ liệu từ nhiều công cụ giám sát khác nhau. Chúng bao gồm camera quan sát, biển số xe và số chứng minh nhân dân thu được từ các trạm kiểm soát an ninh và một kho thông tin cá nhân, bao gồm cả sức khỏe, ngân hàng và hồ sơ pháp lý.

Ngoài giám sát tự động, các quan chức chính phủ tiến hành các chuyến thăm tại nhà để thu thập dữ liệu về dân số. Một doanh nhân Trung Quốc đã chia sẻ một mẫu đơn mà anh ta điền vào hồ sơ IJOP, với Tổ chức Theo dõi Nhân quyền - trong số những điều khác, bảng câu hỏi hỏi liệu doanh nhân đó có phải là Uyghur không, anh ta thường cầu nguyện và đi đâu để tham gia các dịch vụ tôn giáo.

Tất cả các dữ liệu đầu vào này được IJOP sử dụng để gắn cờ mọi người là mối đe dọa tiềm tàng. Khi ai đó bị gắn cờ, cảnh sát mở một cuộc điều tra tiếp theo và đưa họ vào tù nếu họ bị nghi ngờ.

Lần đầu tiên, chúng tôi có thể chứng minh rằng chính phủ Trung Quốc sử dụng dữ liệu lớn và chính sách dự đoán không chỉ vi phạm quyền riêng tư một cách trắng trợn mà còn cho phép các quan chức tự ý bắt giữ người dân, nhà nghiên cứu cấp cao của Trung Quốc, Maya Wang cho biết.

Theo báo cáo, một số người được gắn cờ đã được chuyển đến các trung tâm giáo dục chính trị nơi họ bị giam giữ vô thời hạn mà không cần xét xử.

Từ khoảng tháng 4 năm 2016, Tổ chức Theo dõi Nhân quyền ước tính, chính quyền Tân Cương đã gửi hàng chục ngàn người Uyghur và các dân tộc thiểu số khác đến trung tâm giáo dục chính trị, báo cáo cho biết. IJOP đang cho vay sự tín nhiệm đối với các biện pháp giam giữ này bằng cách áp dụng một veneer phân tích thuật toán khách quan cho các vụ bắt giữ phân biệt đối xử.

Để làm cho vấn đề tồi tệ hơn, hoạt động bên trong của IJOP được che giấu trong bí mật.

Người dân ở Tân Cương có thể chống lại hoặc thách thức sự giám sát ngày càng xâm phạm của cuộc sống hàng ngày của họ bởi vì hầu hết những người don thậm chí còn biết về chương trình box hộp đen này hay cách thức hoạt động, Wang nói.

Nó có cùng một vấn đề gây khó khăn cho các hệ thống máy học tinh vi nhất: các quy trình quyết định mà họ sử dụng không rõ ràng ngay cả với những người tạo ra thuật toán.

Việc sử dụng IJOP của Trung Quốc rất đáng được chú ý bởi vì chính sách dự đoán có khả năng sinh sôi nảy nở khi công nghệ được cải thiện. Như Jon Christian đã chỉ ra Đề cương, hệ thống kiểm soát dự đoán đã được sử dụng ở một số nơi tại Hoa Kỳ. Sở cảnh sát Los Angeles sử dụng phần mềm dự đoán nơi nào và khi nào tội phạm có thể xảy ra để cảnh sát có thể đánh bại họ.

Ở phía bên kia của hệ thống tư pháp hình sự, đôi khi các phòng xử án sử dụng các thuật toán cho phép tạm tha tiềm năng Đánh giá rủi ro điểm số của điểm số để giúp các thẩm phán đưa ra quyết định sáng suốt hơn. Thật không may, những thuật toán được cho là không thiên vị này thực sự phân biệt đối xử dựa trên chủng tộc.

Trung Quốc đột phá vào chính sách dự đoán nhấn mạnh tầm quan trọng của việc thực hiện thuật toán có trách nhiệm khi máy học tiếp tục đi vào khu vực công. Có lẽ đó là thời gian để các chính phủ am hiểu công nghệ áp dụng một câu thần chú mới: Đôi khi trí thông minh nhân tạo tạo ra nhiều vấn đề hơn nó giải quyết.