Vũ khí tự trị sẽ nói "Không" với các Lệnh bất hợp pháp?

Baynazar Mohammad Nazar đã bất tỉnh trên bàn mổ khi trần nhà bắt đầu đổ sập xuống người anh ta. Ông bố bốn con đã vào bệnh viện vào ngày hôm trước sau khi bị bắn vào chân, và đang trải qua ca phẫu thuật thứ hai trong hai ngày để khắc phục chấn thương. Khi người Mỹ bắt đầu phá hủy tòa nhà, các bác sĩ làm việc cho anh ta không còn cách nào khác là phải tự mình trốn thoát nhanh nhất có thể.

Andrew Quilty tại Chính sách đối ngoại kể câu chuyện về sự sống và cái chết của Baynazar trong một bài báo bao gồm một bức ảnh về cơ thể anh ta được bao phủ trong các mảnh vỡ trên bàn mổ. Baynazar là một trong số 31 người Hoa Kỳ thiệt mạng khi nó tấn công bệnh viện do Bác sĩ không biên giới (còn gọi là MSF) ở Kunduz, Afghanistan, vào ngày 2 tháng 10.

Sau các cuộc đình công cấp cao, dân thường, các chính trị gia và các chuyên gia hỏi rằng làm thế nào điều đó có thể xảy ra, và những gì có thể được thực hiện để đảm bảo nó không xảy ra lần nữa. Trong số những người đề xuất hệ thống vũ khí tự trị, đôi khi được gọi là robot giết người, thì một lập luận phổ biến là lỗi của con người (hoặc ác ý) chịu trách nhiệm cho một mức độ lớn các tội ác đã gây ra trong thời chiến. Về mặt lý thuyết, có thể nói, robot có thể chính xác hơn trong việc nhắm mục tiêu và ít mắc lỗi hơn con người.

Trong thực tế, sự phán xét của con người có thể chứng minh ít đáng tin cậy hơn các chỉ số kỹ thuật trong sức nóng của trận chiến, ông viết Michael N. Schmitt, giáo sư tại Đại học Chiến tranh Hải quân Hoa Kỳ. Những người tin rằng không có kinh nghiệm về sương mù chiến tranh.

Cuộc không kích của Mỹ vào bệnh viện MSF ở Afghanistan 'nguyên nhân chủ yếu là do lỗi của con người' http://t.co/X9TGIA81aD pic.twitter.com/TUwit97206

- Tin tức điện báo (@TelegraphNews) ngày 25 tháng 11 năm 2015

Sau đó, câu hỏi đặt ra là: bạn có thể lập trình các công cụ chiến tranh để hạn chế hành vi của con người để thực hiện các cuộc đình công như vụ đánh bom bệnh viện Kunduz không, hoặc ít nhất là ít có khả năng?

Có lẽ là không - ít nhất là trong tương lai gần. Nhưng một số lập trình viên trí tuệ nhân tạo đã thiết kế một robot có thể nói không với con người. Thiết kế thí nghiệm rất đơn giản: Con người bảo robot đi về phía trước một cái bàn, điều mà ban đầu robot không chịu làm. Khi con người nói với robot mà anh ấy sẽ bắt nó, robot chấp nhận mệnh lệnh.

Đó là một chặng đường dài từ một máy bay trực thăng tấn công bán tự trị nói với phi hành đoàn của con người rằng nó có thể thực hiện một cuộc không kích chống lại bệnh viện bởi vì nó sẽ là một tội ác chiến tranh, nhưng tiền đề cơ bản là như nhau. Như những người khác đã chỉ ra, sự lo lắng của con người về loại phát triển rất giống robot này là phổ biến trong khoa học viễn tưởng - hãy nghĩ rằng HAL-9000 nói rằng tôi có thể làm điều đó, Dave đấm khi nó khóa con người bên ngoài trạm vũ trụ 2001: Một cuộc phiêu lưu không gian.

Về các chi tiết cụ thể của cuộc tấn công Kunduz, nhiều sự thật xung quanh cuộc tấn công vẫn còn bị tranh cãi. MSF đã yêu cầu một cuộc điều tra độc lập, mà chính phủ Hoa Kỳ phản đối, thay vào đó hứa hẹn sẽ thực hiện các đánh giá của riêng mình.

Một số phần của một cuộc điều tra của Hoa Kỳ đã được công khai vào đầu tháng này và phát hiện ra các lỗi về người và máy móc chịu trách nhiệm cho cuộc đình công. Nhưng đầu tuần này, hai thành viên dịch vụ đã tiến tới để phản bác lại kết quả báo cáo. Họ nói rằng cuộc đình công không phải là một sai lầm. Trong kế toán của họ, báo cáo đầu tiên bởi AP, Các lực lượng hoạt động đặc biệt của Hoa Kỳ đã kêu gọi đình công vì họ mặc dù bệnh viện đang được sử dụng làm trung tâm chỉ huy và kiểm soát Taliban.

Trong phiên bản chính thức, một thất bại cơ học đã dẫn đến phi hành đoàn của pháo hạm AC-130 ban đầu nhận được tọa độ cho một trường trống. Sau đó, phi hành đoàn đã tìm kiếm một tòa nhà trong khu vực phù hợp với mô tả vật lý mà họ đã đưa ra và nổ súng. Khi các dụng cụ của họ được hiệu chỉnh lại, họ đã cho phi hành đoàn tọa độ chính xác cho mục tiêu của họ, nhưng dù sao phi hành đoàn vẫn tiếp tục bắn vào bệnh viện.

Nếu tài khoản này là sự thật - rằng máy tính cuối cùng chính xác và con người đã bỏ qua nó - nó mang lại một số tín nhiệm cho những người ủng hộ quyền tự chủ lớn hơn trong các hệ thống vũ khí. Điều đó nói rằng, cuộc chiến chống khủng bố của Hoa Kỳ tràn ngập các ví dụ về quân đội hoặc CIA đánh vào mục tiêu bên phải của Hồi giáo và cuối cùng vẫn giết chết một số lượng lớn dân thường. Tự động hóa đã thắng giải trí thông minh xấu, và cố gắng lập trình gần đúng về đạo đức sẽ không chấm dứt tội ác chiến tranh.

Có một sự cám dỗ mạnh mẽ ở Hoa Kỳ để khử trùng chiến tranh, và tự động hóa, bằng cách loại bỏ người Mỹ khỏi cách làm hại, đó là định mệnh thay đổi định nghĩa về chiến tranh. Obama ưa thích giết người bằng máy bay không người lái và đảm bảo đi kèm rằng máy bay không người lái là vũ khí chính xác nhất từng được tạo ra là biểu hiện rõ ràng nhất của những mục tiêu đó. Họ đã từng tấn công chính xác, chính xác vào al Qaeda và các chi nhánh của họ, ông Obama Obama nói trong một hangout Google năm 2012.

Một nghiên cứu năm 2013 của chính phủ, tuy nhiên, trái ngược với những tuyên bố đó. Nó phát hiện ra rằng máy bay không người lái ở Afghanistan đã gây ra số người chết dân sự gấp 10 lần so với các phương tiện không người lái. Một người máy bay không người lái tốt hơn trong việc tránh dân thường hơn máy bay chiến đấu, ông Sarah Sarahewewki, đồng tác giả của nghiên cứu, nói Người bảo vệ. Khi phi công lái máy bay phản lực được chỉ thị và huấn luyện rõ ràng về bảo vệ dân sự, họ có thể hạ thấp tỷ lệ thương vong dân sự.

Quân đội đang chi hàng triệu đô la để phát triển các hệ thống hợp tác robot-người, làm mờ thêm ranh giới giữa các nhiệm vụ được thực hiện bằng vũ khí có người lái hoặc không người lái. Những gì chúng tôi muốn làm trong việc hợp tác chiến đấu giữa người và máy là đưa nó lên một tầm cao mới, để xem xét những thứ như chiến thuật tràn trề, Thứ trưởng Bộ Quốc phòng Bob Work nói với blog khoa học DoD chính thức. Một chiếc F-35 có thể vào trận chiến với bốn người không cánh không người lái?

Những người chạy cánh đó sẽ nói không nếu phi công con người đưa ra cho họ một mệnh lệnh tương tự với việc rời khỏi bàn? Điều gì về một lệnh để phá hủy một bệnh viện hoặc trường học? Sương mù của chiến tranh sẽ được áp dụng trong cả hai trường hợp. Và nếu chúng ta quyết định ghi đè lên máy móc, cụm từ Lỗi con người, lỗi sẽ là một trong những thuật ngữ đáng sợ hơn trong các cuộc xung đột trong tương lai.