Vũ khí hóa học máy chống lại ISIS sẽ làm rối tung chuỗi chỉ huy quân sự

$config[ads_kvadrat] not found

FROZEN Arendelle Full Movie All Cutscenes - Kingdom Hearts 3 (4K-60FPS]

FROZEN Arendelle Full Movie All Cutscenes - Kingdom Hearts 3 (4K-60FPS]
Anonim

Mọi người trên internet đã có khoảng thời gian tuyệt vời với Tay, robot Microsoft Microsoft Twitter đã trở thành một người từ chối Holocaust phân biệt chủng tộc trong vài giờ (sau đó quay lại và làm lại). Công ty đã tạo ra một vạt quan hệ công chúng - nhiều sự cố hơn là một thảm họa - trong khi cung cấp cho công chúng một bài học đối tượng về những ưu và nhược điểm của học máy: Tự động hóa có thể khai thác các mô hình để đạt được hiệu quả hấp dẫn ở tốc độ, nhưng kết quả sẽ khó dự đoán.

Như thường lệ, quân đội là người sớm áp dụng công nghệ tự động hóa. Đó là - tại một thời điểm - dẫn đầu về phí học máy và cũng cố gắng hết sức để theo kịp. Một trong những lĩnh vực trọng tâm chính của Lầu năm góc là robot tự trị và cách chúng sẽ hợp tác với con người - ví dụ như một người chạy cánh robot theo phong cách R2D2. Nhưng trong tuần này, Thứ trưởng Bộ Quốc phòng Robert Work đã phác thảo một nhiệm vụ khác cho A.I.: Khủng hoảng dữ liệu nguồn mở.

Bộ trưởng Chúng tôi hoàn toàn chắc chắn rằng việc sử dụng các máy học sâu sẽ cho phép chúng tôi hiểu rõ hơn về ISIL như một mạng lưới và hiểu rõ hơn về cách nhắm mục tiêu chính xác và dẫn đến thất bại của nó, theo Bộ trưởng Work, theo Trang web của DoD. Theo tài khoản đó, Work, người đang phát biểu tại một sự kiện được tổ chức bởi Bưu điện Washington, đã có một bản hùng ca của mình khi xem một công ty công nghệ ở Thung lũng Silicon trình diễn một máy lấy dữ liệu từ Twitter, Instagram và nhiều nguồn công khai khác để trình diễn vụ bắn hạ chuyến bay 17 tháng 7 năm 2014 của Malaysia Airlines trong thời gian thực.

Các công ty tư nhân và các cơ quan thực thi pháp luật đã cố gắng hiểu ý nghĩa của dữ liệu lớn. Nhưng quân đội có một lợi thế: tài nguyên. Ngoài ra, họ đã có quyền truy cập vào các tài liệu phân loại.

Chính phủ Hoa Kỳ dường như đã sẵn sàng đặt cược rằng các thuật toán phần mềm có thể sắp xếp lượng dữ liệu khổng lồ ngoài đó để xác định các mục tiêu ISIS có thể đã trốn tránh chúng, và phát hiện và phá vỡ các âm mưu trước khi các nhà hoạch định có thể thực hiện chúng. Chính phủ đã cố gắng nghiên cứu phương tiện truyền thông xã hội để dự đoán quy mô của các cuộc biểu tình trực tuyến. Không có câu hỏi nào về việc học máy sẽ giúp các nhà phân tích tình báo gia tăng sức mạnh để hiểu được sự giàu có của thông tin có sẵn trên thế giới. Nhưng khi trí thông minh đó trở thành cơ sở để thực hiện một cuộc tấn công gây chết người, các vấn đề đạo đức trở nên phức tạp hơn, ngay cả khi chúng có vẻ đơn giản.

Mặc dù Work đã nhanh chóng tuyên bố rằng Lầu năm góc sẽ không ủy thác quyền lực gây chết người cho một cỗ máy, nhưng đó vẫn là trò chơi kết thúc. Trong khi đó, con người sẽ vẫn là những người trong vòng lặp, đó là biệt ngữ. Nhưng như bất cứ ai đã xem iPhone báo cáo thời tiết khi đứng cạnh cửa sổ đều biết, mối quan hệ chúng ta có với các thiết bị và phần mềm của chúng tôi không đơn giản. Chúng tôi có vấn đề đáng tin cậy và dễ bị phân tâm bởi các vấn đề UI.

Xu hướng tự động hóa của người dùng, xu hướng cho con người trì hoãn máy móc, thể hiện mối nguy hiểm rõ ràng và ngày càng hiện hữu. Ví dụ điển hình để minh họa cho hiện tượng này là khi điện thoại của bạn bảo bạn đi theo lộ trình mà bạn biết là sai nhưng dù sao bạn cũng làm điều đó, giả sử rằng điện thoại phải biết điều gì đó bạn don don. Đây là một vấn đề phổ biến trong bối cảnh phi quân sự. Tuy nhiên, những gì Lầu năm góc dường như cũng đang tiến gần hơn là các báo cáo về mối đe dọa được sáng tác bởi trí tuệ nhân tạo. Chúng tôi không biết bất cứ điều gì về hiệu quả tiềm năng của chương trình này ngoài việc con người sẽ khó thực hiện.

Trong một bài báo năm 2001 về các sinh viên và phi công chuyên nghiệp và thiên vị tự động hóa, các nhà nghiên cứu đã phát hiện ra rằng trong các tình huống có thông tin chính xác để kiểm tra chéo và phát hiện dị thường tự động, tỷ lệ lỗi xấp xỉ 55% đã được ghi nhận trên cả hai quần thể. rằng việc thêm một đồng đội của con người đã không làm giảm bớt vấn đề.

Tương tự như vậy, một nghiên cứu của MIT từ năm ngoái có phần đáng lo ngại cho thấy người chơi máy tính và trò chơi điện tử có xu hướng tự động hóa quá mức. Điều đó có nghĩa là chúng ta càng dành nhiều thời gian nhìn chằm chằm vào màn hình, chúng ta càng tin tưởng vào những gì chúng ta thấy. Một lần nữa, vấn đề không phải là với các hệ thống chúng tôi sử dụng, nhưng với cách chúng tôi sử dụng chúng. Lỗi không phải ở ngôi sao của chúng ta, mà là ở chính chúng ta.

Dữ liệu lớn vẫn còn hứa hẹn. Học máy vẫn còn hứa hẹn. Nhưng khi máy móc khuyên con người, kết quả có thể dự đoán là không thể đoán trước. Có phải việc chuyển đổi thành một người theo chủ nghĩa sai lầm của phát xít mới có nghĩa là Twitter ghét người Do Thái và phụ nữ? Nó khó biết, nhưng khá khó. Khi chúng tôi không hiểu được quy trình bằng cách làm thế nào đầu vào trở thành đầu ra, chúng tôi đấu tranh để xử lý kết quả một cách hợp lý. Mà đặt Lầu năm góc ở một vị trí thú vị. Có phải những người lập trình phần mềm học máy quân sự sẽ trở thành những người ra lệnh không kích? Đó không phải là cách mà chuỗi lệnh hoạt động, mà là chuỗi lệnh bị rối khi công nghệ tham gia.

$config[ads_kvadrat] not found