GERMAN UMLAUTS for Dummies - How To Pronounce Ä, Ö, Ü
Làm thế nào để chúng ta ngăn chặn một A.I. từ việc không tuân theo mệnh lệnh và chọn đi theo con đường riêng của mình? Nghe có vẻ giống như cốt truyện từ 2001: Một cuộc phiêu lưu không gian, nhưng một chuyên gia khẳng định nó có một thứ gì đó mà chúng ta có thể phải bắt đầu nghĩ tới. Chắc chắn, chúng ta có thể tắt thuật toán tìm kiếm của Google nếu nó bị lừa đảo, nhưng khi phải đối mặt với hậu quả tài chính và pháp lý, có thể nói dễ hơn làm. Trong tương lai, khi chúng ta phát triển phụ thuộc vào A.I. tiên tiến hơn, điều đó có thể chứng minh là không thể.
Thuật toán này đã không được thiết kế có chủ ý chinh no Stuart Armstrong, một nhà nghiên cứu tại Viện Nhân loại Tương lai, tại Hội nghị thượng đỉnh Cướp biển 2016 hôm thứ Tư cho biết, không thể khởi động lại hoặc tắt đi. Điều này có nghĩa là một thay đổi với kết quả vô ý có thể khó khắc phục và nó có thể không phải là A.I. để tìm thấy chính mình trong tình huống đó.
Giải pháp của Isaac Asimov, là ba định luật về robot, trong đó mã hóa các ý tưởng như không gây hại cho con người. Vấn đề là, tác hại là khá chủ quan và mở để giải thích. Con người làm việc nhiều hơn với các giá trị, như hiểu rằng điều đó xấu khi gây hại và diễn giải tình huống, hơn là làm việc theo một quy tắc cứng mà họ không bao giờ nên làm hại.
Armstrong vì vấn đề kiểu này mà mọi người bây giờ quan tâm nhiều hơn đến việc sử dụng máy học để có được các giá trị thay vì cố gắng viết mã theo cách truyền thống này, Armstrong nói. Các giá trị của hoàng cung ổn định theo cách mà những thứ khác không có trong A.I. Giá trị tự bảo vệ bản thân.
Nhưng ngay cả trong những tình huống này, điều quan trọng là thiết kế A.I. để làm cho chúng bị gián đoạn trong khi chúng chạy. Sự gián đoạn an toàn cho phép thay đổi chính sách an toàn, có thể tránh những hậu quả không lường trước từ các giá trị đã học. Nếu HAL 9000 từng cố gắng ngăn các cửa khoang mở ra, thì điều quan trọng là chúng ta có thể xác định rằng các giá trị A.I.I bị rối và can thiệp mà không cần hệ thống ngoại tuyến.