Introduction to Robotics - ME84
Rô bốt đang trở nên trung tâm hơn trong cuộc sống hàng ngày của chúng ta, và chúng sẽ sớm phải đối mặt với một số lựa chọn đạo đức khó khăn mà chúng ta phải đưa ra một cách thường xuyên. Matthias Scheutz, giáo sư khoa học máy tính tại phòng thí nghiệm Tương tác người máy của Đại học Tufts, đặc biệt lo ngại rằng chúng tôi chưa trang bị cho cả những robot nguyên mẫu tiên tiến nhất của mình khả năng xử lý một số tình huống này. Scheutz tin rằng robot sẽ phải học cách không vâng lời con người nếu chúng ta muốn chúng thực sự phục vụ nhu cầu của chúng ta.
Trong một bài bình luận về Hôm nay trực tuyến, Có tiêu đề khiêu khích Rô bốt phải có khả năng không vâng lời để tuân theo, ông Scheutz yêu cầu người đọc xác định xem robot nên làm gì nếu đối mặt với một tình huống thậm chí có thể gây nhầm lẫn cho con người. Vài người trong số họ:
Một robot chăm sóc người cao tuổi được một người chủ hay quên giao nhiệm vụ giặt quần áo bẩn, mặc dù quần áo vừa mới ra khỏi máy giặt.
Một học sinh chỉ huy gia sư robot của cô ấy làm tất cả các bài tập về nhà, thay vì tự làm.
Một robot gia đình được hướng dẫn bởi chủ sở hữu bận rộn và mất tập trung của nó để chạy xử lý rác, mặc dù thìa và dao bị mắc kẹt trong đó.
Điều mà Scheutz đang nhắm đến để mô tả trong bài viết là một thực tế đơn giản là chúng ta sẽ cần những người máy biết cách nói lời nói không với con người. Nhiều ví dụ của anh ta liên quan đến độ tin cậy của người điều khiển robot, nhưng khó hơn là lập trình một robot biết hướng dẫn từ bất kỳ ai không quá trẻ hoặc quá già hoặc rõ ràng đang cố gây rắc rối.
Một số trong những vấn đề này đã được tranh luận sôi nổi tại trụ sở của các công ty công nghệ mạnh nhất thế giới, vì họ tìm kiếm những cách thức mới mà công nghệ có thể chiếm lĩnh một phần cuộc sống của chúng ta. Scheutz nêu ra ví dụ về một chiếc xe tự trị được hướng dẫn để sao lưu nhưng nhận thấy một con chó nằm trên đường đi của nó. Hầu hết chúng ta đều đồng ý rằng ngay cả con người điều khiển chiếc xe cũng muốn chiếc xe dừng lại, nhưng nếu con vật là một con sóc hay gấu trúc thì sao? Điều gì sẽ xảy ra nếu chiếc xe đang lái 45 dặm một giờ trên đường quê và bất ngờ phanh xe cho một con chó có nguy cơ khiến chiếc xe va chạm với một phương tiện khác phía sau nó?
Trong cả hai trường hợp, điều cần thiết là cả hai cỗ máy tự trị phải phát hiện ra tác hại tiềm tàng mà hành động của chúng có thể gây ra và phản ứng với nó bằng cách cố gắng tránh nó, hoặc nếu không thể tránh được tác hại, bằng cách từ chối thực hiện chỉ thị của con người Scheutz viết về một vấn đề nan giải tương tự.
Nhóm Scheutzát đã nghiên cứu các vấn đề này với các nguyên mẫu của nó và nhận thấy phần khó nhất trong những câu hỏi này là phân biệt mức độ gây hại nhẹ có thể xảy ra khi robot tuân theo một trật tự nhất định. Vì vậy, họ đã gán cho robot của mình một bài học đạo đức rất đơn giản nhưng mạnh mẽ sẽ khiến ngay cả các nhà triết học vĩ đại phải xấu hổ.
Nếu bạn được hướng dẫn thực hiện một hành động và có thể việc thực hiện hành động đó có thể gây hại, thì bạn được phép không thực hiện nó.
Theo một cách tinh tế, đó là một tiên lượng cách mạng từ Scheutz. Chắc chắn, tất cả chúng ta đều cố gắng tránh tác hại, nhưng có thể đôi khi chúng ta nghĩ rằng nó có thể chấp nhận rủi ro? Đi dạo trên phố, ăn món tráng miệng thứ hai hoặc thậm chí sao chép một ghi chú của bạn bè trong lớp có thể vi phạm tiên đề Scheutziến.
Khái niệm can thiệp robot cũng cho thấy Scheutz muốn robot của mình tuân thủ luật pháp. Don Tiết mong trợ lý robot Scheutzian của bạn sẽ giúp bạn tải nhạc mới bất hợp pháp. Điều đó sẽ gây hại cho các cổ đông của EMI!
Nó có một khu vực phức tạp về tư tưởng đạo đức, pháp lý và kỹ thuật, và Scheutz không ngại ngùng tấn công.