Trẻ Trâu Tới Tận Nhà Gạ Solo Chém Dao Và Cái Kết Ko Tưởng
Đại học California Berkeley chỉ cần thêm tên của mình vào một danh sách ngày càng tăng của các tổ chức có uy tín hoạt động để ngăn chặn trí thông minh nhân tạo độc ác phá hủy nhân loại. Trung tâm trí tuệ nhân tạo tương thích con người mới của nó, được công bố hôm thứ Hai, nhằm đảm bảo rằng A.I. vẫn có lợi, và cũng để ngăn chặn A.I. tận thế.
Berkeley riêng A.I. chuyên gia, giáo sư Stuart Russell, đang dẫn đầu liên doanh. Dự án từ thiện mở đã cung cấp khoản tài trợ 5,5 triệu đô la cho Trung tâm và những người khác cũng bị sứt mẻ. Một số chuyên gia khác từ Berkeley, Đại học Cornell và Đại học Michigan sẽ phục vụ như các nhà điều tra đồng hiệu trưởng.
Giáo sư Cornell Bart Selman nói Nghịch đảo về Trung tâm, A.I.s mà chúng tôi Nên nỗi sợ hãi, và tại sao thế giới có lẽ đang hướng đến địa ngục trong một cái khăn tay - chưa.
Bạn hy vọng đạt được điều gì với Trung tâm A.I. Tương thích với con người?
Những trung tâm này là một sự phát triển tương đối mới. Mọi người đầu tư - ví dụ, Viện Tương lai của Cuộc sống, có một khoản đầu tư từ Elon Musk, từ Tesla - để giải quyết các câu hỏi liên quan đến tương lai của cuộc sống và các mối đe dọa có thể đối với tương lai của cuộc sống và xã hội. Trung tâm mới tại Berkeley là một ví dụ khác về một học viện như vậy.
Nó lấy cảm hứng từ vai trò thay đổi của trí tuệ nhân tạo và điện toán trong xã hội của chúng ta. Những công nghệ này đang di chuyển vào xã hội của chúng ta, và sẽ có ảnh hưởng đến chúng ta. Các viện nghiên cứu này có mặt để đưa các nhà nghiên cứu đến với nhau để nghiên cứu các tác động tiêu cực có thể có, hoặc làm thế nào để đảm bảo rằng không có tác động tiêu cực.
Tiêu đề Trung tâm rất gợi ý rằng A.I. và loài người vốn dĩ không tương thích. Đó là quan điểm của bạn?
Đó là những phản ứng đầu tiên mà mọi người có, rằng những thứ này có thể không tương thích. Chúng tôi thực sự tin rằng, với các biện pháp phòng ngừa thích hợp, và các hướng dẫn và nghiên cứu thích hợp, chúng tôi thực sự có thể sắp xếp các lợi ích và đảm bảo rằng các công nghệ này có lợi. A.I. công nghệ có những mặt tích cực to lớn và mục tiêu của xã hội là đảm bảo rằng chúng ta luôn ở những mặt tích cực. Các nhà nghiên cứu liên quan đến viện tin rằng nó có tính khả thi.
Nếu bạn có thể áp dụng viễn cảnh ngày tận thế, thì kịch bản ngày tận thế do A.I. gây ra sẽ như thế nào?
Một nguy cơ rõ ràng sẽ là sự phát triển quân sự của trí tuệ nhân tạo, một sự kiện có thể dẫn đến một cuộc chạy đua vũ trang của A.I. giữa các quốc gia: Vũ khí tự trị, máy bay không người lái tự trị tuân theo mệnh lệnh của chính họ, được phát triển bởi các quốc gia khác nhau thù địch với nhau. Đó là rủi ro cụ thể nhất mà tôi thấy. Tôi nghĩ A.I. được phát triển cho xe tự lái, ví dụ - cho các vai trò thường xuyên trong xã hội - sẽ rất có lợi. Nhưng khía cạnh quân sự là một thành phần đáng lo ngại.
Đó đã là một trận chiến khó khăn?
Các quốc gia đang thực sự xem xét vấn đề này. Theo một nghĩa nào đó, đó là một trận chiến khó khăn: Quân đội đang đẩy mạnh phát triển A.I. Công nghệ. Nhưng, đã có những thỏa thuận - ví dụ, vũ khí sinh học có lẽ là trường hợp nổi tiếng nhất - nơi các quốc gia tại một số thời điểm quyết định rằng nó sẽ có lợi cho tất cả các quốc gia không phải để phát triển vũ khí sinh học trên quy mô lớn. Chúng tôi hy vọng rằng các quốc gia sẽ nhận ra rằng nhược điểm, đối với mọi người, là quá lớn để đi vào một A.I. chạy đua vũ trang.
Nếu cả hai bên phát triển công nghệ này, không ai đi trước.
Có bất cứ điều gì khác tôi nên biết về Trung tâm, hoặc về A.I ác ý. nói chung?
Nó rất quan trọng để cung cấp cho các mặt tích cực. Nó dễ dàng nhấn mạnh các rủi ro - và dĩ nhiên, đó là một phần lý do tại sao các trung tâm này được thành lập - nhưng nó cũng rất quan trọng để chỉ ra rằng rất nhiều nhà nghiên cứu cảm thấy rằng rủi ro này có thể kiểm soát được, và sự gia tăng sẽ rất lớn.
Bạn đã đưa ra quan điểm ngày tận thế. Một số ứng dụng tích cực tiềm năng của A.I. mà bạn có thực sự hào hứng về?
Những mặt tích cực sẽ là một xã hội nơi chúng tôi được hỗ trợ bởi công nghệ này. Bản dịch lời nói đồng thời - ví dụ giữa tiếng Trung và tiếng Anh - nơi mọi người có thể trò chuyện, như thể họ đang nói một ngôn ngữ bản địa, với nhau trên khắp thế giới. Chăm sóc người cao tuổi: Mọi người có thể ở miễn là họ muốn ở nhà, vì họ có một robot trợ lý hộ gia đình giúp họ sống độc lập.
Điều đó có thể sẽ có tác động khá lớn đến cuộc sống nói chung - về việc làm, và những gì chúng ta ưu tiên.
Vâng. Có cuộc tranh luận về việc làm, đó là một cuộc tranh luận riêng đang diễn ra. Sẽ có đủ nguồn lực để hỗ trợ tất cả mọi người, vì vậy có vấn đề về cách chúng tôi đảm bảo rằng mọi người đều được hưởng lợi từ những phát triển này. Sẽ có một sự nhận thức lại về ý nghĩa của công việc, loại công việc mà mọi người sẽ làm. Nhưng về nguyên tắc, mọi người sẽ có nhiều tự do hơn và có nhiều thời gian hơn để thực hiện các hoạt động mà họ thích làm, bởi vì máy móc sẽ giúp với nhiều thứ khác trần tục hơn, công việc những thứ -type. Sẽ mất một thời gian, nhưng chúng tôi tin rằng xã hội sẽ thích nghi, và từ từ kết hợp những thay đổi này.
Cuộc phỏng vấn này đã được chỉnh sửa cho rõ ràng và ngắn gọn.