OpenAI vs Dendi @ Презентация нового ИИ в Dota 2
OpenAI, tổ chức phi lợi nhuận chuyên nghiên cứu trí thông minh nhân tạo, do Elon Musk đồng sáng lập vào năm 2016, đã có những tiến bộ lớn - ngay cả sau khi Musk chia tay giữa những bất đồng về hướng đi của nó. Các nhà nghiên cứu đã phát triển các hệ thống có thể chơi trò chơi, viết bài báo và di chuyển các vật thể với mức độ khéo léo đột phá.
OpenAI đã gây ra tranh cãi với nghiên cứu của mình. Tuần trước, nó đã công bố sự phát triển của một mô hình ngôn ngữ, GTP2, có thể tạo ra các văn bản với các lời nhắc hạn chế. Trước lời nhắc nhở bằng văn bản của con người, Miley Cyrus đã bị bắt gặp đang đi mua sắm từ Abercrombie và Fitch trên Đại lộ Hollywood ngày hôm nay, hệ thống đã tạo ra một câu chuyện hoàn chỉnh đáng tin cậy tiếp tục với ca sĩ 19 tuổi bị bắt gặp khi bị camera hộ tống ra khỏi cửa hàng bởi nhân viên bảo vệ.
Nó cũng tạo ra câu chuyện gốc này về việc nói chuyện kỳ lân dựa trên một dấu nhắc ngắn:
Không có liên quan chặt chẽ với OpenAI trong hơn một năm và don Kiếm có quản lý hoặc giám sát hội đồng quản trị, Cảnh sát nhận xét trên Twitter cuối tuần qua. Tôi đã phải tập trung giải quyết một số lượng lớn các vấn đề kỹ thuật và sản xuất tại Tesla (đặc biệt) & SpaceX. Ngoài ra, Tesla đang cạnh tranh cho một số người giống như OpenAI và tôi đã không đồng ý với một số điều mà nhóm OpenAI muốn làm. Thêm vào đó và tốt hơn hết là nên chia tay với những điều khoản tốt.
Công ty ban đầu dường như là một cách lý tưởng để Musk đạt được mục tiêu khai thác A.I. vì lợi ích của nhân loại Doanh nhân này đã cảnh báo trước về rủi ro cơ bản của mối quan hệ với nền văn minh được tạo ra bởi những cỗ máy siêu thông minh, thúc giục các chính phủ điều chỉnh các chương trình như chúng ta làm thực phẩm, thuốc, máy bay và xe hơi.
Musk đã cam kết 10 triệu đô la để bắt đầu thành lập công ty ban đầu và tuyên bố sứ mệnh của nó tập trung vào khám phá và ban hành con đường đến trí thông minh nhân tạo an toàn.
Thật khó để thấy các chương trình tạo ra những câu chuyện như câu chuyện được chia sẻ bởi giám đốc điều hành OpenAI Greg Brockman có thể được sử dụng bởi một số lượng người tương đối nhỏ để tác động đến ý kiến của công chúng ít hiểu biết.
Một nhân viên OpenAI đã in ra mẫu viết bằng AI này và đăng lên thùng rác: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd
- Greg Brockman (@gdb) ngày 14 tháng 2 năm 2019
Vì những lo ngại của chúng tôi về các ứng dụng độc hại của công nghệ, chúng tôi không phát hành mô hình được đào tạo, công ty đã giải thích trong một bài đăng trên blog. Thay vào đó là một thử nghiệm trong công bố thông tin có trách nhiệm, thay vào đó chúng tôi đang phát hành một mô hình nhỏ hơn nhiều để các nhà nghiên cứu thử nghiệm, cũng như một bài báo kỹ thuật.
Thông báo dẫn đến lo ngại công nghệ này có thể được sử dụng để tạo ra tin tức giả mạo. Phân tích Ấn Độ cảnh báo rằng, với cuộc bầu cử Ấn Độ sắp diễn ra vào cuối năm nay, A.I. có thể tàn phá quá trình dân chủ. Bản thân các nhà nghiên cứu của OpenAI, nói rằng, kết hợp với nghiên cứu sản xuất âm thanh và video tổng hợp, công chúng nói chung sẽ cần phải trở nên hoài nghi hơn về văn bản mà họ tìm thấy trên mạng.
Ryan Lowe, một A.I. nhà khoa học và cựu thực tập viên OpenAI, đã tóm tắt mối đe dọa của một chương trình như thế này đang được sử dụng để tạo ra tin tức giả mạo ngắn gọn trong bài viết trung bình được thông qua này:
Một hệ thống tự động có thể: (1) cho phép các diễn viên xấu, những người không có tài nguyên để thuê hàng ngàn người, để thực hiện các chiến dịch làm mất thông tin quy mô lớn; và (2) tăng mạnh quy mô của các chiến dịch không rõ ràng đã được điều hành bởi các chủ thể nhà nước.
Không phải tất cả các nghiên cứu của OpenAI đã chứng minh rất nhiều tranh cãi. Dactyl, được công bố vào tháng 7 năm 2018, có thể thích nghi với vật lý trong thế giới thực để thao túng các vật thể trong thế giới thực. Tay robot rất phức tạp, với 24 bậc tự do, nhưng hệ thống có thể dễ dàng di chuyển các vật thể xung quanh chỉ bằng cách sử dụng ba camera RGB và tọa độ của tay robot.
Bàn tay robot tận dụng các thuật toán học tập củng cố mục đích chung được sử dụng để đánh bại con người tại các trò chơi video. Đội ngũ của Open Open Five Five đối đầu với một đội chuyên nghiệp Dota 2 Người chơi vào năm 2018. Hệ thống này đã được đào tạo trong các trò chơi có giá trị 180 năm, tận dụng lợi thế của bộ xử lý 128.000 đáng kinh ngạc và 256 bộ xử lý đồ họa. Trong khi nó đánh bại một nhóm người chuyên nghiệp và các streamer Twitch, nó đã thất bại trước những người chơi chuyên nghiệp.
Xạ thủ đã sử dụng Dota 2 phù hợp để thu hút sự chú ý đến Neuralink, kế hoạch của anh ta để tạo mối quan hệ cộng sinh với A.I. bằng cách liên kết bộ não của con người và tránh robot tiếp quản:
Công việc tuyệt vời của @OpenAI. Cần giao diện thần kinh sớm để kích hoạt sự cộng sinh của con người / AI.
- Elon Musk (@elonmusk) ngày 6 tháng 8 năm 2018
Trong thông báo về trình tạo văn bản của mình, OpenAI cho biết họ có kế hoạch thảo luận về chiến lược rộng lớn hơn trong sáu tháng. Công ty hy vọng sẽ châm ngòi cho một cuộc thảo luận sắc thái về sự nguy hiểm của trí tuệ nhân tạo, một động thái có thể tránh được một số tình huống thảm họa được hình dung bởi Musk. Tuy nhiên, ngay cả công ty cũng thừa nhận rằng không chắc chắn rằng việc giữ lại máy phát văn bản là quyết định đúng đắn ngày hôm nay. Với một sự phân ly đã được hình thành giữa hai thực thể chính cảnh báo về sự nguy hiểm của AI, không chắc các nhà lập pháp sẽ dễ dàng thời gian trong việc phát triển các giải pháp.