OpenAI - Non-profit AI company by Elon Musk and Sam Altman
Cuối tuần qua, Elon Musk, Sam Altman và các ông lớn khác ở Thung lũng Silicon đã bất ngờ tuyên bố ra mắt OpenAI, một công ty phi lợi nhuận mô tả mục tiêu của nó là: Bắt đầu phát triển trí thông minh kỹ thuật số theo cách có khả năng mang lại lợi ích chung cho nhân loại, không bị ràng buộc bởi nhu cầu tạo ra lợi nhuận tài chính.
Vì nghiên cứu của chúng tôi không có nghĩa vụ tài chính, chúng tôi có thể tập trung tốt hơn vào tác động tích cực của con người. Chúng tôi tin rằng A.I. nên là một phần mở rộng của ý chí cá nhân của con người và, theo tinh thần tự do, được phân phối rộng rãi và đồng đều nhất có thể.
Có hai điểm chính từ thông báo này. Đầu tiên là Musk và công ty thấy A.I. nghiên cứu ngay bây giờ vì quá tập trung vào việc đạt được giá trị thực tiễn ngắn hạn và họ muốn giúp thúc đẩy các nỗ lực về phía trước đang thực hiện một cách tiếp cận rộng hơn, toàn diện hơn để phát triển A.I. hệ thống. Điểm thứ hai, che giấu nhiều hơn là Musk vẫn lo ngại về tiềm năng của A.I.I có thể gây hại nếu chúng ta phát triển và giới thiệu các hệ thống nửa nướng. Musk trước đây đã gọi A.I. Trước đây, mối đe dọa hiện sinh lớn nhất của chúng tôi và đề xuất rằng việc giám sát theo quy định có thể là cần thiết để ngăn chặn những nguy cơ tiềm ẩn. OpenAI có thể là một cách cung cấp sự giám sát đó mà không cần đến cơ quan giám sát liên bang.
Musk và các đồng nghiệp của anh ta đang làm gì mà khác với những gì người khác đã làm. Rốt cuộc, nguồn mở A.I. không có gì mới Google đã tạo ra A.I. phần mềm nguồn mở tháng trước và điều này đã trở thành thủ tục khá chuẩn. Nhưng với khoản tài trợ trị giá 1 tỷ USD, OpenAI đã là một trong những tổ chức lớn nhất hoạt động trên A.I. nghiên cứu, và khá dễ dàng là tổ chức phi lợi nhuận lớn nhất. Mục tiêu của nó là làm cho kết quả của nó được công khai và tất cả các bằng sáng chế của nó đều miễn phí bản quyền. Họ có một củ cà rốt và một cây gậy và họ dự định sử dụng nó để lèo lái một ngành công nghiệp.
Ý tưởng là sử dụng OpenAI như một loại đối trọng với các tập đoàn lớn hơn, phòng thí nghiệm nghiên cứu tư nhân và thậm chí cả các chính phủ thế giới có số tiền và tài nguyên đáng kinh ngạc để đổ vào A.I. nghiên cứu có thể không được dành cho mục đích thân thiện, và thay vào đó có thể dẫn đến các công nghệ với các ứng dụng bất chính. Các nhà nghiên cứu làm việc với OpenAI về cơ bản sẽ theo đuổi’thân thiện A.I., không có áp lực để hiển thị kết quả ngay lập tức. Có thể có một sự cân nhắc lớn hơn cho các tính năng an toàn và thiết kế mà các doanh nghiệp tư nhân có thể có xu hướng bỏ qua. Có chiến thắng là một tòa tháp trắng, nơi chỉ có một vài người được chọn điều khiển con đường của A.I. phát triển. Nó sẽ là một thế giới chào đón tất cả mọi người.
Trong một cuộc phỏng vấn với Kênh trở lại, Musk cũng nhấn mạnh mong muốn tạo ra nhiều loại A.I. hệ thống. Chúng tôi muốn A.I. Để được phổ biến rộng rãi, ông nói. Chúng tôi nghĩ rằng có lẽ nhiều người là tốt.
Điều đó quan trọng, bởi vì nó phân biệt có lẽ là lý do chính khiến Musk và Altman muốn dân chủ hóa A.I. Họ tin rằng loại A.I. - loại sẽ mang lại lợi ích cho nhân loại theo cách tích cực mà không tạo ra các lớp phủ robot - là loại hoạt động như một phần mở rộng của ý chí cá nhân của con người, theo như cách mà Musk đưa ra. Anh tiếp tục nói:
Càng như trong một A.I. mở rộng bản thân, sao cho mỗi người về cơ bản là cộng sinh với AI, trái ngược với AI là một trí thông minh trung tâm lớn mà một loại khác. Nếu bạn nghĩ về cách bạn sử dụng, giả sử, các ứng dụng trên internet, bạn đã nhận được email của mình và bạn đã có phương tiện truyền thông xã hội và với các ứng dụng trên điện thoại của bạn - chúng thực sự khiến bạn trở nên siêu phàm và bạn không nghĩ về chúng như là người khác, bạn nghĩ về họ như là một phần mở rộng của chính mình. Vì vậy, ở mức độ mà chúng ta có thể hướng dẫn AI theo hướng đó, chúng tôi muốn làm điều đó. Và chúng tôi đã tìm thấy một số kỹ sư và nhà nghiên cứu có cùng chí hướng trong lĩnh vực AI, những người cảm thấy tương tự.
Về cơ bản, tầm nhìn OpenAI cho A.I. nghiên cứu là một cộng đồng phi tập trung giúp kết nối con người với nhau và với thế giới.
Musk vẫn chưa vạch ra cách họ sẽ ngăn chặn nghiên cứu trong chính OpenAI - hoặc được các nhóm bên ngoài sử dụng lại - đi theo hướng nguy hiểm. Và có một thứ khác đáng lưu ý ở đây: Các hệ thống nguồn mở chỉ có ý nghĩa nếu dữ liệu được sử dụng để xây dựng các thuật toán học máy được chia sẻ tự do. Một hệ thống thông minh phải học hỏi Làm thế nào để thông minh, và để làm được điều đó, nó cần học hỏi từ dữ liệu và kinh nghiệm. Nó giống như xây dựng một con đập - bạn cần cả bản thiết kế (thuật toán) và vật liệu xây dựng (dữ liệu) để thực sự tạo ra thứ gì đó sẽ ngăn nước.
Đó là lý do tại sao mọi người vẫn bị giới hạn trong những gì họ có thể làm với Google Lốc kéo dài - họ không có dữ liệu mà Google có. Và trừ khi các sự hợp tác được xây dựng từ OpenAI cho phép truy cập miễn phí vào cùng dữ liệu mà các nhà nghiên cứu trong nhà đang làm việc, thì tầm nhìn của Musk đã giành được sự nhất thiết phải được thực hiện - hoặc ít nhất là không phải theo cách mà anh ấy quảng bá.
Musk, Altman và những người sáng lập OpenAI khác đã bắt đầu một thứ gì đó sẽ có ảnh hưởng to lớn đến sự phát triển của A.I. từ đây trên ra. Đồng thời, họ sẽ cần phải thẳng thắn trong cam kết thúc đẩy một cộng đồng nghiên cứu nguồn mở, có nghĩa là công khai về kế hoạch của họ cho công ty phi lợi nhuận và sẵn sàng chia sẻ dữ liệu. Mặt khác, OpenAI giành được khác biệt nhiều so với các công ty đàn mà nó được thiết kế theo bầy đàn.