Kizuna AI - AIAIAI (при участии Накаты Ясутаки) [Официальное Музыкальное Видео]
Ba nhà nghiên cứu tại Cornell Tech ở thành phố New York đã phát hiện ra rằng hình ảnh mờ và pixel không phù hợp với trí tuệ nhân tạo. Mặc dù hình ảnh bị che khuất vẫn không thể hiểu được bằng mắt người và do đó dường như bảo vệ nội dung nhạy cảm của chúng, mạng lưới thần kinh thường có thể nói chính xác ai là người trong ảnh gốc.
Nói cách khác, con người không còn là bài kiểm tra giấy quỳ. Chúng ta không còn có thể hỏi đơn thuần liệu một cái gì đó đánh bại tất cả bộ não của con người. A.I.s - thậm chí A.I.s đơn giản - có thể vượt trội hơn con người, do đó, đánh bại chúng cũng phải luôn là một phần của phương trình.
Các nhà nghiên cứu của Cornell Tech nghiên cứu, tập trung vào thử nghiệm các thuật toán bảo vệ quyền riêng tư, làm mờ hoặc làm mờ các thông tin nhất định hoặc các phần của hình ảnh. Trước đây, chúng tôi tin tưởng vào phần mềm hoặc thuật toán bảo vệ quyền riêng tư một cách ngầm định, cho rằng thông tin họ che khuất là an toàn vì không Nhân loại có thể nói ai là người đứng sau bức màn kỹ thuật số. Nghiên cứu cho thấy rằng thời đại đó đã qua, và các phương thức ẩn danh có liên quan đã giành được một thời gian dài. Mạng lưới thần kinh, được đáp ứng với các biện pháp riêng tư, là không ngạc nhiên.
Richard McPherson là một tiến sĩ. ứng cử viên khoa học máy tính tại Đại học Texas, Austin, người đã theo giáo sư của mình, Vitaly Shmatikov, đến Cornell Tech. Cùng với Reza Shokri, họ đã chứng minh rằng các mạng lưới thần kinh đơn giản có thể vạch mặt các kỹ thuật che giấu hình ảnh phổ biến. Kỹ thuật này tương đối không phức tạp, khiến cho việc khám phá trở nên đáng lo ngại hơn: Đây là những phương pháp phổ biến, dễ tiếp cận và chúng có thể đánh bại các quy tắc công nghiệp để che giấu.
Mạng lưới thần kinh là những cấu trúc lớn, xếp lớp của các nút, hoặc tế bào thần kinh nhân tạo, mô phỏng cấu trúc cơ bản của não. Họ có thể dựa trên sự hiểu biết đơn giản về cách thức hoạt động của các nơ-ron thần kinh. Nghịch đảo. Cung cấp cho nó một số đầu vào, và tế bào thần kinh hoặc bắn hoặc không cháy.
Họ cũng có khả năng học tiếng Anh, theo định nghĩa sơ bộ của thuật ngữ này. Nếu bạn cho thấy một con người hoang dã (hoàn toàn vô học) một thứ gì đó màu đỏ, màu đỏ và bảo họ chọn ra tất cả những thứ màu đỏ của con từ một cái xô, lúc đầu họ sẽ vật lộn nhưng sẽ cải thiện theo thời gian. Cũng vậy với các mạng lưới thần kinh. Học máy chỉ có nghĩa là dạy một máy tính để chọn ra những thứ màu đỏ, ví dụ, từ một thùng ảo của những thứ đa dạng.
Đó là cách mà McPherson và công ty đào tạo mạng lưới thần kinh của họ. Trong hệ thống của chúng tôi, chúng tôi tạo ra một mô hình - một kiến trúc của các mạng nơ-ron, một tập hợp có cấu trúc của các nơ-ron nhân tạo này - và sau đó chúng tôi cung cấp cho chúng một lượng lớn hình ảnh bị che khuất, ông nói. Ví dụ, chúng tôi có thể cung cấp cho họ hàng trăm bức ảnh khác nhau về Carol đã được pixel hóa, sau đó là một trăm hình ảnh khác nhau về Bob đã được tạo pixel.
Sau đó, các nhà nghiên cứu dán nhãn cho những hình ảnh pixelated này và bằng cách đó nói với người mẫu LÊN trong mỗi hình ảnh. Sau khi xử lý bộ dữ liệu này, mạng có chức năng biết Pixelated Bob và Pixelated Carol trông như thế nào. Sau đó, chúng tôi có thể cung cấp cho nó một hình ảnh pixel hoặc Bob khác nhau mà không có nhãn, mà Mc Mcerson giải thích, và có thể đoán và nói, Tôi nghĩ rằng đây là Bob với độ chính xác 95%.
Mô hình này không tái tạo lại hình ảnh bị che khuất, nhưng thực tế là nó có thể đánh bại các phương thức ẩn danh phổ biến nhất và trước đây đáng tin cậy nhất đang làm bối rối chính nó. Họ có thể tìm ra những gì mà Patrick đang bị xáo trộn, nhưng họ không biết những gì ban đầu trông giống như vậy, Mc Mcerson nói.
Nhưng các mạng lưới thần kinh vẫn có thể làm tốt hơn nhiều so với con người. Khi các hình ảnh bị che khuất nhất bằng cách sử dụng một kỹ thuật tiêu chuẩn công nghiệp, hệ thống vẫn chính xác hơn 50%. Đối với các hình ảnh ít bị che khuất, hệ thống tỏ ra đáng chú ý, với độ chính xác khoảng 70%. Chuẩn YouTube YouTube cho khuôn mặt mờ hoàn toàn thất bại; ngay cả những hình ảnh mờ nhất cũng được mạng lưới thần kinh phản ánh, chứng minh chính xác 96%.
Các kỹ thuật ẩn danh dữ liệu, văn bản và ẩn danh khác trước đây cũng không đáng tin cậy. Vào mùa hè, có một tác phẩm đã xem xét văn bản ẩn danh bằng cách sử dụng pixelation và làm mờ, và cho thấy rằng chúng cũng có thể bị phá vỡ, theo Mc Mcerson. Và các phương pháp đáng tin cậy khác cũng có thể đang trên đường ra khỏi cửa. Mặc dù anh ta không biết các kỹ thuật che giấu giọng nói, giống như những kỹ thuật được sử dụng cho các cuộc phỏng vấn trên TV ẩn danh, anh ấy sẽ không ngạc nhiên khi các mạng lưới thần kinh có thể phá vỡ tính ẩn danh.
Phát hiện của McPherson, sau đó, chứng minh rằng, các phương pháp bảo vệ quyền riêng tư mà chúng ta có trong quá khứ không thực sự bị ngớ ngẩn, đặc biệt là với các kỹ thuật học máy hiện đại. Nói cách khác, chúng ta tự mã hóa thành không liên quan, đào tạo máy móc để outdo chúng tôi trong tất cả các lĩnh vực.
Các nhà nghiên cứu đã viết, sức mạnh của học máy tăng lên, sự đánh đổi này sẽ thay đổi theo hướng có lợi cho các đối thủ.