Đối với tai nhạy cảm bởi các hội thảo đặc biệt và đa dạng sau giờ học, điều này sẽ nghe có vẻ tồi tệ, nhưng chúng tôi muốn robot đưa ra những đánh giá nhanh dựa trên ngoại hình. Vượt qua định kiến là tốt, nhưng không có khả năng rập khuôn làm giảm trí thông minh - nhân tạo và mặt khác. Alan Wagner, Tiến sĩ, một người máy tại Georgia Tech, là người đề xuất chính cho công nghệ rập khuôn. Ông lập luận rằng loại logic này không cần phải được áp dụng cho chủng tộc hay giới tính, chỉ là tình huống và hành vi.
Trong một thử nghiệm đầu tiên về thuật toán rập khuôn của mình, Wagner đã huấn luyện một robot ngây thơ để đưa ra kết luận từ những gì nó nhìn thấy. Robot đã học và trở nên nhận thức, điều này cho phép Wagner bắt đầu suy nghĩ chín chắn về đạo đức của các giả định robot, đặc biệt là những người được lập trình sẵn. Anh ấy đã nói chuyện với Nghịch đảo về công việc của mình và sự phân nhánh của nó.
Hướng dẫn tôi cách làm việc của thí nghiệm.
Robot tương tác với các loại cá nhân khác nhau - lính cứu hỏa, EMT hoặc không có gì - nhưng nó không có kinh nghiệm trước với bất kỳ loại cá nhân nào trong số này. Đó là, về cơ bản, học tập kinh nghiệm.
Ý tưởng là chỉ ra rằng robot có thể sử dụng các tính năng nhận thức từ cá nhân để dự đoán nhu cầu của họ về mặt sử dụng công cụ. Cách thức hoạt động của thuật toán, máy ảnh robot Robot sẽ cảm nhận các khía cạnh khác nhau của cá nhân trông như thế nào - ví dụ như màu đồng phục của chúng, cho dù chúng có râu và màu tóc.
Nó cũng sẽ hỏi họ những câu hỏi về những gì họ trông như thế nào. Tất nhiên, đặt câu hỏi không phải là những gì bạn muốn làm trong lĩnh vực này, nhưng nhận thức của Robot Robot rất hạn chế ngay bây giờ. Chúng tôi cần một cách để khởi động quá trình tìm hiểu về một người. Người đó sẽ chọn công cụ, và sau đó robot sẽ chọn công cụ đó và theo thời gian, robot sẽ tìm hiểu công cụ mà mỗi loại người ưa thích.
Bạn có mong đợi robot biết rằng một huy hiệu có nghĩa là cảnh sát hoặc áo phản quang nặng có nghĩa là lính cứu hỏa?
Chúng tôi loại dự kiến nó. Nhưng cũng có một số điều đáng ngạc nhiên.Ví dụ, robot đã nhận ra một cách sai lầm rằng một bộ râu được dự đoán với một lính cứu hỏa - điều đó thật kỳ lạ, nhưng khi bạn nhìn vào dữ liệu, điều đó thật đáng ngạc nhiên. Một số người đầu tiên tương tác với nó là lính cứu hỏa có râu. Vì vậy, chúng tôi cho rằng cần phải có sự đa dạng về nhận thức, một ý tưởng rằng nếu robot có thể nhìn thấy các loại cá thể lớn, rộng khác nhau trong một danh mục, nó sẽ phát triển và hiểu rõ hơn về danh mục.
Bạn có thể nói rằng robot tự trị nên được huấn luyện để giải quyết những điều kỳ quặc này, vì vậy một robot đã chiến thắng nghĩ rằng nếu người này có râu, anh ta có phải là lính cứu hỏa không?
Chắc chắn rồi. Nó rất quan trọng rằng chúng tôi giải quyết những điều này. Điều quan trọng là chúng ta có những robot này hoạt động từ nhiều nhóm cá nhân khác nhau.
Việc học đó có thể trông như thế nào?
Nó sẽ cho phép robot tập trung vào những thứ đặc trưng hơn cho lính cứu hỏa. Ví dụ, một lính cứu hỏa thậm chí có thể không mặc áo khoác. Robot sau đó sẽ chú ý đến các khía cạnh khác của chữa cháy, có thể là ủng, có thể là găng tay, có lẽ là mũ bảo hiểm. Nó sẽ nói rằng, OK OK người này thực sự Là một lính cứu hỏa trong môi trường này.
Nếu bạn có đủ người, nó có thể nhận ra một người lính cứu hỏa trong đám cháy so với người lính cứu hỏa trong bữa tiệc Halloween. Nó có các chi tiết nhận thức tinh tế, giống như sự khác biệt giữa chất lượng của các loại đồng phục hoặc môi trường theo ngữ cảnh.
Bên cạnh việc liên kết râu với lính cứu hỏa, thuật toán này đã thành công như thế nào?
Có hai điều chúng tôi thực sự muốn xem xét: Một, bạn có thể làm gì với nó? Nếu robot có thể nhận ra lính cứu hỏa, điều đó có thực sự giúp ích theo một cách nào đó không? Bài viết cho thấy nó cho phép bạn thu hẹp tìm kiếm của bạn. Thay vì nhìn vào râu để tìm màu tóc, tìm màu mắt hoặc bất cứ thứ gì bạn có thể tìm kiếm, bạn có thể tập trung vào các tính năng thực sự quan trọng. Là người mặc áo lính cứu hỏa? Điều đó có thể tăng tốc quá trình.
Một điều thực sự quan trọng khác mà chúng tôi đã xem xét là, điều gì xảy ra nếu danh mục mà robot dự đoán là sai? Điều đó tác động đến bạn như thế nào? Bạn có thể tưởng tượng môi trường tìm kiếm và cứu hộ có thể hỗn loạn: Bạn có thể làm việc trong điều kiện đầy khói, robot có thể không nhận thức được mọi thứ rất tốt, nó có thể có lỗi. Bạn có thể tưởng tượng một trường hợp tồi tệ hơn, trong đó robot nghĩ rằng người đó là nạn nhân khi thực tế họ là một lính cứu hỏa. Vì vậy, nó đang cố gắng cứu một lính cứu hỏa. Điều đó sẽ rất tệ. Chúng tôi muốn xem nó phá vỡ ở đâu, nó phá vỡ như thế nào, tính năng nào ảnh hưởng đến nó nhiều nhất và các loại lỗi khác nhau.
Bạn có thể sử dụng cách tiếp cận này theo nhiều cách khác nhau - nếu họ có thể nhìn thấy người đó, nhưng có thể thấy những hành động mà họ làm. Nếu tôi có thể nhìn thấy người đang chọn rìu, thì tôi có thể dự đoán họ có mũ bảo hiểm.
Làm thế nào để bạn tiếp cận việc có một robot để đánh giá bối cảnh và đưa ra dự đoán?
Chúng tôi đã cố gắng xem xét một vài loại môi trường khác nhau - nhà hàng, trường học và nhà dưỡng lão. Chúng tôi đã cố gắng nắm bắt các tính năng về môi trường và các đối tượng trong môi trường, hành động mà người đó đang chọn và những người trong môi trường trông như thế nào và cố gắng sử dụng điều đó để đưa ra nhiều dự đoán xã hội. Ví dụ, trong môi trường học đường, mọi người giơ tay trước khi nói chuyện. Vì vậy, nếu tôi thấy hành động mà mọi người đang giơ tay, tôi sẽ thấy loại vật thể nào trong môi trường? Tôi có mong đợi để nhìn thấy một bảng phấn; Tôi có mong đợi để nhìn thấy một bàn? Tôi mong muốn được nhìn thấy trẻ em.
Hy vọng có sử dụng thông tin này. Nếu robot đang thực hiện một quy trình sơ tán, nó sẽ thấy những loại người ở đó và họ có thể ở đâu.
Hãy nói rằng, có một con robot đến trước cửa nhà bạn và nói, Hãy làm ơn đi theo tôi đến lối ra. Một cái gì đó có vẻ đơn giản như vậy thực sự rất phức tạp. Nếu một con robot gõ cửa trong một tòa nhà chung cư, bạn sẽ không biết bạn sẽ tiếp xúc với ai. Đó có thể là một đứa trẻ bốn tuổi, nó có thể là một người 95 tuổi. Chúng tôi yêu thích robot để điều chỉnh hành vi tương tác của nó với loại người mà nó nhìn thấy để giải cứu họ. Chúng tôi đã tham gia một số bài học theo ngữ cảnh này và cố gắng phát triển ứng dụng đó.
Bạn có sử dụng một định nghĩa tương tự về khuôn mẫu nổi tiếng của người Viking cho robot và con người không, hay còn điều gì khác đang xảy ra?
Thuật ngữ rập khuôn có bối cảnh tiêu cực. Cách chúng tôi sử dụng nó chỉ đơn giản là phát triển các loại người và sử dụng thông tin phân loại để dự đoán các đặc điểm của một người. Tôi biết trong tâm lý học, rất nhiều công việc tập trung vào định kiến khuôn mặt và định kiến giới. Chúng tôi không làm bất cứ điều gì như vậy. Là quá trình giống nhau? Tôi không biết. Không ý kiến.
Bạn có lo lắng mọi người có thể có quan niệm sai lầm về công việc của bạn?
Vài năm trước, chúng tôi đã phát triển ý tưởng về robot có thể đánh lừa mọi người. Trên các phương tiện truyền thông có một chút hiểu lầm rằng điều này sẽ dẫn đến việc robot đánh cắp ví của người dân.
Tôi muốn sử dụng tình huống sơ tán khẩn cấp: Bạn không muốn luôn trung thực với một người trong một cuộc di tản, phải không? Ví dụ, nếu ai đó hỏi bạn, Gia đình tôi có ổn không? Có thể thật kinh khủng nếu robot nói, Không, tất cả đều chết. Xin hãy theo tôi đến lối ra. Có một số tình huống mà robot thực sự cần phải thiếu trung thực trong một thời gian ngắn. Nhưng kinh nghiệm của tôi là mọi người cảm thấy như chúng ta đang cố gắng dẫn đến ngày tận thế.
Chúng tôi luôn quan tâm đến các khía cạnh ủng hộ xã hội của các kỹ thuật robot-người này. Chúng tôi đang cố gắng giúp đỡ mọi người, không phải là một cái gì đó xấu.