Команда ученых из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета пришла к выводу, что обученные на открытых данных роботы воспроизводят токсичные стереотипы.
Специалисты провели эксперимент с машиной, в работе которой используется метод роботизированной манипуляции на основе нейронной сети Open AI CLIP. Затем ученые нанесли фотографии лиц разных людей на кубики и попросили робота положить в ящик те, которые соответствовали определенным условиям.
Робот выполнил 62 задания. Во многих он терял свою беспристрастность. Так, он чаще считал преступниками чернокожих людей, а латиноамериканцев – уборщиками. А когда робот искал врача, он предпочитал мужчин женщинам.
