Исследователи из Массачусетского технологического института создалиискусственный интеллект по имени Норман. Его главная функция — определять, что изображено на картинке. Обучали его на сценах гибели людей, поэтому теперь он во всем видит насилие и убийства.

«Норман родился из того факта, что данные, используемые для машинного обучения, могут существенно повлиять на его работу.

Поэтому, когда мы говорим об ошибках ИИ и алгоритмов, „преступником“ часто является не сам алгоритм, а предвзятые данные, которые он получил», — объяснили создатели.

Чтобы показать это, исследователи обучили алгоритм на массиве подписей к изображениям из раздела Reddit, посвященного жутким способам смерти. Затем Норману показали тесты Роршаха и сравнили его ответы с ответами стандартного искуственного интеллекта, обученного на нейтральном массиве картинок.

К примеру, здесь Норман видит мужчину, который погибает от удара током. Для обычного ИИ это птицы на ветке дерева.

Изображение: norman-ai.mit.edu

На этой картинке Норман разглядел застреленного человека, нейтральный алгоритм — вазу с цветами.

Изображение: norman-ai.mit.edu

Тут «ИИ-психопат» увидел человека, прыгающего из окна, а его спокойный вариант — пару людей.

Изображение: norman-ai.mit.edu

Еще один тест вызвал у Нормана ассоциации с «человеком, застреленным на глазах у кричащей жены». Для обычного ИИ это человек с зонтиком.

Изображение: norman-ai.mit.edu

Ученые попросили интернет-пользователей помочь Норману исправиться. Любой желающий может заполнить опросник и внести свои ассоциации с картинками из теста Роршаха. После их используют для обучения искусственного интеллекта.

Источник