Ученые из Массачусетского технологического института создали необычный алгоритм искусственного интеллекта – Нормана, названного в честь главного героя психологического хоррора Хичкока “Психо”.

Норман во всем видит худшее, он – “психопат”. Данный алгоритм был создан в качестве эксперимента, призванного показать, насколько сильно влияние набора первоначальных данных на восприятие мира.

Исследователи института рассказали, что они обучали Нормана, используя картинки и видео, найденные в самых темных уголках сайта Reddit, с изображениями страдающих и погибающих в мучениях людей.

После этого команда изучала реакцию Нормана с помощью психологического теста Роршаха, где испытуемый должен по чернильным пятнам определить, на что больше всего похоже изображение. Ученые сравнивали реакцию Нормана с другим алгоритмом, у которого было стандартное обучение. Данный алгоритм видел в чернильных пятнах цветы и свадебные торты. Норман же постоянно видел то мужчину с огнестрельным ранением, то мертвое тело, раздавленное автомобилем.

“Норман до этого видел только ужасающие картины, поэтому он сейчас видит смерть, на что бы он не посмотрел” – объясняют исследователи.

Норман представляет собой очень показательное исследование, посвященное опасностям машинного обучения, и демонстрирует, куда может “завести” искусственный интеллект при использовании однобокой или искаженной информации. Исходя из полученных данных, алгоритм начинает рисовать соответствующую картину мира, и это лишний раз подчеркивает всю важность правильного и всестороннего обучения.

“Набор исходных данных важнее самого алгоритма, – такой вывод сделал профессор Массачусетского технологического института Ияд Рахман, – информация, которая была использована при обучении искусственного интеллекта, напрямую влияет на то, как программа будет воспринимать окружающий мир и к каким выводам она придет”.

Возможно ли переобучение алгоритма?

Ранее мы видели примеры того, как искусственный интеллект может трансформироваться благодаря получаемой информации. В 2016 году Микрософт запустил в Твиттере чат-бот Тай. Микрософт представил бота публике в качестве социального и культурного эксперимента, однако пользователи начали провоцировать бота на нецензурные, расистские и сексистские высказывания, и это сработало. Бот довольно быстро начал перенимать манеру речи и выражения пользователей, и Микрософт в скором времени закрыл проект.

Команда МТИ верит, что Нормана можно переобучить и изменить сложившийся образ мышления с помощью изучения алгоритмом человеческой реакции на тест. Ученые призвали людей пройти тест и поделиться своими результатами. Согласно данным, было получено более чем 170 000 результатов теста Роршаха от испытуемых.

Будем надеяться, Норман окажется способен различить что-то позитивное и радостное в чернильных пятнах, не смотря на “пережитый опыт”.

Фото: открытые источники.