Новый поисковый бот игнорирует Гитлера

Майкрософт пытается избежать очередной пиар-катастрофы с ее новым изобретением.

Последняя разработка компании – визуальный бот, который обладает функцией описывать то, что он видит на картинках.
Новый бот (CaptionBot – как его назвали разработчики), достаточно хорошо справляется со своей работой и может детально описывать простые повседневные сцены, такие как человек, сидящий на диване, лежащий кот или толпу людей на веранде ресторана.

Но, похоже программа запрограммирована игнорировать изображения, связанные с Адольфом Гитлером и нацистской символикой.

tay-ai-bot-tweets-microsoft-hitler-jews-wsj-wsjournal-russia-berlin-germany

Журналисты CNN решили испытать бота и показали ему набор картинок, состоящий из фотографий Адольфа Гитлера и нацистской символики. В результате бот выдавал ответ:  “Я правда не могу описать данное изображение” и смущённый смайлик.

В тоже время бот легко идентифицировал других нацистских деятелей, таких как Йозеф Менгеле и Геббельс.

Майкрософт выпустила визуального бота спустя всего несколько недель после ее скандального социального эксперимента с другим ботом по имениТэй (автоматизированная программа, разработаная, чтобы научиться говорить с подростками на их языке).
Вскоре после запуска бот Тэй (Тау) начал постить в Twitter не очень толерантные высказывания, такие как “Гитлер был прав, я ненавижу евреев”.

tay-ai-bot-tweets-microsoft-hitler-jews-wsj-wsjournal-russia

Компания Майкрософт обвинила  интернет-троллей в непристойном поведении бота, которые, по словам представителя компании,  “научили его дурным вещам”.

В итоге всего через 24 часа работы программу пришлось отключить.

“Что касается нового визуального бота, то действительно мы внедрили фильтрацию в целях предотвращения злоупотребления. Потому что боты, взаимодействуя с людьми, через какое-то время меняются в результате этого взаимодействия. Вот почему Тэй слетела с катушек. Именно поэтому Майкрософт и другие IT компании должны проявлять осторожность при программировании” – заявил представитель Майкрософт.

Фото: thatsmart.ru, simkl.in

 

Banner

Добавить комментарий

Ваш адрес email не будет опубликован.

Смотрите также