Microsoft отключила «разумный» чат-бот «Tay» из-за дурного влияния хулиганов

Microsoft приостановила работу новейшего чат-бота «Tay», оснащенного элементами искусственного интеллекта. Причиной послужили атаки интернет-вандалов, из-за которых программа-собеседник «подхватила» и стала распространять в Twitter агрессивные идеи.

Разработчики планируют повторный запуск виртуального собеседника после оснащения его защитой от сетевых хулиганов. Об этом заявил вице-президент Microsoft Питер Ли на официальном сайте компании.

Чат-бот «Тау» представлял собой «улучшенную» версию обычной программы-собеседника. Общение с ним проходило через Twitter. Анонсировалось, что бот будет способен подстраиваться под стиль общения пользователей и давать как можно более логичные ответы. Этим сразу после запуска новинки воспользовались хулиганы, принявшись направлять роботу сообщения с заведомо провокационным содержанием, пропагандирующим дискриминацию по тем или иным признакам. В результате вместо общения в стиле «19-летней американской девушки» бот стал публиковать аналогичные нецензурные и оскорбительные сообщения.

Microsoft не называет даты релиза обновленной версии «Тау». Пока специалисты заняты «чисткой» аккаунта бота в соцсети и заявляют, что извлекли из произошедшего урок.