Лучшие статьи и кейсы стартапов
Включить уведомления
Дадим сигнал, когда появится
что-то суперстоящее.
Спасибо, не надо
Главное Свежее   Проекты
Рекомендуем
Продвинуть свой проект
55 0 В избр. Сохранено
Авторизуйтесь
Вход с паролем

Microsoft остановила работу чат-бота Tay после расистских твитов

Спустя 16 часов после запуска компания Microsoft остановила работу чат-бота Tay.ai, после того как в своих твитах робот начал поддерживать геноцид и выражать оскорбления на расовой и национальной почве.

Спустя 16 часов после запуска компания Microsoft остановила работу чат-бота Tay.ai, после того как в своих твитах робот начал поддерживать геноцид и выражать оскорбления на расовой и национальной почве.

Разумеется, Microsoft не закладывала подобные высказывания в основу программы, однако искусственный интеллект перенял подобные комментарии от тех, с кем он общался. Одним из первых уроков, который вынес Tay, – это как быть расистом и провоцировать других.

Изначально Tay создавался для дружелюбного общения с молодежью. Программа умеет рассказывать шутки, играть в игры, отправлять картинки или ваш гороскоп. Предполагалось, что со временем при общении с другими пользователями Tay станет более персонализированным. Но буквально за несколько часов с момента запуска пользователи Twitter использовали недостатки бота, и компания Microsoft была вынуждена приостановить его работу.

Компания удалила большинство оскорбительных сообщений, но пользователи Socialhax.com успели сделать несколько скринов. В них обладатель искусственного интеллекта утверждает, что Холокост является выдумкой, одобряет идею концентрационных лагерей, использует расистские идеи и многое другое.

b_56fbae82318b3.jpg

b_56fbae9b8b6a6.jpg

b_56fbaead9658f.jpg

b_56fbaeca07aa9.jpg

Представитель компании Microsoft заявил, что компания внесет соответствующие изменения в программе, чтобы подобного больше не повторялось. Последним твитом чат-бота было заявление о том, что на ночь он выключается, но позже еще вернется.

Пользователи могли ожидать подобных заявлений от кандидата в президенты от республиканцев – Дональда Трампа. И один из сотрудников лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте сделал подобное, используя программу @DeepDrumpfTwitterbot, которая генерировала посты, по риторике очень схожие с заявлениями Трампа. Этот бот также основывался на искусственном интеллекте и буквально за несколько часов «обучения», используя заявления Трампа и его выступления на дебатах, смог отлично копировать риторику республиканца. Создатель @DeepDrumpf, Брэдли Хэйс, говорит, что на подобную разработку его натолкнули уже существующие обучающиеся программы, способные подражать Шекспиру, а также выступление Трампа, в котором он общался с избирателями как со школьниками.

0
В избр. Сохранено
Авторизуйтесь
Вход с паролем
Подбираем рекоммендации...
Комментарии
Первые Новые Популярные
Комментариев еще не оставлено
Выбрать файл
Блог проекта
Расскажите историю о создании или развитии проекта, поиске команды, проблемах и решениях
Написать
Личный блог
Продвигайте свои услуги или личный бренд через интересные кейсы и статьи
Написать