Риски манипуляции ИИ людьми
Как устроен механизм манипуляции ИИ?
Для манипуляции при помощи ИИ могут быть использованы любые генеративные нейросети — текстовые, голосовые, видео. Создавая вымышленные сообщения и отвечая на реакции человека они могут ввести в заблуждение жертву, используя доступные каналы связи: чат, звонок, видео-сообщение.
Кто и зачем делает это?
Киберпреступники и мошенники всех мастей очень внимательно следят за всеми новинками технического прогресса и крайне оперативно встраивают их в свои противозаконные схемы. Применение ИИ даёт им широкие дополнительные возможности для мошеннических действий. С одной стороны, автоматизация процесса посредством нейросетей расширяет охват потенциальных жертв. Там, где ранее требовались десятки «операторов», теперь справится одна нейросеть. С другой стороны, повышается «качество» мошеннических действий, так как нейронная сеть способна создать крайне убедительное голосовое и видео-послание якобы от знакомого человека, родственника или начальника.
Возможно ли такое манипулирование со стороны киберпреступников? Если да, то для каких схем?
Конечно, киберпреступники используют возможности нейросетей. Основной схемой остаются разнообразные приёмы социальной инженерии, направленные на совершение жертвой требуемых мошенникам действий. Такими действиями могут быть сообщение SMS-кода, пароля, запуск вируса, предоставление доступа к своему устройству или аккаунту и так далее. Созданные искусственным интеллектом ложные материалы требуются для повышения убедительности манипуляций кибермошенников и направлены на обман жертвы.
Какие риски несут в себе подобные манипуляции?
Манипуляции при поддержке ИИ несут те же риски что и другие действия киберпреступников. Это заражение устройств пользователя, утрата конфиденциальной информации (паспортных данных, доступа гражданина к государственным системам, сотрудника — к корпоративным), имперсонация (совершение действий от имени жертвы). В дальнейшем полученный контроль преступники могут использовать для вымогательства или принуждения жертвы к совершению асоциальных действий. Применение генеративных нейросетей повышает долю успешных для злоумышленников попыток.
Может ли пользователь понять, что взаимодействует с ИИ, который подвергся манипуляциям со стороны третьих лиц? Какие признаки укажут на это? Как быть в такой ситуации?
Здравый смысл и проверка фактов (факт-чекинг) помогут избежать ловушки преступников. Любое отклонение от привычного порядка взаимодействия со знакомыми, коллегами и организациями должно насторожить пользователя. Старый знакомый вдруг пишет просьбу о переводе денег и использует нехарактерную для него лексику? Директор, никогда ранее не записывавший ранее видео присылает «кружок» в Телеграме с приказом об оплате счёта новому контрагенту? «Представитель» Госуслуг вдруг сам звонит и просит сообщить код из SMS? Подобные необычные действия могут свидетельствовать о попытке мошенничества. Проверьте полученную таким образом информацию из надежных источников, официальных сайтов, СМИ. Свяжитесь с контактом альтернативным способом, возможно, его аккаунт в мессенджере или электронной почте был взломан. Отложите требуемые действия — мошенники всегда торопят в совершении нужной им операции. Посоветуйтесь с людьми, которым доверяете.