В России разрабатывают закон, запрещающий использовать ИИ для манипуляции людьми

Документ в настоящий момент проходит стадию межведомственного согласования, пишут «Известия».

Под эксплуатацией уязвимостей разработчики законопроекта понимают использование возрастных, социально-экономических, психологических и иных особенностей человека. Речь идет о случаях, когда эти данные применяются для целенаправленного воздействия на поведение, процесс принятия решений или для несанкционированного доступа к информации.

Согласно документу, обязанность информировать пользователей о недопустимости таких действий ляжет на разработчиков и операторов систем ИИ — компании, которые внедряют технологии в сервисы, приложения и готовые продукты.

Эксперт в области ИИ «Университета 2035» Ярослав Селиверстов пояснил, что система не должна проектироваться с функцией сознательного подталкивания человека к решениям, которые он не принял бы без скрытого давления. По его словам, технологии уже сейчас способны влиять на поведение через анализ данных и персонализацию контента: алгоритмы могут подбирать сообщения, рекомендации или интерфейсы, повышающие вероятность нужного действия. Такие инструменты, как отмечает эксперт, потенциально применимы в рекламе, политических коммуникациях и работе рекомендательных сервисов.