В Роскачестве назвали три главные ошибки пользователей при работе с нейросетями

О том, какие ошибки при работе с ИИ пользователи совершают чаще всего, рассказала директор Центра компетенций в области Цифровой трансформации Роскачества Мария Мустафаева.

Первая и главная ошибка — неправильное формулирование запросов. Многие воспринимают нейросеть как поисковик, забывая, что это скорее интеллектуальный помощник, способный генерировать более сложные и контекстуализированные ответы.

«Чтобы результат был качественным, важно научиться правильно формулировать запросы. При этом важно понимать, что уточнение роли, от лица кого или чего идет запрос, значительно повышает точность ответа. Пример: если вы хотите, чтобы нейросеть написала статью о нейросетях, нужно не просто попросить: „Напиши статью о нейросетях“, а более детально сформулировать запрос: „Напиши статью от имени эксперта в области искусственного интеллекта, как нейросети могут помочь в бизнесе, с фокусом на повышение продуктивности сотрудников, объемом 1000 слов, с примерами“. Чем более подробный запрос, тем более точный и подходящий ответ вы получите. И это становится важной составляющей уже отдельного направления — промптинг, и более того, существует целое направление промпт-инжиниринга, которое включает в себя искусство создания эффективных запросов для нейросетей», — рассказала специалист.

Вторая ключевая ошибка — это восприятие ответов искусственного интеллекта как источника истины, который никогда не ошибается. Уровень так называемых «галлюцинаций» нейросети может составлять около пяти процентов: ИИ может ошибаться и не всегда учитывать нюансы законодательства, контекста или профессиональной специфики. На данном этапе нейросеть стоит использовать как помощника, а не источник информации для принятия важных решений. ИИ поможет в поиске информации, составлении документов, анализе данных, но точно не заменит опыт и знания специалистов.

«Третья ошибка — это игнорирование вопросов кибер- и информационной безопасности. Загрузка конфиденциальных данных в нейросети может привести к утечке информации, что особенно опасно для корпоративной среды. Поэтому пользователи должны быть осторожны и осведомлены о рисках, связанных с утечками данных и сохранением их в безопасности. Важно соблюдать требования законодательства, учитывая все правовые аспекты использования ИИ, в том числе вопросы авторских прав, защиты персональных данных и прозрачности алгоритмов», — добавила Мария Мустафаева.

Эксперт Роскачества также призвала не забывать, что использование ИИ требует внимания к правовым аспектам, которые часто не учитываются нейросетями. Вопросы защиты персональных данных, авторских прав и юридической ответственности становятся все более актуальными, особенно в условиях быстрого развития технологий.

«Мы в Центре компетенций Роскачества уделяем особое внимание обучению сотрудников компаний, как правильно и безопасно внедрять ИИ в их рабочие процессы, обеспечивая этичное и безопасное использование технологий. Для бизнеса нейросети — это не только инструмент для автоматизации, но и для стратегической трансформации», — отметила директор Центра компетенций в области Цифровой трансформации Роскачества.

Таким образом, по ее словам, искусственный интеллект:

· Освобождает сотрудников от рутинных задач, улучшает продуктивность и позволяет компаниям быстрее адаптироваться к изменениям.

· ИИ помогает улучшить внутренние процессы, снизить затраты, ускорить принятие решений и повысить гибкость.

«С каждым обновлением версий ИИ, с добавлением новых функций, нейросети становятся все более специализированными и заточенными под конкретные отрасли. Правила работы с ИИ могут меняться, и важно быть готовым адаптироваться и осваивать новые возможности. Будущее — за персонализированным ИИ, который помогает не только частным пользователям, но и становится ключевым инструментом для успеха бизнеса», — заключила эксперт Роскачества.

Центр компетенций Роскачества помогает компаниям внедрять передовые технологии, в том числе связанные с ИИ, а также обучать сотрудников безопасному и этичному их использованию. Роскачество уже провело диагностику более пяти тысяч предприятий. По итогам сотрудничества производительность труда при реализации цифровых проектов выросла на 30-35%, качество продукта — на 70%, что принесло компаниям значительный экономический эффект в рамках пилотного периода (24 миллиона рублей).