Нейросети незаметно стирают женские образы. Почему это исследование важно не только для родителей, но и для бизнеса

Мы привыкли считать, что большие языковые модели постепенно становятся объективнее. Разработчики постоянно рассказывают о борьбе с предвзятостью, а сами нейросети становятся все осторожнее в формулировках.

Но новое исследование Вашингтонского университета показывает неожиданную сторону этой борьбы. Пытаясь сделать модели более нейтральными, разработчики получили другой эффект — из детских историй практически исчезли женские персонажи.

На первый взгляд кажется, что это касается только детских сказок. Но на самом деле исследование затрагивает гораздо более важный вопрос: что происходит, когда искусственный интеллект начинает самостоятельно создавать контент для миллионов людей?

Один эксперимент — почти 24 тысячи историй

Авторы исследования решили проверить, как современные языковые модели пишут короткие детские рассказы про говорящих животных.

В эксперимент вошли шесть популярных моделей:

1. Claude Sonnet 4.5
2. Gemini 2.5
3. GPT-4o
4. GPT-5.1
5. Mistral Medium
6. Olmo 3

Всего было проанализировано 23 800 историй. И результаты выглядят неожиданно.

Только 2% персонажей оказались женского пола.

Около 41% — мужского.

Еще 57% вообще не имели обозначенного пола.

Еще 57% вообще не имели обозначенного пола.

Получается, проблема уже не в преобладании мужских персонажей. Во многих случаях женские персонажи просто перестали существовать.

Нейросети ничего не придумали. Они усилили то, что уже было

Самый интересный вывод исследования заключается совсем не в цифрах. В прошлом году ученые изучали печатные детские книги. Даже тогда большинство животных оказывались мужского пола.

Позже они попросили более тысячи человек самостоятельно написать рассказы про говорящих животных. Результат оказался похожим. Люди тоже чаще выбирали мужских персонажей.

Это означает, что языковые модели не создают новые культурные установки. Они обучаются на уже существующем контенте. Но при генерации способны сделать обнаруженные закономерности еще более выраженными.

Именно поэтому современные LLM правильнее рассматривать не как источник знаний, а как механизм масштабирования данных, на которых они обучались.

Почему попытка убрать предвзятость дала противоположный эффект

Сегодня практически все крупные разработчики стремятся уменьшить дискриминацию в генеративных моделях. Для этого используются различные механизмы безопасности.

Одним из решений становится переход к максимально нейтральным формулировкам. Но исследование показывает неожиданное последствие. Вместо более разнообразных персонажей модель начинает избегать явного указания пола вообще.

На практике это приводит к исчезновению женских образов. Вместо героини появляется просто «птица» или вообще «животное». Без местоимений, без пола, без индивидуальности.

Получается парадоксальная ситуация. Алгоритм стремится стать менее предвзятым, но итоговый результат оказывается менее разнообразным.

Разные модели — одна проблема

Исследователи сравнили поведение нескольких современных моделей. Картина отличается, но общая тенденция сохраняется.

Gemini 2.5 и GPT-5.1 продемонстрировали самый выраженный мужской перекос. Claude создала больше женских персонажей, однако их оказалось всего около четырех процентов. Olmo 3 чаще остальных вообще избегала определения пола.

Это говорит о том, что проблема не связана с конкретной компанией. Она возникает на уровне архитектуры обучения современных языковых моделей и используемых механизмов выравнивания ответов.

Почему это уже касается бизнеса

Многие воспринимают подобные исследования исключительно как академическую работу. Мне кажется, это ошибка.

Сегодня генеративный ИИ используется значительно шире детских сказок. Он пишет рекламные тексты. Создает описания товаров, готовит вакансии, помогает HR, формирует обучающие материалы, генерирует изображения, и т п.

Если модель способна систематически усиливать скрытые перекосы в одной области, логично предположить, что похожие эффекты могут возникать и в других сценариях.

Поэтому бизнесу становится недостаточно просто внедрить генеративный ИИ. Необходимо регулярно проверять результаты его работы. Особенно если речь идет о массовом контенте.

Качество данных становится новой зоной ответственности

Последние два года показали, что основной вопрос уже не в том, умеет ли искусственный интеллект создавать тексты. Он умеет.

Настоящий вопрос звучит иначе: Какие закономерности он воспроизводит?

Любая языковая модель отражает данные, на которых была обучена. Если эти данные содержат перекосы, модель их сохранит. Если алгоритмы безопасности работают слишком агрессивно, они способны породить более весомые перекосы.

Именно поэтому сегодня все больше внимания уделяется качеству обучающих данных, мониторингу генерации и постоянной оценке результатов.

Мой вывод

Мне кажется, исследование Вашингтонского университета намного важнее, чем может показаться после прочтения заголовка. Это не история про детские сказки. И даже не история про гендер.

Это хороший пример того, как искусственный интеллект способен усиливать закономерности, которые человек уже перестал замечать.

Для бизнеса это еще одно напоминание: внедрение генеративного ИИ — это не только экономия времени. Это еще и ответственность за качество данных, на которых строятся будущие решения.

И чем глубже нейросети будут проникать в образование, маркетинг, HR и коммуникации, тем важнее станет не только вопрос «что умеет ИИ?», но и вопрос «какую картину мира он воспроизводит?»