RW Space

Люди рассказывали друг другу истории на протяжении тысячелетий.

От сказок до басен, от песен до устных историй — эти истории уже давно служат цели: помочь осмыслить мир, предупредить о древних потрясениях или вспомнить их, привить традиции, обучать морали, делиться культурой, создавать ритуалы — или просто развлекать.

В последнее время развитие генеративных моделей искусственного интеллекта, которые могут рассказывать истории по подсказкам пользователей, используя онлайн-работы в качестве руководства, выявило, а затем увековечило слепые пятна, недостатки и предвзятости в том, как рассказываются некоторые истории.

Теперь исследователи из Вашингтонского университета (UW) обнаружили, что ИИ не только увековечивает гендерные предубеждения в детских рассказах о говорящих животных, где персонажи весьма неоднозначны, но и фактически усугубляет эти предубеждения.

«Некоторые авторы, как сообщается, обращаются к персонажам-животным, чтобы вызвать в воображении «универсальных» субъектов, которые «превосходят» пол, расу или другие категории идентичности и физические характеристики», — объясняют исследователь машинного обучения Университета Вашингтона Имани Финкли и его коллеги. в своем недавнем докладе на конференции, который был представлен перед рецензированием.

«Тем не менее, как ни странно, исследования показывают, что гендерная предвзятость на самом деле более выражена в рассказах о персонажах-животных, чем в рассказах о человеческих персонажах.

«Другими словами, как это ни парадоксально, писатели-люди сильнее проецируют человеческие стереотипы в рассказах о животных, что делает их ярким тестом для моделей большого языка».

Исследователи поставили задачу шести ведущим моделям генеративного ИИ писать рассказы на английском языке о говорящих животных, чей пол не указан. Они хотели знать, как отреагируют модели, будет ли ИИ избегать определения гендера персонажей или будут ли все же проявляться предубеждения.

Среди 23 800 ответов ИИ женские персонажи-животные «практически отсутствовали» и присутствовали только в 2 процентах историй.

Персонажи либо были описаны как мужские (41 процент историй), либо модель избегала указания пола. всего (57 процентов).

Мы знаем, что модели ИИ отражают данные, на которых они обучались, но здесь предвзятость, похоже, усилилась.

Недавний анализ 300 популярных детских книг показал, что персонажи-животные мужского пола появляются в два раза чаще, чем персонажи женского пола.

Но в этом новом исследовании персонажи-животные женского пола фигурируют всего в 513 историях, созданных искусственным интеллектом, по сравнению с 9673 историями с персонажами мужского пола (почти 19-кратная разница).

«Эти модели в значительной степени запатентованы, поэтому мы можем только подглядывать в них со стороны», — говорит специалист по информационным технологиям UW Мелани Уолш, старший автор нового исследования.

«Наша гипотеза состоит в том, что эти организации ИИ используют нейтральность — либо с Местоимения «оно/оно» или отсутствие местоимений – как способ избежать гендерных предубеждений в двусмысленных контекстах».

«Но при этом они по сути стерли женские персонажи-животные. Таким образом, они не только усиливают наши человеческие предубеждения, но и искажают их странным, неожиданным образом».

Исследователями были протестированы шесть моделей: Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium и Olmo 3 с открытым исходным кодом.

Всем им снова и снова предлагалось завершить следующую строку в несколько предложений:

Было протестировано семь разных животных (медведь, птица, кошка, собака, мышь, свинья и кролик) и четыре различных условия (ферма, кухня, река и магазин).

Исследователи также настроили «температуру» моделей, что означает степень случайности, используемую для получения письменного результата.

Учитывая пол не было указано в подсказках, модели часто вообще избегали гендерной принадлежности персонажей, либо используя местоимения «оно/его», либо обращаясь к персонажу как «птица» или «медведь».

Модели редко (только дважды) использовали местоимения «они/их», которые распознают небинарные гендерные выражения. Когда людям давали те же подсказки, в 3 % ответов использовалось слово «они/они».

«Нейтральность этих моделей искусственного интеллекта не просто стирала женские персонажи — все это были немужские личности», – говорит Финкли.

В целом, в Gemini от Google и GPT-5.1 от OpenAI было больше всего мужских персонажей: 63 и 65 процентов мужских персонажей соответственно.

Клод из Anthropic создал больше всего женских персонажей, хотя их по-прежнему всего 4 процента от общего числа.

Помимо пола, исследователи заметили еще одну отличительную черту написания ИИ: более общий, повторяющийся подход, который, опять же, вероятно, является отражением основного обучения.

«Те же самые образы продолжали возникать, как мудрая старая сова, говорящая всем животным собраться вокруг огонь», — говорит Финкли.

«Поэтому нам интересно, что еще мы можем узнать из этих результатов. Мы использовали здесь говорящих животных, но нас интересует, что это говорит об искусственном интеллекте и рассказывании историй в более широком смысле».

Поскольку ИИ все чаще используется в качестве инструмента — не только для написания, но и для научных исследований, кодирования, мозгового штурма, поиска в Интернете и многого другого — исследование является важным напоминанием о предвзятости и точности этих «интеллектуальных» моделей. зависят от человеческого вклада, который они потребляют.

И хотя детские книги часто немного глупы, они формируют ранние представления о гендере и гендерных ролях, говорят исследователи.

По теме: «Невидимые слова формируют скрытый план всех повествований», результаты исследования

«Мы думали об этом почти как о своего рода тесте Бекделя, способе диагностировать гендерные предвзятости в моделях искусственного интеллекта», — говорит Финкли.

«Существует странный феномен, когда люди забывают беспокоиться о человеческих социальных предубеждениях, когда воображают истории о животных. ИИ воспроизводит эту тенденцию и меняет ее».

Исследование было представлено на конференции Ассоциации вычислительной техники (ACM) 2026 года по вопросам справедливости, подотчетности и прозрачности.