«ИИ-отбросы» наводняют научные публикации, а один крупный сайт сопротивляется

Сайт препринтов arXiv объявил, что исследователям, разместившим свои имена в статьях, которые содержат ошибки, явно вызванные искусственным интеллектом (ИИ), грозит годичный запрет и постоянные ограничения.

Этот шаг является ответом на растущий приток статей, созданных с помощью ИИ, с которыми сталкиваются научные журналы, а также такие сайты, как arXiv, которые служат неофициальными платформами для публикаций исследований перед рецензированием.

Однако не все согласны с тем, что Реакция arXiv на проблему является адекватной – и решение потока ненужных исследований ИИ может включать в себя больше ИИ, а не меньше.

Внимание @arxiv, авторы: в нашем Кодексе поведения указано, что, подписывая свое имя как автора статьи, каждый автор берет на себя полную ответственность за все ее содержание, независимо от того, как было создано содержимое. 1/

— Томас Г. Диттерих (@tdietterich), 14 мая 2026 г.

Рост написания с помощью ботов

Текстов, генерируемых искусственным интеллектом, становится все больше. Исследование, опубликованное на прошлой неделе, показывает, что половина новых статей, опубликованных в Интернете, теперь «созданы в основном искусственным интеллектом».

Наука не застрахована от этой тенденции.

В прошлом месяце журнал Organization Science опубликовал исследование о том, как развитие искусственного интеллекта повлияло на количество представленных статей и экспертные оценки с момента выпуска ChatGPT в 2022 году.

Сообщая о резком росте числа представленных статей и падении качества, авторы приходят к выводу, что «текущая Состояние инструментов ИИ, усиленное существующими стимулами «публикуй или исчезни», по-видимому, подталкивает систему к равновесию большего количества, а не лучших исследований».

Распространенной проблемой в написании исследований, созданных ИИ, являются галлюцинации: ссылки на другие исследования, которых не существует.

Традиционной защитой от низкого качества научных публикаций является рецензирование: другой эксперт по рассматриваемой теме читает исследовательскую работу и проверяет лежащую в ее основе работу, прежде чем она может быть опубликована. опубликовано.

Однако система рецензирования уже испытывала трудности до появления искусственного интеллекта. Исследователям, находящимся под давлением, часто не хватает времени или стимула для выполнения неоплачиваемой работы по рецензированию.

А на arXiv, который публикует препринты – статьи, которые чаще всего не рецензировались – даже эта система недоступна. В прошлом году сайт был переполнен материалами, сгенерированными ИИ, и сайт перестал принимать определенные типы статей.

По данным исследования, опубликованного в январе (само по себе препринт), около 1 из 8 статей в области биомедицины теперь содержат текст, сгенерированный ИИ.

Большинство исследователей согласятся, что текст, сгенерированный ИИ, сам по себе не является проблемой. Проблема заключается в более низком качестве работы, которую ИИ может легко производить.

Соответствует ли наказание преступлению?

Заявление ArXiv не направлено против использования ИИ, а скорее говорит: «Если материал содержит неопровержимые доказательства того, что авторы не проверяли результаты генерации LLM, это означает, что мы не можем доверять ничему в статье».

Это может быть правдой, насколько это возможно. Но наказание — годичный запрет для всех авторов, перечисленных в статье, — может не соответствовать нынешней исследовательской практике.

В прошлом исследования часто проводились людьми, работавшими в одиночку или в группах по два или три человека. В этих обстоятельствах кажется разумным ожидать, что каждый автор возьмет на себя ответственность за все.

Но сейчас исследования стали более совместными, чем когда-либо прежде.

Многие статьи имеют четыре или пять авторов, и в растущем числе крайних случаев статьи могут быть приписаны группам из сотен ученых, работающих вместе, каждый из которых работает над своей собственной специальностью и доверяет своим коллегам делать то же самое.

В случае, когда один из десятков или сотен авторов включает в себя ИИ-галлюцинацию ссылка в их части газеты на запрет этой партии кажется жесткой.

И не существует аналогичных санкций за публикацию других проблемных материалов. Например, нет запрета на продвижение маргинальных или дискредитированных теорий, а также на использование доказательств низкого качества и нелогичных аргументов.

Может ли ИИ помочь в борьбе с отстойностью?

Распространение ИИ создает проблемы для издателей и обеспечения качества. И идея каких-то санкций за безрассудное использование ИИ, например включение галлюцинаторных отсылок, хороша.

Но конкретный выбор ArXiv кажется радикальным. Если цель состоит в том, чтобы улучшить экспертную оценку и обеспечение качества, сами системы искусственного интеллекта могут сыграть свою роль.

Современные системы искусственного интеллекта вполне способны взять список ссылок и проверить все, что в нем есть, — это настоящая статья, доступная в Интернете. Любые ссылки, помеченные как подозрительные, затем могут быть проверены человеком.

По теме: Чрезмерная зависимость от искусственного интеллекта может нанести вред вашим когнитивным способностям, предупреждают эксперты

ИИ может даже быть полезен для проведения быстрой проверки смысла таких вещей, как статистический анализ статьи.

Возможно, это путь вперед, а не жесткие санкции за относительно незначительные нарушения, связанные с искусственным интеллектом.

Витомир Кованович, профессор и заместитель директора Центра изменений и сложности в обучении (C3L), Education Futures, Университет Аделаиды

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи.