Фантомные ссылки: как ИИ загрязняет научную литературу
Nature опубликовал тревожное исследование: анализ, проведённый командой новостного отдела Nature совместно с компанией Grounded AI показал, что десятки тысяч научных публикаций 2025 года, включая журнальные статьи, книги и труды конференций, вероятно, содержат хотя бы одну фейковую ссылку, сгенерированную искусственным интеллектом. По оценкам аналитиков, только за прошлый год таких публикаций могло накопиться свыше 110 000.
Речь идёт о так называемых галлюцинированных цитированиях (они же библиографические конфабуляции): ИИ генерирует правдоподобно выглядящие ссылки с реальными именами авторов, убедительными названиями статей, DOI, которые ведут в никуда. Выглядит как настоящая цитата, но на самом деле такой работы не существует. Анализ показал, что в 2025 году доля работ хотя бы с одной такой ссылкой достигла 2,6% - против 0,3% в 2024-м. Среди принятых докладов NeurIPS 2025 (одной из ведущих мировых конференций по ИИ) фантомные ссылки обнаружены в 53 работах, прошедших рецензирование нескольких экспертов. Один из редакторов журнала Taylor & Francis сообщила, что в январе отклонила 25% поданных рукописей из-за фейковых ссылок.
Это не только техническая проблема. Ситуация угрожает базовому принципу науки: верифицируемости знания. Если ссылка не ведёт к реальному источнику, рушится вся цепочка научной аргументации. Существует мнение, что использование фантомных ссылок может квалифицироваться как научная недобросовестность.
Эта же тема звучала на конференции Science Analytics 2026, прошедшей 2–3 апреля в ИНТЦ МГУ “Воробьёвы горы”. Светлана Александровна Морозова (РГПУ им. А.И. Герцена, Санкт-Петербург) представила доклад “Библиографические конфабуляции генеративных моделей ИИ как индикатор достоверности научной коммуникации”, рассказывающий о том, как распознавать фантомные ссылки и что они говорят о качестве научного текста в целом.
Все презентации конференции доступны по ссылке.
Nature опубликовал тревожное исследование: анализ, проведённый командой новостного отдела Nature совместно с компанией Grounded AI показал, что десятки тысяч научных публикаций 2025 года, включая журнальные статьи, книги и труды конференций, вероятно, содержат хотя бы одну фейковую ссылку, сгенерированную искусственным интеллектом. По оценкам аналитиков, только за прошлый год таких публикаций могло накопиться свыше 110 000.
Речь идёт о так называемых галлюцинированных цитированиях (они же библиографические конфабуляции): ИИ генерирует правдоподобно выглядящие ссылки с реальными именами авторов, убедительными названиями статей, DOI, которые ведут в никуда. Выглядит как настоящая цитата, но на самом деле такой работы не существует. Анализ показал, что в 2025 году доля работ хотя бы с одной такой ссылкой достигла 2,6% - против 0,3% в 2024-м. Среди принятых докладов NeurIPS 2025 (одной из ведущих мировых конференций по ИИ) фантомные ссылки обнаружены в 53 работах, прошедших рецензирование нескольких экспертов. Один из редакторов журнала Taylor & Francis сообщила, что в январе отклонила 25% поданных рукописей из-за фейковых ссылок.
Это не только техническая проблема. Ситуация угрожает базовому принципу науки: верифицируемости знания. Если ссылка не ведёт к реальному источнику, рушится вся цепочка научной аргументации. Существует мнение, что использование фантомных ссылок может квалифицироваться как научная недобросовестность.
Эта же тема звучала на конференции Science Analytics 2026, прошедшей 2–3 апреля в ИНТЦ МГУ “Воробьёвы горы”. Светлана Александровна Морозова (РГПУ им. А.И. Герцена, Санкт-Петербург) представила доклад “Библиографические конфабуляции генеративных моделей ИИ как индикатор достоверности научной коммуникации”, рассказывающий о том, как распознавать фантомные ссылки и что они говорят о качестве научного текста в целом.
Все презентации конференции доступны по ссылке.