Иллюзия надежности: этические границы использования ИИ в научных исследованиях

Использование искусственного интеллекта (далее – ИИ) в качестве помощника исследователя обещает значительные преимущества: экономию времени, повышение эффективности и снижение рабочей нагрузки.

Инструменты на базе ИИ, такие как Semantic Scholar, SciSpace, Scite, Elicit, ResearchRabbit и другие, способны находить релевантную литературу, создавать резюме, выделять ключевые темы и даже генерировать гипотезы [1]. Однако, как известно, контент, генерируемый ИИ, ненадежен.

Инструменты ИИ подвержены «галлюцинациям» – созданию фактически неверного или полностью вымышленного контента [2]. На практике это означает, что при написании систематического обзора литературы ИИ может не только ссылаться на несуществующие публикации, но и неверно приписать цитаты существующим [3]. Подобные ошибки подрывают надежность всего исследования, поэтому необходимо проверять точность и полноту обзора литературы, созданного с помощью ИИ, путем анализа оригинальных статей.

Необходимость такой тщательности вытекает из самой природы академической работы. Исследователи несут этическую обязанность обеспечивать, насколько это возможно, точность информации, на которую опирается их работа. Ложные утверждения, сделанные в научных публикациях, потенциально имеют гораздо более серьезные последствия, чем ложные утверждения, сделанные, скажем, в непринужденной беседе о футболе.

Поскольку научные исследования – это сфера с «высокими ставками», внедрение мер защиты от ошибок должно быть тщательным. Однако универсального правила «проверять всё и всегда» не существует: разные этапы работы несут разный уровень риска. Чтобы понять, где ИИ может быть полезен, а где опасен, обратимся к карте рисков.

Логика цвета на этой схеме – это не «хорошо или плохо», а комбинация двух факторов: как часто ИИ ошибается на этом этапе и насколько дорого стоит ошибка, которую вы не заметите.

Рис. 1. Карта рисков использования ИИ на этапах исследовательского цикла

Зеленая зона (Поиск литературы). Этот этап окрашен в зеленый цвет не потому, что ИИ здесь не ошибается. Инструменты ИИ могут фальсифицировать ссылки или некорректно интерпретировать источники. Однако ошибку здесь легко поймать, т.к. вы всё равно откроете и прочитаете предложенный источник [4]. Если ссылка не существует или не имеет отношения к теме, вы это заметите.

Желтая зона (Дизайн и гипотезы, сбор и обработка данных, написание текста). Эти этапы требуют обязательной проверки человеком. ИИ может генерировать потенциальные исследовательские вопросы, но недавние исследования показывают, что даже оригинальные идеи ИИ может быть сложно реализовать [5]. Исследователь должен самостоятельно проверить обоснованность и новизну гипотез на фоне существующей литературы.

Красная зона (Анализ и выводы, рецензирование и гранты). Это зона высокого риска, связанная с последствиями для репутации. Анализ и выводы – красная зона, потому что здесь ошибка ИИ маскируется под ваш собственный научный вывод, и поймать её намного сложнее. ИИ может утверждать, что в публикации говорится нечто иное, чем на самом деле, или игнорировать важные источники.

А что делать, если ваша задача не входит в стандартные исследовательские этапы? Для этого существует универсальное дерево решений.

Рис. 2. Алгоритм выбора стратегии взаимодействия с ИИ

Работает это предельно просто. Первый вопрос: если ИИ здесь ошибется, я это замечу? Если да (например, вы всё равно будете читать предложенные статьи), риск контролируемый. Если нет (например, ИИ выдал готовый статистический расчет), ситуация требует особого внимания и дополнительных мер проверки.

Второй вопрос задается внутри каждой ветки: если ошибку не заметить, дорого ли она обойдется? «Высокая цена» ошибки выражается в искажении выводов, удару по репутации или сомнению в достоверности всей работы. «Низкая цена» означает, что в худшем случае вы потеряете лишь немного времени на доработку.

Комбинация ответов на вопросы дает четыре возможных сценария.

Легко заметить, низкая цена ошибки (зеленая зона). Здесь можно доверять инструменту почти без раздумий.

Легко заметить, высокая цена ошибки (желтая зона). Несмотря на простоту проверки, пропустить её рискованно, поэтому контроль обязателен.

Трудно заметить, низкая цена ошибки (желтая зона). Риск невысокий, но привычка проверять всё равно полезна.

Трудно заметить, высокая цена ошибки (красная зона). Самый опасный сценарий. Ошибка маскируется под корректный результат и способна обесценить всё исследование.

Опираясь на данный анализ нами разработан практический инструмент для самостоятельной оценки рисков: https://aigateway.ru/webinar/zonai.html

Но чтобы гарантировать академическую честность важно также опираться на официальные стандарты научного сообщества. Редакции научных журналов и профильные организации, такие как Комитет по этике публикаций (COPE), Международный комитет редакторов медицинских журналов (ICMJE) и Всемирная ассоциация медицинских редакторов (WAME), выпускают рекомендации по использованию генеративного ИИ [6; 7; 8; 9].

Журналы требуют открыто декларировать факт и характер использования ИИ. Лучший и самый прозрачный способ – подробно описать применение алгоритмов в разделе «Методы».

Следует детально указать, какие инструменты использовались, как проверялись результаты ИИ, подвергался ли текст редакторской правке и как оформлялись первоисточники. Такой подход не только соответствует строгим требованиям редакций, но и служит дополнительным механизмом контроля качества, помогая автору не попасть в «красную зону» ошибок.

Список источников:

Федоров А.О., Вакку Г.В., Лебедева С.Э. Нейросетевые инструменты в арсенале вузовского преподавателя // Galactica Media: Journalof MediaStudies. 2026. № 8(2). С. 163–182. DOI: https://doi.org/10.46539/gmd.v8i2.669

Федоров А.О. Правда и вымысел генеративного ИИ. Статья 7 // Современная библиотека. 2026. № 2. С. 28–34. URL: https://modern-lib.ru/assets/upload/journals/2026-2/Phedorov_2_2026.pdf

Федоров А.О. Когда ссылки ведут в никуда: как работать с библиографией, созданной ИИ. Статья 9 // Современная библиотека. 2026. № 4. С. 34–39. URL: https://modern-lib.ru/assets/upload/journals/2026-4/Phedorov9_4_2026.pdf

Федоров А.О. Библиографический промптинг. Статья 8 // Современная библиотека. 2026. № 3. С. 12–16. URL: https://modern-lib.ru/assets/upload/journals/2026-3/Phedorov_3_2026.pdf

Diana Kwon Is it OK for AI to write science papers? Nature survey shows researchers are split // Nature. 641 DOI: https://doi.org/10.1038/d41586-025-01463-8

Политика журнала Научные и технические библиотеки в отношении искусственного интеллекта. URL: https://ntb.gpntb.ru/jour/about/editorialPolicies#custom-1

COPE position – Authorship and AI tools. URL: https://publicationethics.org/guidance/cope-position/authorship-and-ai-tools

Editors ICoMJ. Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals 2025. URL: https://www.icmje.org/icmje-recommendations.pdf

WAME Recommendations on Chatbots and Generative Artificial Intelligence in Relation to Scholarly Publications. URL: https://wame.org/page3.php?id=106

Приглашенный автор: Федоров Андрей Олегович, главный аналитик, Библиотека / Отдел информационных систем и электронных ресурсов, НИУ ВШЭ, Москва.