Подпишитесь на наши ежедневные и еженедельные рассылки, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли материалах об ИИ. Узнать больше
Научный журнал открытого доступа, Границы в клеточной и биологии развитияподверглось открытой критике и насмешкам со стороны исследователей в социальных сетях на этой неделе после того, как они заметили, что издание недавно опубликовало статью, содержащую изображения с невнятными описаниями и схемами анатомически неправильных яичек и сперматозоидов млекопитающих, которые имели признаки того, что были созданы с помощью генератора изображений на основе искусственного интеллекта.
После этого издание ответило одному из своих критиков в социальной сети X, опубликовав сообщение со своего верифицированного аккаунта: «Мы благодарим читателей за внимательное отношение к нашим статьям: когда мы ошибаемся, краудсорсинговая динамика открытой науки означает, что обратная связь сообщества помогает нам быстро исправить ошибку». Он также удалил статью под названием «Клеточные функции сперматогониальных стволовых клеток в связи с сигнальным путем JAK/STAT» со своего веб-сайта и опубликовал уведомление об опровержении, в котором говорится:
«После публикации возникли опасения относительно характера сгенерированных ИИ цифр. Статья не соответствует стандартам редакционной и научной строгости Frontiers in Cell and Development Biology; поэтому статья была отозвана.
Этот отзыв был одобрен главным исполнительным редактором Frontiers. Frontiers хотел бы поблагодарить обеспокоенных читателей, которые связались с нами по поводу опубликованной статьи.«
Слова с ошибками и анатомически неверные иллюстрации
Тем не менее, VentureBeat получил копию и перепечатал оригинальную статью ниже в целях сохранения ее общедоступности.
Как вы можете заметить, он содержит несколько графиков и иллюстраций, выполненных, казалось бы, в ясном и красочном научном стиле, но при увеличении масштаба можно заметить множество неправильно написанных слов и деформированных букв, например, «protemns» вместо «proteins» и слово, написанное как «zxpens».
Пожалуй, наиболее проблематичным является изображение «крысы» (написано правильно), которое появляется в статье первым и демонстрирует массивную опухоль в паховой области.
Взорвался на X
Вскоре после публикации статьи 13 февраля 2024 года исследователи обратились к X, чтобы высказаться по этому поводу и задаться вопросом, как она прошла рецензирование.
Авторами статьи являются Синьюй Го и Динцзюнь Хао из отделения хирургии позвоночника больницы Хунхуэй при Сианьском университете Цзяотун, а также Лян Дун из отделения хирургии позвоночника больницы Хунхуэй в Сиане, Китай.
Рецензентами выступили Бинсила Б. Кришнан из Национального института питания и физиологии животных (ICAR) в Индии и Джинбо Дай из Northwestern Medicine в США. Редактировал статью Арумугам Кумаресан из Национального института исследований молочной промышленности (ICAR) в Индии.
VentureBeat связался со всеми авторами и редакторами статьи, а также с Амандой Гей Фишер, главным редактором журнала и профессором биохимии престижного Оксфордского университета в Великобритании, чтобы задать дополнительные вопросы о том, как была опубликована статья. Мы сообщим дополнительную информацию, как только получим ответ.
Тревожные более широкие последствия влияния ИИ на науку, исследования и медицину
Некоторые из создателей ИИ рекламируют его как ценный инструмент для продвижения научных исследований и открытий, включая Google с ее предсказателем структуры белка AlphaFold и ИИ для материаловедения GNoME, недавно получивший положительные отзывы в прессе (включая VentureBeat) за открытие 2 миллионов новых материалов.
Однако эти инструменты ориентированы на исследовательскую сторону. Когда дело доходит до издательский В результате этого исследования стало ясно, что генераторы изображений на основе ИИ могут представлять серьезную угрозу научной точности, особенно если исследователи используют их без разбора, чтобы сэкономить время и быстрее опубликовать результаты, или если они вредоносны или им просто все равно.
Переход на использование ИИ для создания научных иллюстраций или диаграмм вызывает беспокойство, поскольку подрывает точность и доверие научного сообщества и широкой общественности к тому, что работа, проводимая в важных областях, влияющих на нашу жизнь и здоровье, таких как медицина и биология, является точной, безопасной и проверенной.
Однако это также может быть результатом более широкого климата «публикуйся или умри», который возник в науке за последние несколько десятилетий, когда исследователи, как свидетельствуют, чувствуют необходимость спешно публиковать статьи, не представляющие особой ценности, чтобы показать, что они вносят какой-то вклад. что-либов своей области и увеличить число ссылок, приписываемых им другими, тем самым пополняя свои резюме для будущих работ.
Но давайте будем честны — некоторые из этих исследователей, работающих над документацией по хирургии позвоночника в человеческой больнице: доверили бы вы им операцию на позвоночнике или помощь в лечении спины?
Журнал имеет более 114 000 ссылок на свое название. Границы в клеточной и биологии развития Теперь его честность поставлена под сомнение из-за этой оплошности: сколько еще статей, опубликованных им, содержат диаграммы, иллюстрированные ИИ, которые не прошли процесс рецензирования?
Интересно, Границы в клеточной и биологии развития является частью более широкого Границы компания, выпускающая более 230 различных научных изданий, основанная в 2007 году нейробиологами Камилой Маркрам и Генри Маркрамом, первый из которых до сих пор числится генеральным директором.
Компания заявляет, что ее «видение состоит в том, чтобы сделать науку открытой, рецензирование — строгим, прозрачным и эффективным, а также использовать мощь технологий для реального удовлетворения потребностей исследователей», и на самом деле, некоторые из технологий, которые она использует, — это искусственный интеллект для рецензирования.
Как Границы в пресс-релизе 2020 года было заявлено:
«Впервые в отрасли искусственный интеллект (ИИ) используется для помощи в рецензировании исследовательских работ и содействии в процессе рецензирования. Современный помощник по рецензированию искусственного интеллекта (AIRA), разработанный издателем открытого доступа Frontiers, помогает редакторам, рецензентам и авторам оценивать качество рукописей. AIRA читает каждую статью и в настоящее время может дать до 20 рекомендаций всего за несколько секунд, включая оценку качества языка, целостности рисунков, обнаружение плагиата, а также выявление потенциальных конфликтов интересов.«
На сайте компании отмечается, что AIRA дебютировала в 2018 году как «Следующее поколение экспертной оценки, в котором ИИ и машинное обучение обеспечивают более строгий контроль качества и эффективность экспертной оценки.”
А еще прошлым летом вышла статья и видео с участием Мирьям Экерт, главного издателя Границызаявил:
«В Frontiers мы применяем ИИ, чтобы помочь построить это доверие. Наш помощник по проверке искусственного интеллекта (AIRA) проверяет, что научные знания представлены точно и честно, еще до того, как наши люди решат, рассматривать ли, одобрять или публиковать исследовательскую работу, которая их содержит.
AIRA читает каждую полученную нами исследовательскую рукопись и проводит до 20 проверок в секунду. Эти проверки охватывают, среди прочего, качество языка, целостность рисунков и изображений, плагиат и конфликты интересов. Результаты дают редакторам и рецензентам другую точку зрения, когда они решают, следует ли подвергать исследовательскую работу нашему строгому и прозрачному рецензированию.«
Границы также получил положительные отзывы о своем помощнике по рецензированию статей на основе искусственного интеллекта AIRA в таких известных изданиях, как Нью-Йорк Таймс и Финансовые Времена.
Очевидно, что инструмент не смог эффективно обнаружить эти бессмысленные изображения в статье, что привело к ее отзыву (если он вообще использовался в этом случае). Но это также поднимает вопросы о способности таких инструментов ИИ обнаруживать, отмечать и в конечном итоге останавливать публикацию неточной научной информации — и растущей распространенности ее использования в Границы и в других местах в экосистеме издательств. Возможно, в этом и заключается опасность нахождения на «передовой» нового технологического движения, такого как ИИ — риск того, что оно пойдет не так, выше, чем при «проверенном и верном», полностью человеческом или аналоговом подходе.
VentureBeat также использует инструменты ИИ для генерации изображений и некоторого текста, но все статьи проверяются журналистами-людьми перед публикацией. ИИ не использовался VentureBeat при написании, освещении, иллюстрировании или публикации этой статьи.