ИИ придумал более тысячи несуществующих и влияющих на лечение пациентов цитат  Оригинал

ИИ придумал более тысячи несуществующих и влияющих на лечение пациентов цитат

ИИ изменяет реальные медицинские исследования при добавлении фальшивых ссылок

На Западе врач может назначить лечение, опираясь на исследование, которого никогда не существовало. Это может произойти из-за ИИ, который сгенерировал более 4 тысяч ссылок на фиктивные статьи. Сообщается, что за три года число таких фальшивок выросло в 12 раз. Исследователи бьют тревогу: ни одна из обнаруженных ссылок не была исправлена или отозвана, и они продолжают влиять на клинические рекомендации, по которым работают врачи по всему миру.

Исследователи выяснили, что искусственный интеллект создаёт ссылки на биомедицинские исследования, которых не существует. Согласно недавней проверке, среди миллионов биомедицинских работ было обнаружено более четырех тысяч ссылок на несуществующие исследования.

«Такие сфабрикованные цитаты могут подорвать клинические рекомендации, на которые опираются медицинские работники при оказании медицинской помощи», — заявил автор исследования Максим Топаз. Он пояснил, что когда эти фальшивые ссылки попадают в литературу, они станут «вылезать» в рекомендации, и именно так врачи решают, как оказывать медицинскую помощь на основе исследований, которых никогда не существовало.

Также вызывает беспокойство тот факт, что ни одна из выявленных Топазом и его командой ошибок не бы...