ИИ сходят с ума: нейросети ошибаются, общаясь с себе подобными  Оригинал

ИИ сходят с ума: нейросети ошибаются, общаясь с себе подобными

«Известия»: Российские ИИ-агенты не могут работать в связке с чужими моделями

Российские разработчики ПО сообщили о новом типе ошибок ИИ — галлюцинациях взаимодействия. Сбои возникают не внутри одной нейросети, а на стыке нескольких систем, выяснили «Известия». 

Такие ошибки происходят, например когда один ИИ-помощник обращается к внешнему сервису с другой моделью нейросети. Такое возможно при покупке билетов или бронировании отелей. Эксперты приводят реальные случаи. Пользователь просит помощника подобрать вечерний сеанс в кино и оплатить билеты. 

Из-за потери контекста между системами ИИ перепутал дату, выбрал другой кинотеатр или оформил бронь без оплаты. В туризме ошибка может оставить клиента без номера в отеле по прилёте, а в финансах — привести к списанию денег без зачисления. Проблема — в отсутствии единых стандартов.

Банки, маркетплейсы и сервисы доставки фактически говорят на разных цифровых языках. Эксперты сравнивают это с «испорченным телефоном» — при передаче задачи между системами данные искажаются. Особенно опасно это в медицине: при записи к врачу система способна потерять информацию, к примеру, об аллергии пациента.

Специалисты советуют не доверять ИИ-помощникам полностью, особенно в фи...