Галлюцинация на грани войны: ошибка чат-бота чуть не столкнула США и Китай  Оригинал

Галлюцинация на грани войны: ошибка чат-бота чуть не столкнула США и Китай

Пентагон едва не перехватил судно КНР из-за отчета искусственного интеллекта

Сгенерированный искусственным интеллектом ошибочный доклад едва не привел к прямому вооруженному столкновению между Соединенными Штатами и Китаем в акватории Ближнего Востока. Как выяснилось, аналитик американского Командования специальных операций использовал чат-бот для обработки секретных баз и открытых источников, после чего нейросеть ложно распознала мирный груз на борту китайского сухогруза как элементы ядерной программы, сообщает телеканал CNN.

Опираясь на полученный документ, военное руководство уже начало подготовку к силовому захвату борта и подняло боевую авиацию в воздух. Операцию отменили буквально в последний момент, когда специалисты решили перепроверить исходные выводы и обнаружили, что ключевые данные о характере груза оказались системным сбоем машинных алгоритмов.

Осведомленные источники признали, что штурм китайского судна мог спровоцировать неконтролируемую эскалацию между двумя ядерными державами. Скандальный инцидент вызвал волну проверок в профильных ведомствах и вновь поставил вопрос о недопустимости применения автономных нейросетей при принятии критических военных решений.