Эксперт Леонков: Внедрение ИИ в военное планирование США ведет к ошибкам  Оригинал

Инцидент, произошедший весной на Ближнем Востоке и ставший достоянием общественности благодаря телеканалу CNN, в очередной раз показал системную уязвимость американской военной машины. Разведывательный отчет, подготовленный с помощью чат-бота, вероятно, модели семейства Anthropic, ложно идентифицировал китайское торговое судно как перевозчика компонентов для ядерной программы. Военные уже начали подготовку к перехвату, а самолеты находились в воздухе для нанесения удара по судну, когда ручная проверка выявила полную несостоятельность данных. Очевидный факт, что любая операция против китайского корабля могла перерасти в полномасштабный вооруженный конфликт между двумя ядерными державами.

Этот случай - далеко не первый сбой алгоритмического мышления Пентагона. Проблема носит фундаментальный характер и имеет глубокие исторические корни, уходящие еще во времена Стратегической оборонной инициативы (СОИ) времен холодной войны.

В 1980-х годах, когда такого понятия как искусственный интеллект еще не было, американцы уже пытались просчитать и автоматизировать ответ на гипотетический советский ракетный удар. Идея заключалась в том, чтобы алгоритм реагировал быстрее человека. Однако все тесты приводили к одному результату: система немедленно инициировала сценарий Третьей мировой войны. Разработчики тогда ...