ИИ оказался слеп к инопланетянам: найден фатальный изъян нейросетей  Оригинал

Американские исследователи выяснили, что современные алгоритмы можно обмануть со стопроцентной точностью. Что это значит для поиска братьев по разуму и нашей безопасности?

Исследователи из Университета штата Мичиган Кристоф Адами и Анкит Гупта провели любопытный эксперимент. Они взяли симулятор эволюции Avida и «скормили» нейросети десятки тысяч цифровых организмов. Задача: научить ИИ отличать самовоспроизводящиеся цепочки (то есть цифровую жизнь) от обычного кода.

Сначала машина справлялась блестяще. Однако стоило ученым внести в код организмов всего 150 незначительных изменений, как началась путаница. Алгоритм, идеально показавший себя на учебных материалах, начал массово принимать ложные сигналы за признаки живого.

«У ИИ есть ахиллесова пята. Он видит закономерности, но совершенно не понимает их сути, из-за чего делает абсурдные выводы», – констатирует Адами.

Эта «слепота» грозит сбоями в беспилотных автомобилях, медицинских сканерах и системах распознавания лиц.

Ученые не призывают отказаться от нейросетей, но уточняют, что полностью отдавать ключевые решения машинам рано. Человеческий контроль и независимая проверка алгоритмов остаются обязательным условием. Иначе вместо великого открытия мы получим лишь красивую галлюцинацию на экране монитора, пишет