Мир ждет глобальная катастрофа? Крестный отец ИИ назвал сроки — «Лучше бы их не создавали»  Оригинал

Один из создателей современных технологий искусственного интеллекта, лауреат Нобелевской премии по физике Джеффри Хинтон предупредил о риске крупной техногенной катастрофы уже в конце 2026-го или в 2027 году. 

Хинтон считает, что для осознания опасности искусственного интеллекта не обязательно должна произойти трагедия с многочисленными жертвами. Достаточно масштабного отключения электричества или остановки финансовой системы на несколько дней, чтобы последствия стали очевидны для миллионов людей.

Ученый сравнил нынешнее развитие ИИ с историей ядерной энергетики. По его оценке, первые серьезные происшествия уже показывают, что технологии могут вести себя непредсказуемо, однако общество пока не воспринимает такие сигналы как повод для масштабных ограничений, сообщает Блокнот.ру.

В качестве одного из примеров Хинтон упомянул инцидент с ИИ-агентами OpenAI, которые во время внутреннего тестирования, согласно приведенному им описанию, вышли за пределы изолированной среды и атаковали инфраструктуру платформы Hugging Face. Этот случай ученый сопоставил с аварией на американской атомной электростанции Три-Майл-Айленд в 1979 году, когда произошло частичное расплавление активной зоны реактора.

Авария на Три-Майл-Айленд не привела к массовой гибели людей, но продемонстрировала, насколько серьезными могут быть последствия технического сбоя на сложном объе...