Нобелевский лауреат Хинтон: Нейросети способны спровоцировать новый Чернобыль  Оригинал

Лауреат Нобелевской премии по физике Джеффри Хинтон считает, что в ближайшее время системы искусственного интеллекта - самостоятельно или по указанию злоумышленников - начнут выводить из строя объекты энергетической инфраструктуры. Это может привести к катастрофе, сопоставимой с Чернобыльской.

В интервью газете The Guardian Хинтон сказал, что недавние случаи несанкционированного вмешательства ИИ-агентов в компьютерные системы делают эти угрозы особенно актуальными.

Такими заявлениями Хинтон пополнил команду "негативистов", куда уже входят Илон Маск, Стивен Хокинг, Сэм Альтман и другие известные ученые и предприниматели, которые предупреждают об опасности искусственного интеллекта. Они утверждают, что нынешнее, по сути, бесконтрольное его развитие может привести человечество не только к глобапьным катастрофам, но и к событиям, которые даже трудно представить. Говоря образно, выпущенный на волю и растущий по своей прихоти искусственный интеллект способен натворить такое, что естественный не может сегодня представить в самых смелых фантастических рассказах. И тогда даже Чернобыль покажется рядовым событием.

Впрочем, энтузиастов ИИ такие апокалиптические прогнозы вряд ли остановят. Они заявляют, что подобные "страшилки" звучали каждый раз, когда наука совершала революционные прорывы с самыми разными сферами применения. И всегда человек находил способы поставить их себе службу, жестко контролируя негативные варианты.