Названа еще одна опасность искусственного интеллекта — делегирование ему своей воли  Оригинал

В начале апреля довелось прочесть, что на направляющемся к Луне корабле «Орион» то и дело ломался туалет. Сначала он вроде бы замерз, потом от «усовершенствованной туалетной системы стоимостью 23 миллиона долларов» пошел запах гари. В общем-то, мелочь: благо у экипажа были в запасе «складные устройства». Хорошо, когда можно предусмотреть такую довольно предсказуемую неприятность.

Хуже, когда неприятности малопредсказуемы. Недавно на совещании по вопросам развития искусственного интеллекта глава Российской Федерации призвал к ускоренному, опережающему внедрению ИИ, поручил адаптировать к повсеместному применению искусственного интеллекта «всю систему развития человеческого потенциала — от начальной школы до рынка труда», и в то же время сказал, что считает необходимым «просчитать модели основных рисков и угроз, возникающих в связи с применением таких систем, и определить меры по их своевременному предотвращению».

Как бы ни была понятна аргументация президента РФ («от нашей способности соответствовать темпам глобальных изменений зависит суверенитет и в недалеком будущем, без всякого преувеличения, само существование Российского государства»), очевидно, что риски и угрозы от применения искусственного интеллекта менее предсказуемы, чем сломанный туалет. Это что-то очень новое, очень мощное, но главное — Путин об этом тоже сказал — ИИ-агенты «уже не только выполняют определенные команды и отвечают на простые ...