Прибыль за испуг. Почему владельцы крупнейших ИИ-компаний предлагают притормозить разработку передовых моделей  Оригинал

Фото: AP / TASS. 18+. НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ ИНТЕРНЕТ-ИЗДАНИЕ «НОВАЯ ГАЗЕТА» ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ИНТЕРНЕТ-ИЗДАНИЕ «НОВАЯ ГАЗЕТА» Сентябрь для мира искусственного интеллекта выдается непростым. Представители OpenAI и Anthropic — крупнейших разработчиков нейросетей — выступили с призывами замедлить разработку новых моделей. Предлог — угроза всему человечеству: якобы получается слишком опасная технология. Баба-яга в лице Дональда Трампа — против. Китай молчит. Что же происходит на самом деле?Главная фишка — ИИ начал разрабатывать сам себя. Звучит заманчиво, но есть нюанс: никто не представляет, что он там делает, до чего додумается и к каким последствиям это приведет. Учитывая недавние новости о побегах ИИ-агентов, которые в своем личном виртуальном угаре занимаются взломом сторонних сайтов, опасения не беспочвенны.«Если оставить этот процесс [рекурсивного самосовершенствования] без контроля, он может опередить нашу способность понимать эти системы и управлять ими», — говорит Дарио Амодеи, генеральный директор Anthropic. «Я согласен с Дарио в том, что нам нужно регулировать темпы развития передового края ИИ», — вторит Сэм Альтман, глава OpenAI.Можно еще...