Интеллект и пустота: как ведущая компания в сфере ИИ заговорила о контроле над ним  Оригинал

В настоящее время «Антропик» является самой дорогой компанией, занимающейся искусственным интеллектом. Модели, разработанные «Антропик», задают верхнюю планку развития искусственного интеллекта. Они хороши настолько, что администрация президента США продолжила их использовать, несмотря на скандальное несогласие с руководством «Антропик». Настолько, что доступ к их модели Mythos дали только избранным: она слишком умело находит уязвимости компьютерных программ.

В то же время «Антропик» всегда представляла себя как образец этичности в сфере развития искусственного интеллекта. Она уделяет много внимания вопросам этики и делится данными об опасных проявлениях, которые наблюдает у своих моделей.

Наконец, «Антропик» сама открыто сделала ставку на то, в чем сейчас призывает сделать паузу, — на создание самосовершенствующегося искусственного интеллекта, чтобы «каждое поколение искусственного интеллекта использовалось для обучения следующего поколения ИИ». Я сейчас цитирую эссе главы «Антропик» Дарио Амодеи «Отрочество технологии», опубликованное в январе нынешнего года. То есть они это целенаправленно делали — и, скорее всего, делают до сих пор. Еще в мае нынешнего года больше 80% кода в этой компании писал искусственный интеллект, звучали призывы не мешать ИИ, «дать ему завершить работу». И эти люди предлагают замедлить «рекурсивное самосовершенствование»?..

Первый человек, с которым я поделилась этой новостью, предположил здесь уловку, ч...