Глава Anthropic: власти должны иметь возможность блокировать новые модели ИИ  Оригинал

Главный исполнительный директор Anthropic Дарио Амодеи заявил, что правительство США должно иметь право и возможности для запрета разработчикам искусственного интеллекта (ИИ) внедрять новые модели, если они представляют определенные риски.

Глава компании утверждает, что модели ИИ должны проходить обязательное тестирование третьими сторонами для оценки рисков, которые они собой представляют, по нескольким категориям, включая угрозы кибербезопасности и биологическое оружие. «Если сочтут, что ИИ представляет неприемлемые риски, правительство должно иметь право блокировать или сдерживать развертывание»,— добавил он (цитата по Bloomberg).

Bloomberg отмечает, что эти замечания представляют собой один из самых решительных призывов разработчика к более строгому регулированию ИИ по мере развития технологии.

«Настало время перейти от прозрачности к более серьезному и обязательному регулированию ИИ… Сейчас нам глобально и коллективно необходимо активизировать медленный и шаткий политический аппарат, чтобы справиться с рисками и возможностями, которые будут неожиданно быстро увеличиваться», — резюмировал тезисы Дарио Амодеи.

Ранее Anthropic представила наиболее мощную модель ИИ под названием Mythos, а также ее версию Fable 5, которая не может ис...