ИИ могут остановить из-за угрозы массовой гибели людей  Оригинал

  Московский Комсомолец, 00:47, 17.10.2026

Тут могла бы быть ваша реклама

Фото с сайта www.mk.ru
ИИ могут остановить из-за угрозы массовой гибели людей

Anthropic предложила разрешить властям США блокировать опасные модели ИИ

Американская компания Anthropic продвигает в Конгрессе США законопроект, который позволит властям через суд приостанавливать разработку или использование систем искусственного интеллекта при выявлении серьезных угроз. Об этом сообщает издание Politico со ссылкой на источники.

Согласно инициативе, основанием для вмешательства может стать риск ущерба на сумму от одного миллиарда долларов или опасность гибели либо тяжелых травм более чем у 50 человек. Угроза должна быть связана с разработкой или применением биологического оружия, потерей разработчиком контроля над моделью либо проведением кибератаки.

Оценивать потенциальную опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. Если проверка подтвердит наличие серьезных рисков, ведомство сможет обратиться в суд с требованием приостановить соответствующий проект.

Документ также предусматривает дополнительные обязательства для разработчиков. Им потребуется создавать внутренние подразделения по безопасности, публиковать отчеты о работе моделей и своевременно информировать Министерство торговли о серьезных сбоях.

Отдельный пункт касается защиты сотрудников, сообщающих о нарушениях. Законопроект предполагает меры против преследования работников за раскрытие подобной информ...