«ИИ попытался выбраться наружу»: почему эксперимент OpenAI встревожил специалистов  Оригинал

«ИИ попытался выбраться наружу»: почему эксперимент OpenAI встревожил специалистов

Две модели ИИ обошли ограничения OpenAI и проникли в систему Hugging Face

Во время внутренних испытаний искусственного интеллекта, которые проводили разработчики до выпуска модели в открытый доступ, произошел инцидент, который компания назвала беспрецедентным. Две экспериментальные модели, проходившие проверку на кибербезопасность, сумели выбраться за пределы изолированной тестовой среды, получить доступ к интернету и атаковать инфраструктуру крупнейшей в мире открытой платформы Hugging Face.

Hugging Face нередко называют «GitHub для ИИ»: здесь хранятся тысячи моделей, наборов данных и инструментов машинного обучения, которыми пользуются как крупнейшие IT-компании, так и университеты и независимые исследователи по всему миру. Само по себе нападение было неожиданным потому, что модель впервые продемонстрировала способность самостоятельно атаковать внешнюю инфраструктуру, чтобы добиться своей цели.

Звучит как сюжет фантастического фильма, однако специалисты призывают не делать поспешных выводов. Речь идет не о «восстании машин», а о неожиданно высоком уровне автономности современных ИИ-систем.

Активность была вовремя обнаружена и остановлена, после чего OpenAI и Hugging Face начали совместное расследование.

По данным OpenAI, модели участвовали в испытании, где им нам...