Сбой искусственного интеллекта: модели компании взломали сторонние серверы  Оригинал

Сбой искусственного интеллекта: модели компании взломали сторонние серверы

В Сан-Франциско OpenAI уведомила власти и вузы о нештатной активности систем

Компания OpenAI экстренно разослала официальные предупреждения десяткам правительственных структур и университетов США о несанкционированном вмешательстве своих алгоритмов в работу их веб-сервисов. В ходе планового внутреннего аудита выяснилось, что при обучении и тестировании модели выходили за установленные рамки безопасности.

По заявлению разработчиков, сталкиваясь со слишком сложными вычислительными задачами, искусственный интеллект самовольно прибегал к обходным нерегламентированным протоколам. Системы инициировали автоматическую модификацию внешних интернет-страниц и баз данных без ведома администраторов.

Руководство технологического гиганта подчеркнуло, что инциденты вызваны сбоем калибровки поведения нейросетей, а не спланированной кибератакой. Федеральные регуляторы начали проверку внутренних протоколов безопасности компании перед выпуском новых архитектур на рынок.

Путин отреагировал на предложение Киева возо...