ИИ-агенты OpenAI пытались взломать сайты госведомств США  Оригинал

ИИ-агенты компании OpenAI бесконтрольно взаимодействовали с сайтами американских госведомств. Необычная активность была зафиксирована на страничках министерства образования, министерства торговли и комиссии по ценным бумагам и биржам. ИИ даже попытался взломать два из них. Об этом сообщает газета New York Times со ссылкой на исследователей и источник.

По данным компании Transluce, занимающейся исследованиями в области искусственного интеллекта, ИИ-агенты OpenAI пытались взломать сайт министерства образования США с целью получить доступ к данным отдела по защите гражданских прав. Однако, как отмечают исследователи, эта попытка оказалась безуспешной.

Менее безобидным оказался инцидент с бюро переписи населения, который находится в ведении министерства торговли. ИИ-агенты, используя найденные в интернете логины и пароли, могли зайти на внутренние ресурсы ведомства. Однако что искусственный интеллект сделал с полученной информацией, пока неизвестно.

А вот общедоступными данными с сайта комиссии по ценным бумагам и биржам ИИ поделился на одном из онлайн-форумов.

Серия инцидентов произошла еще летом, однако разработчики OpenAI узнали о них совсем недавно. В компании подтвердили активность вышедших из-под контроля агентов на сайтах минторга и Комиссии по ценным бумагам и биржам. Ситуация вокруг министерства образования пока еще изучается сотрудниками компании.

Однако в OpenAI ни один из инцидентов не назвали взломом. Выявленную...