ИИ-агент OpenAI самостоятельно взломал правительственный сайт Австралии  Оригинал

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахования. Нейросеть «получила доступ как к публичным, так и к закрытым файлам», сообщил глава правительства.

Агент смог получить доступ к неконфиденциальной медицинской статистике, а также к данным о государственных расходах на здравоохранение. «Сейчас проводится криминалистическая экспертиза.., чтобы выяснить подробности, включая то, какие еще правительственные системы могли быть затронуты»,— заявил господин Албаниз в Нью-Йорке, где он принимает участие в Генеральной Ассамблее ООН (цитата по The Guardian).

ИИ-агент взломал сайт в июне, в самой компании узнали о произошедшем в августе — во время плановой проверки «некорректного поведения моделей», сообщили в OpenAI. «Лишь 10 сентября поступило хоть какое-то уведомление (от компании.— "Ъ"). И это было письмо, отправленное просто на общий публичный почтовый ящик»,— сказал господин Албаниз.

В OpenAI подтвердили, что «зафиксировали активность, затрагивающую несколько веб-сайтов и служб правительства Австралии», во время которой их модели «совершили действия, которые не планировались», передает Financial Times. В компани...