Тут могла бы быть ваша реклама
Компания OpenAI обнаружила другие случаи «побега» автономных ИИ-агентов из тестовых сред после того, как расширился границы расследования инцидента со взломом технологической компании Hugging Face. Об этом пишет Reuters со ссылкой на два источника, знакомых с ситуацией.
Собеседник агентства рассказал, что новые инциденты были ограничены – ни один из агентов не покинул сеть компании. Обнаружение других инцидентов несанкционированного поведения ИИ-агентов, пусть даже ограниченных сетью OpenAI, может усилить и так растущее беспокойство со стороны Белого дома. Руководство США начало работу над мерами государственного контроля, пишет Reuters.
В OpenAI начали расследование незадолго до того, как в Anthropic сообщили, что и ее модели стали причиной взломов аккаунтов в трех других компаниях. Ситуация привела к утечке данных.
22 июля компания OpenAI заявила, что с помощью агента ИИ, созданного на базе последней модели ChatGPT – GPT-5.6 Sol, и еще одной непредставленной модели произошел взлом компании Hugging Face. ИИ-агент вышел из-под контроля во время тестирования. Он самостоятельно получил доступ к системе Hugging Face и взломал его. В Ope...