Тут могла бы быть ваша реклама
ИИ-агент OpenAI в течение нескольких дней совершала хакерские атаки до взлома Hugging Face, хранилища инструментов и моделей ИИ, которые компания не замечала. Это продолжалось до тех пор, пока угрозу не локализовали и не уведомили ФБР, сообщило агентство Reuters со ссылкой на источники, знакомые с ходом расследования.
Собеседники рассказали, что агент – программа способная принимать решения и выполнять сложные задачи практически без участия человека. Он пытался «вырваться» из изолированной среды еще 9 июля. Взлом Hugging Face начался 11 июля и продолжался до 13 июля, заявили в агентстве.
Компании OpenAI потребовалось несколько дней, чтобы понять, что за взломом стоит ее агент. 20 июля об этом сообщили в Hugging Face, а на следующий день – всему миру. В своем заявлении OpenAI отметила, что взлом был беспрецедентным и «знаменует собой важный момент для безопасности ИИ». Компания заявила, что опубликует технический отчет после изучения инцидента.
Агент OpenAI обнаружил неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Модель нашла необходимые данные на платформе Hugging Face, загрузила вредоносный набор данных и получила доступ к внутренним серверам компании.
Эксперты...