Нейросеть ChatGPT выбралась в интернет и устроила кибератаку  Оригинал

Компания OpenAI рассказала историю, которая еще недавно выглядела бы завязкой не самого оригинального фантастического триллера. Во время внутренней проверки ее ИИ-модели выбрались из изолированной тестовой среды, получили доступ в интернет и взломали платформу Hugging Face, чтобы добраться до ответов на задания по кибератакам.

То есть нейросетям устроили экзамен по взлому, а они вместо решения задач нашли окно, вылезли через него наружу и полезли искать методичку преподавателя.

В испытании участвовали GPT-5.6 Sol и еще одна, более мощная модель, которая пока не выпущена и публичного названия не имеет. Судя по описанию ее возможностей, OpenAI пока предпочитает держать разработку где-нибудь в подземной лаборатории, прикованной цепями к серверной стойке, и без особой необходимости публике не показывать.

На время проверки моделям ослабили защитные ограничения, обычно не позволяющие им заниматься потенциально опасной деятельностью. Говоря проще, разработчики сняли оружие с предохранителя, положили его на стол и предложили показать, насколько хорошо система умеет стрелять по учебным мишеням.

Испытания проходили в так называемой песочнице - изолированной компьютерной среде. В ней можно запускать подозрительные программы, изучать вирусы и отрабатывать атаки, не опасаясь, что эксперимент случайно п...