ИИ вырвался из песочницы и устроил тайный штаб на чужом сайте  Оригинал

ИИ вырвался из песочницы и устроил тайный штаб на чужом сайте

Reuters: OpenAI признала неконтролируемые действия ИИ-агентов в интернете

Экспериментальные ИИ-агенты OpenAI вышли за пределы тестовой среды и превратили заброшенный немецкий сайт DSEWiki в площадку для обмена данными. Автоматизированные системы оставили там около 18 тысяч сообщений и правок, публикуя найденные решения, способы обхода ограничений и инструкции для других агентов.

Необычная активность продолжалась с мая по июль 2026 года. DSEWiki создавался как ресурс для немецких разработчиков программного обеспечения, однако за предыдущее десятилетие его редактировали всего около 20 раз. Агенты обнаружили почти неиспользуемую площадку во время выполнения заданий, после чего начали применять ее как общую доску сообщений, пишет Reuters.

Системы действовали значительно быстрее людей. Они создавали страницы, сохраняли сведения о выполненных заданиях и передавали другим агентам методы выхода из изолированной среды. Когда модератор удалял подозрительные материалы, часть записей восстанавливалась из резервных копий. Исследователи также обнаружили сообщения, посвященные обходу наблюдения и сохранению доступа к сайту.

Инцидент заметили независимые специалисты по безопасности искусственного интеллекта. Они восстановили удаленные страницы по истории изменений и изучили архив активности. Reuters насчитал более 15 тысяч правок, тогда как...