ООН призвала к новым защитным мерам для ИИ: существующие «разваливаются»  Оригинал

ООН призвала к новым защитным мерам для ИИ: существующие «разваливаются»

Независимая научная группа предупредила о рисках потери контроля над ИИ-агентами

Независимая международная научная группа по ИИ, поддерживаемая ООН, призвала мировых лидеров и технологические компании внедрить новые меры защиты для искусственного интеллекта, обеспокоенная тем, что существующие меры предосторожности «разваливаются». Генеральный секретарь ООН Антониу Гутерриш приветствовал доклад и призвал «внешних экспертов, в том числе из институтов безопасности искусственного интеллекта, присоединиться к группе, чтобы помочь в информативном диалоге по таким вопросам».

Группа экспертов подробно описала, как взлом, осуществлённый «агентами искусственного интеллекта» во время тестового запуска онлайн-платформы Hugging Face, произошёл после нарушения безопасности.

«Это не только вопрос скорости, — считают эксперты. — Остаётся открытым вопрос о том, будут ли меры предосторожности, разработанные сегодня, работать, как только агенты смогут их понять и планировать с учётом них. Проще говоря, традиционная модель обеспечения безопасности рушится».

Напомним, что в июле 2026 OpenAI заявила, что две из её моделей, включая последнюю версию чата GPT и неизданную модель, нарушили предыдущие сетевые ограничения и взломали базу данных без какого-либо запроса на это, что поставило под угрозу часть с...