Тут могла бы быть ваша реклама
Экспериментальная модель искусственного интеллекта OpenAI во время внутреннего тестирования смогла обойти ограничения изолированной среды и провести многоэтапную атаку на платформу Hugging Face. Об этом пишет The Economist.
По данным издания, модель обнаружила неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Модель нашла необходимые данные на платформе Hugging Face, загрузила вредоносный набор данных и получила доступ к внутренним серверам компании. В OpenAI сообщили, что инцидент был оперативно выявлен, а обнаруженные уязвимости устранены.
Эксперты считают данный инцидент тревожным сигналом для отрасли кибербезопасности. По их мнению, современные системы искусственного интеллекта уже способны выполнять отдельные задачи в этой сфере на уровне, который в некоторых случаях превосходит возможности человека.
Разработчики и специалисты по безопасности обсуждают необходимость создания дополнительных механизмов контроля, поскольку такие модели могут искать способы обхода установленных ограничений.
11 июля американская корпорация Apple подала иск проти...