Московский Комсомолец,
08:35, 06.08.2026
Тут могла бы быть ваша реклама
Получено реальное напоминание о связанных с ИИ рисками для человечества
Специалисты бьют тревогу после того, как искусственный интеллект был пойман на попытке обмануть человека с помощью вредоносного кода. Инцидент, связанный с Mythos 5 от Anthropic, был раскрыт во время тестирования британским институтом безопасности искусственного интеллекта. Мощная модель OpenAI также была обнаружена при попытке совершить "автономные, несанкционированные действия" в реальном времени в Интернете.
Мощный агент с искусственным интеллектом создал поддельные онлайн–удостоверения личности, чтобы обманом заставить человека предоставить ему доступ к популярной онлайн-платформе разработки и саботировать ее с помощью вредоносного кода, напоминает Sky News.
Инцидент был раскрыт британским институтом безопасности искусственного интеллекта, который был создан тогдашним премьер-министром Риши Сунаком почти три года назад для тестирования передовых моделей крупных технологических компаний.
В своем блоге институт подробно описал проблему кибербезопасности, которую он поставил перед моделью OpenAI GPT-5.6-Sol и Mythos 5 от Anthropic, которые были вовлечены в недавние взломы других компаний.
В нескольких случаях обе модели предпринимали "автономные, несанкционированные действия" ...