Эксперты предупредили о рисках, которые ИИ-агенты создают для человечества  Оригинал

Недавно представленная модель GPT-6 Astra от OpenAI может брать на себя управление компьютером и рассчитана на использование в ИИ-агентах, которые могут выполнять различные задачи без участия человека.

Президент OpenAI Грег Брокман назвал Astra "скачком поколения" и заявил, что новая модель переводит возможности ИИ в эпоху AGI (Artificial General Intelligence) - общего искусственного интеллекта, способного решать любые интеллектуальные задачи наравне с человеком или превосходить его. Нет никаких сомнений, что в ближайшее время последует ответ от главных конкурентов OpenAI - компании Anthropic и китайских разработчиков фундаментальных больших языковых моделей (LLM). При этом практически все эксперты уверены, что помимо колоссальных возможностей ИИ-агенты создают и принципиально новые риски, причем на всех уровнях: от обычного сотрудника компании или организации до целого государства.

"Автономный агент уровня GPT-6 Astra способен самостоятельно выполнить вредоносную команду уже во внешнем контуре: стереть данные или провести несогласованную транзакцию. Главное отличие агентских систем - это автономия целеполагания и наличие инструментов для выполнения задач. Агенту передаются API-ключи, предоставляется доступ к корпоративным системам, включая CRM, SRM, ERP и корпоративную почту, а также дается право принимать решения в многоэтапных цепочках действий без прямого участия человека", - отмечает заместитель директора исследовательс...