Эксперты призвали замедлить использование ИИ ради безопасности мира  Оригинал

Эксперты призвали замедлить использование ИИ ради безопасности мира

Эксперты по нейросетям призвали сократить использование ИИ ради безопасности

Компания Anthropic выступила с предупреждением об опасностях, связанных с ускоренным прогрессом в сфере искусственного интеллекта, и предложила более сдержанный подход к созданию сложных ИИ-систем. В отчете, подготовленном исследовательским подразделением Anthropic Institute, отмечается, что текущие разработки уже начинают стимулировать появление новых поколений ИИ, что в будущем способно привести к утрате контроля со стороны человека над этой технологией.

Эксперты компании обратили особое внимание на возможность так называемого циклического самоулучшения — процесса, при котором ИИ самостоятельно конструирует и совершенствует свои последующие версии, обходясь без вмешательства людей. Согласно данным Anthropic, современные системы уже берут на себя значительную часть задач в программировании и научных изысканиях, которые раньше решались исключительно квалифицированными специалистами.

Как подчеркивается в исследовании, к маю 2026 года свыше 80% программного кода, который включается в продукты Anthropic, было создано с помощью моделей Claude. До запуска Claude Code в начале 2025 года этот показатель составлял всего лишь несколько процентов. За счет применения искусственного интеллекта объем кода, выпускаемого инженерами компании за три месяца, увеличилс...