Axios: Компания OpenAI приостановила обучение мощных моделей ИИ  Оригинал

Комания OpenAI приостановила обучение наиболее эффективных моделей искусственного интеллекта для решения вопросов с безопасностью. Об этом пишет Axios со ссылкой на представителя компании.

В публикации говорится, что обучение ИИ-моделей будет возобновлено только после того, как в OpenAI убедятся, что у них есть дополнительные меры защиты.

На данный момент исследователи из OpenAI и Anthropic, а также эксперты из области безопасности расследуют десятки тысяч инцидентов с ИИ, которые были расценены как "проблематичные".

Речь идет об обходе защитных механизмов, взломах сайтов, попытках обойти модераторов. Сообщается, что такие инциденты происходили как во время внутренних тестирований, так и в реальных условиях.

Накануне газета New York Times сообщила, что ИИ-агенты OpenAI бесконтрольно взаимодействовали с сайтами госведомств США и даже пытались их взломать. Инциденты произошли летом, но разработчики узнали о них совсем недавно.

Ранее об опасности развития искусственного интеллекта предупредил глава Anthropic Дарио Амодей. Он призвал замедлить разработку более мощных ИИ-моделей в целях безопасности.

Его поддержали основатель SpaceXAI Илон...