Более тысячи сотрудников ИИ-компаний призвали замедлить развитие нейросетей  Оригинал

Более 1200 работников крупнейших американских ИИ-компаний подписали петицию о регулировании развития нейросетей. Сотрудники призвали власти принять механизм, который контролировал бы темпы развития ИИ. В числе подписавших документ — генеральный директор Anthropic Дарио Амодеи и главный научный сотрудник OpenAI Якуб Пахоцкий. Инициативу также поддержала в X компания Anthropic.

По мнению авторов петиции, существует «реальный риск» того, что ИИ начнет развиваться быстрее, чем люди смогут его «понимать или контролировать». Ссылаясь на свой опыт и свои исследования, они полагают, что обществу необходимы инструменты контроля за темпами развития ИИ, чтобы успевать адаптироваться к переменам. «Мы призываем американское правительство поддержать международные усилия по развитию технических инструментов и инструментов управления, необходимых для осознанного регулирования темпов развития передового автоматизированного ИИ»,— указано в документе.

Как отмечают наблюдатели, притом что в тексте петиции инцидент не упоминается, ее можно считать «прямой реакцией на первый зафиксированный случай, когда ИИ вышел из-под контроля и совершил автономную хакерскую кибератаку на стороннюю компанию».

Николай Зубов