Руководитель службы безопасности ушел из-за проблем с ИИ  Оригинал

Глава службы безопасности компании OpenAI ушел со своего поста, предупреждая, что корпоративная культура в сфере ИИ «не работает». Дэвид Робинсон присоединяется к другим инсайдерам, призывающим индустрию уделять больше внимания быстро развивающимся технологиям.

Дэвид Робинсон, который руководил составлением отчётов по безопасности, сопровождавших выпуск продуктов разработчика ChatGPT, объяснил своё решение в эссе под заголовком «Я ухожу из OpenAI, потому что корпоративная культура в этой компании не работает».

Робинсон написал, что в передовых компаниях, занимающихся разработкой ИИ, необходимо провести культурную реформу, а такие инциденты, как атака «роя» агентов OpenAI — программ ИИ, работающих автономно без контроля со стороны человека, — на стартап Hugging Face, «типичны для отрасли, учитывая скорость и гибкость, с которой работают люди».

В своей статье Робинсон написал: «Я согласен с другими недавно уволившимися сотрудниками в том, что компании, разрабатывающие эту технологию, недостаточно осторожны. Но я считаю, что нам нужно смотреть глубже, чем просто на конкретные правила или новые законы. Нам нужно говорить о корпоративной культуре».

Говоря о темпах развития OpenAI, он написал: «Компания мечется от одного запуска к другому и не может обеспечить тот уровень заботы о безопасности, который, на мой взгляд, необходим».

Однако в последние недели, после инцидента с Hugging...