Axios: OpenAI опасается возможностей модели Astra и отложит ее выпуск  Оригинал

OpenAI замедлит процесс разработки модели искусственного интеллекта Astra. Американская компания опасается ее «критических возможностей» в работе с инструментами кибербезопасности, пишет Axios.

Такой вариант в OpenAI начали обсуждать вскоре после того, как несколько ИИ-агентов компании вышли из-под контроля и атаковали платформу Hugging Face (аналог GitHub). Разработчик заверил, что, хотя Astra к этому случаю отношения не имеет, OpenAI все же собирается провести дополнительное тестирование безопасности. Сроки выпуска модели не называются.

Axios пишет, что Open AI первой из лидирующих компаний в области ИИ решилась замедлить разработку модели, чтобы поработать над ее ограничениями. Ранее аналогичные меры собирался принять разработчик Claude Anthropic, но передумал. «Если один разработчик ИИ приостановит разработку для внедрения мер безопасности, в то время как другие будут продолжать обучение и развертывание систем ИИ без надежных мер по смягчению последствий, это может привести к тому, что мир станет менее безопасным»,— объясняли решение в компании.

В то же время Anthropic призывает в целом замедлить развитие искусственного интеллекта. Компания считает, что в скором времени ИИ-модели смогут совершенствоваться автономно. В американский Сенат внесен законопроект, который дает...