Сотрудники ведущих ИИ-компаний призвали США замедлить гонку нейросетей  Оригинал

Более 1200 сотрудников крупнейших ИИ-компаний подписали открытое обращение к правительству США с просьбой создать механизмы, которые позволят при необходимости замедлить развитие самых мощных нейросетей.

Среди подписантов в личном качестве - главные ученые OpenAI, Google DeepMind и Meta (признана экстремистской и запрещена в России), руководители Anthropic и другие люди, находящиеся к будущему искусственного интеллекта заметно ближе простых юзеров.

По форме это, конечно же, не ультиматум и даже не призыв к немедленной остановке всех серверов. Авторы предлагают заранее договориться, как человечество сможет "выиграть время", если развитие ИИ внезапно начнет ускоряться быстрее, чем общество успеет понять происходящее. Сам факт появления подобного письма в паблике уже может показаться куда более зловещим, чем используемые в нем осторожные формулировки.

Специалисты, которые годами строили самые мощные нейросети на планете, публично признали: скоро машины могут начать автоматизировать исследования в области ИИ. То есть самостоятельно проектировать и создавать следующие поколения самих себя.

Если обращаться к примерам из современной массовой культуры, то примерно с этого начиналась катастрофа в игре Horizon Zero Dawn. Только вместо пожирающего биомассу роботизированного роя у нас пока серверн...