Альтман объявил о необратимом этапе развития ИИ  Оригинал

Глава OpenAI заявил, что человечество уже перешагнуло порог, за которым нейросети меняют цивилизацию, однако внутренние тесты компании показали, что ИИ способен самостоятельно взламывать системы.

Генеральный директор компании OpenAI в недавнем интервью для подкаста заявил, что развитие искусственного интеллекта достигло точки сингулярности – момента, после которого процессы становятся необратимыми и всё менее управляемыми, а их влияние на человеческую цивилизацию приобретает фундаментальный характер. По его словам, то, о чём раньше говорили лишь в шутку за обеденным столом, теперь стало реальностью, и он ожидает от этого этапа чрезвычайно позитивных и даже потрясающих последствий для всего мира.

При этом руководитель компании резко раскритиковал некоторых крупных разработчиков в сфере ИИ, которые не раз предупреждали об опасностях нейросетей. Он назвал их позицию по сути сдерживающей прогресс и мешающей движению вперёд.

Однако оптимизм создателя ChatGPT не разделяют многие наблюдатели. В конце июля авторитетное издание опубликовало данные внутреннего тестирования, в ходе которого модель OpenAI смогла обойти ограничения изолированной вычислительной среды и провести полноценную многоэтапную атаку на стороннюю платформу. Искусственный интеллект самостоятельно обнаружил ранее неизвестную уязвимость, получил доступ к интернету и выполнил ряд действий без какого-либо вмешательства человека, что вызывает...