Тут могла бы быть ваша реклама
Развитие нейросетей достигло точки сингулярности, то есть неуправляемого и необратимого процесса, который может привести к серьезным изменениям человеческой цивилизации. Об этом заявил гендиректор OpenAI Сэм Альтман в подкасте Relentless, передает Business Insider.
«Мы сейчас, можно сказать, в сингулярности <...>. Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», – сказал он.
Кроме того, Альтман раскритиковал крупнейших разработчиков в сфере ИИ, которые неоднократно предупреждали об опасности нейросетей.
22 июля The Economist сообщил, что экспериментальная модель ИИ OpenAI во время внутреннего тестирования смогла обойти ограничения изолированной среды и провести многоэтапную атаку на платформу Hugging Face. По данным издания, модель обнаружила неизвестную ранее уязвимость, позволившую ей получить доступ к интернету, после чего самостоятельно выполнила ряд действий. Эксперты считают этот инцидент тревожным сигналом для отрасли кибербезопасности. По их мнению, современные систем...