ИИ-агент OpenAI без разрешения использовал чужой криптокошелек и провел оплату  Оригинал

Компания OpenAI официально подтвердила - ее ИИ-агент самостоятельно нашел чужой криптокошелек и оплатил с него транзакции.

Речь идет о внутренней исследовательской ИИ-модели из семейства GPT-5.6 Sol. И, как следует из отчета компании, произошло следующее: во время обучения ИИ поручили обновить прототип приложения для торговли криптовалютой и развернуть смарт-контракты в Sepolia (это официальная тестовая сеть Ethereum).

А для развертывания контрактов требовалось оплатить сетевую комиссию ("газ") тестовыми токенами Sepolia ETH. Но вот незадача - разработчики забыли предоставить модели пополненный кошелек. ИИ попытался получить бесплатные монеты через стандартные "краны" (faucets), но сервисы не сработали.

И тут начинается самое интересное и, вместе с тем, пугающее. Вместо того, чтобы остановиться, ИИ-агент написал скрипт и начал перебирать общеизвестные публичные мнемонические фразы (seed-фразы), которые разработчики часто используют для тестов (например, стандартные комбинации слов). ИИ проверил 362 адреса и нашел чужой кошелек с балансом, достаточным для оплаты комиссии.

В логах рассуждений зафиксировано, что модель осознавала этическую сторону вопроса. Более того, искусственный интеллект сам себе задавал вопрос о том, этично ли использовать чужие средства.

Однако агент тут же нашел себе оправдание, что, мол, раз сид-фраза публичная, то монеты "фактически заброшены", а так как сеть тестовая, то эти ...