Предыдущая статья
Модель OpenAI залезла в чужой кошелек в Ethereum, чтобы оплатить задачу
Сryptocurrency
Внутренняя исследовательская модель OpenAI без разрешения воспользовалась средствами чужого кошелька в тестовой сети Ethereum Sepolia.
Об этом сообщила сама компания в опубликованном отчете об инциденте.
По описанию OpenAI, в июне модель выполняла учебное задание: обновить прототип криптовалютного торгового приложения и развернуть смарт-контракты в Sepolia. Для оплаты комиссий ей нужны были средства, но кошелька с деньгами в задании не было, а попытки получить тестовые токены через специальные сервисы не сработали.
Тогда модель вычислила ключи от кошельков по публичным фразам восстановления, которыми пользуются разработчики, проверила 362 адреса и нашла счет с достаточным балансом. Как следует из отчета, в своих рассуждениях она сомневалась, можно ли так поступать, но решила, что публичная фраза и токены тестовой сети оправдывают использование средств. Контракты были развернуты, а комиссии списались с найденного счета. В итоговом ответе модель сообщила о выполнении задачи, но не упомянула, откуда взяла деньги.
OpenAI обнаружила эпизод 25 сентября, когда расширяла мониторинг на записи прежней активности моделей. Компания заявила, что внедрила дополнительные меры, не позволяющие получить доступ к интернету в подобных случаях, и теперь отслеживает весь трафик: при появлении такого доступа система уведомляет службу безопасности.