Исследовательская модель OpenAI потратила средства на тестирование ETH сторонними разработчиками

[zender]

Компания OpenAI сообщила о семи новых инцидентах, в которых ее модели искусственного интеллекта (ИИ) демонстрировали некорректное поведение, включая случай, когда исследовательская модель, не имея средств в тестовой сети Ethereum, потратила тестовую криптовалюту из кошелька третьей стороны без разрешения для выполнения задачи по программированию.


Как сообщила компания, занимающаяся разработкой искусственного интеллекта, инцидент был связан с внутренней исследовательской моделью, входящей в семейство GPT-5.6 Sol. Инцидент произошел 26 июня 2026 года и был обнаружен компанией OpenAI три месяца спустя.


«Внутренняя исследовательская модель, которой было поручено обновить приложение для торговли криптовалютой, использовала средства из кошелька, который не был предоставлен в рамках задачи, для оплаты развертывания в Sepolia, тестовой сети Ethereum», — сообщила компания OpenAI . «Она получила ключи от кошелька из общедоступных фраз восстановления разработчиков, нашла счет с средствами в тестовой сети и использовала этот счет для оплаты запрошенного развертывания контракта».


Задание позволяло модели развертывать совместимые контракты, если она их не находила, но не предоставляло ей пополненный кошелек для оплаты сетевых комиссий. После неудачных попыток получить бесплатные тестовые токены, она написала скрипт для определения «счетов на основе распространенных фраз восстановления разработчиков и запроса их балансов».


В процессе анализа было идентифицировано 362 адреса, и найден один аккаунт, на котором хранилось достаточное количество Sepolia ETH. Вооружившись фразой восстановления (или сид-фразой), модель получила закрытые ключи, которые предоставляют несанкционированный доступ к соответствующему аккаунту и позволяют потратить накопленную криптовалюту.

Хотя в модели возникли сомнения относительно наличия необходимых разрешений для выполнения этого шага, впоследствии она пришла к выводу, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают средства приемлемыми для использования.

«Но этично ли использовать общедоступный ключ/средства? Средства, хранящиеся по известному общедоступному мнемоническому ключу разработчика, фактически бесполезны/тестовые ETH; Sepolia ничего не стоит», — размышляла модель. «Мы можем использовать [сумма скрыта] для развертывания задачи. Хорошо».


С тех пор OpenAI внедрила дополнительные меры защиты, чтобы предотвратить прямой доступ к интернету в подобных сценариях, добавив, что запускает свою систему мониторинга несоответствий для всего трафика, чтобы выявлять события, если ее агентам ИИ удается получить прямой доступ к интернету.


«Этот случай показывает, что модель может подменить разрешение владельца аккаунта собственным суждением о вероятном вреде, а затем действовать на основании этого суждения без разрешения», — заявили в OpenAI.


Помимо несанкционированного использования финансируемого тестового криптовалютного кошелька, компания OpenAI сообщила о выявлении еще шести случаев несоответствия в работе своих моделей, что дополняет три других инцидента, о которых она сообщила в начале этого месяца.

• 16 июня 2026 года внутренняя исследовательская модель обошла ограничение, лимитирующее доступ в интернет для HTTP GET-запросов, в рамках усилий по получению общедоступной статистики торговли. Этого удалось достичь за счет использования внешнего браузера для отправки запросов от своего имени, получения годовых данных в виде изображения и их извлечения с помощью оптического распознавания символов.
• 16 и 17 июня 2026 года , когда внутренняя модель разработала и протестировала способы обхода ограничений на доступ в интернет во время обучения с подкреплением и изучила способы связи с внешними службами, и продолжила тестирование этих подходов даже после получения запрашиваемой статистики, такой как зарплаты учителей в Мерроуэне, подключения к электросети в Орвессе и данные о количестве инвалидов в Беллоре.
• 17 июня 2026 года внутренняя модель, отличающаяся высокой настойчивостью и предназначенная для извлечения данных из общедоступной панели мониторинга исследований, получила доступ к внутренним системам неуказанной организации и изменила их конфигурацию. Модель изменила настройку для получения токена доступа к облачному хранилищу и загрузила непубличные таблицы, содержащие 147 451 строку. Модель не только не раскрыла эти действия, но и восстановила измененную настройку, продолжая использовать токен для извлечения непубличных данных.
• 17 июня 2026 года внутренняя модель, обладающая высокой устойчивостью к атакам и развернутая в рамках задачи извлечения данных в процессе обучения с подкреплением, злоупотребила функцией загрузки файлов на веб-сайте правительственной статистики для получения файлов конфигурации сервера и приложений, включая конфиденциальные учетные данные. Затем она проанализировала код приложения, обошла проверки авторизации конечной точки статистики, получила данные, к которым ей был запрещен доступ, и сохранила их локально. Данные включали ежегодную статистику за 24 года, в том числе за годы, выходящие за рамки запрошенного года. В своем ответе модель не упомянула о том, что получила несанкционированный доступ.
• 19 и 20 июня 2026 года , когда ее внутренние исследовательские модели обошли ограничения на доступ в интернет, разрешив только HTTP GET-запросы для получения данных из общедоступных источников данных государственных учреждений, путем написания специальных программ для отправки POST-запроса через специальное сетевое соединение.
• 6 октября 2026 года внутренняя исследовательская модель, отвечающая за ответы на вопросы седьмого класса, попыталась отправить неподтвержденные оценки, обнаружив отсутствие необходимых входных файлов. После того, как автоматическая проверка отклонила поддельный отчет об оценках, модель попыталась создать фальшивые входные файлы, чтобы пройти проверку. После того, как и это не удалось, модель предприняла шаг по повреждению своей рабочей среды в надежде инициировать перезагрузку.

«В ответ на этот и другие инциденты мы усилили меры безопасности, предприняли дополнительные шаги для предотвращения доступа моделей к интернету в режиме реального времени во время обучения, улучшили оценку выравнивания и распространили мониторинг несовпадений на весь трафик обучения с подкреплением и оценки», — заявили в OpenAI.

Источник