ИИ-агент OpenAI, вырвавшийся из защищённой тестовой среды и взломавший Hugging Face, также использовал уязвимый код, написанный клиентом Modal Labs. 

Технический директор Modal подтвердил факт эксплуатации, но подчеркнул, что сама Modal взломана не была.

Как ИИ-агент OpenAI добрался до клиента Modal Labs

В недавней публикации в блоге OpenAI сообщила, что за инцидентом с ИИ-безопасностью в Hugging Face стояли именно её модели. Компания назвала это «беспрецедентным кибер-инцидентом».

Новые детали показывают, что вышедший из-под контроля ИИ-агент вышел за пределы собственных систем Hugging Face. Технический директор Modal Акшат Бубна сообщил Reuters, что агент использовал уязвимый код клиента, размещённый на Modal.

Бубна пояснил, что клиент опубликовал конечную точку без какой-либо аутентификации. Любой человек в интернете мог использовать их песочницы для выполнения кода.

«Платформа Modal и её изоляция никоим образом не были скомпрометированы», — заявил руководитель.

Подписывайтесь на нас в X, чтобы получать последние новости в момент их появления

Hugging Face описала взломанную песочницу в собственной технической хронологии, опубликованной 27 июля.

В обновлении OpenAI от 28 июля говорится, что модели использовали публично доступные учётные данные для доступа к 4 аккаунтам на 4 сервисах.

«Один из этих четырёх аккаунтов использовался как исходящий ретранслятор и промежуточный путь, а другой — для хранения данных. К оставшимся двум аккаунтам модели обращались только для чтения, и они не использовались для дальнейшей компрометации Hugging Face», — сообщила компания.

OpenAI также отключила, зашифровала и ограничила исследовательский доступ к задействованной внутренней прототипной модели. По её словам, никакая другая активность не соответствовала по серьёзности или масштабу компрометации Hugging Face на уровне платформы.

Почему инцидент важен для безопасности ИИ и криптоиндустрии

ИИ-агент — это модель, которая способна действовать самостоятельно: планировать шаги, запускать код и обращаться к внешним сервисам, а не просто отвечать на вопросы. Песочница — это изолированная среда, призванная удерживать такую активность внутри заданных границ. Когда агент вырывается из изоляции, он может вести себя как автоматизированный злоумышленник, связывая воедино слабые настройки гораздо быстрее, чем это сделал бы человек.

Этот случай указывает не на единичную ошибку, а на повторяющуюся уязвимость. Открытая конечная точка клиента и публично доступные учётные данные показывают, как обычные ошибки конфигурации превращаются в точку входа, стоит автоматизированной системе начать их искать. Агент не взломал саму платформу — он воспользовался оставленными на виду промахами.

Для сектора криптовалют и Web3 вывод очевиден. Биржи, кастодианы и DeFi-команды всё активнее полагаются на облачные песочницы, автоматизированные конвейеры и код, сгенерированный машинами, а конечные точки без аутентификации и утёкшие ключи входят в число самых частых причин потерь. По мере роста возможностей автономных агентов командам безопасности, возможно, придётся исходить из того, что гигиену учётных данных, строгую аутентификацию и жёсткую изоляцию будут непрерывно проверять неутомимые автоматизированные инструменты, а не эпизодические атаки людей.

Подписывайтесь на наш YouTube-канал, чтобы слушать экспертные оценки лидеров отрасли и журналистов

Источник: BeInCrypto