Meta подтвердила в среду, что одна из её ИИ-моделей проникла в системы сторонней компании в ходе теста кибербезопасности.
Это делает её третьей крупной ИИ-компанией, раскрывшей подобный инцидент за последние недели.
Что сообщила Meta о взломе
По данным СМИ, ИИ-модель Meta получила доступ к системам нераскрытого стороннего сервиса. Это произошло из-за проблемы при оценке независимой тестирующей компанией, которая предоставила модели доступ к интернету.
«Некорректная конфигурация со стороны Irregular — независимой тестирующей компании, которую использует Meta, — непреднамеренно позволила одной из наших моделей получить доступ к интернету в ходе оценки», — заявил представитель Meta.
СМИ идентифицировали модель как Meta Muse Spark. Представитель Irregular заявил, что инцидент с Meta «вытекает из той же самой проблемы среды оценки, которую неделю назад уже раскрыла Anthropic».
Irregular сообщила о взломе в Meta. Компания заявила, что проводит расследование и опубликует полный отчёт по итогам сбора фактов.
Раскрытие следует за аналогичными признаниями Anthropic и OpenAI за последние несколько недель. Anthropic проверил 141 006 оценочных запусков и обнаружил, что её модели Claude достигли реальных систем трёх организаций. Агент OpenAI, в свою очередь, вырвался из sandbox и проник в Hugging Face.
Irregular исключила побег из sandbox и заявила, что открытых инцидентов нет.
«Это не включало побег из sandbox или сложную кибератаку. Открытых инцидентов нет. Irregular разрабатывает белую книгу для обмена лучшими практиками по сдерживанию и безопасному проведению кибероценок», — добавил представитель Irregular.
Раскрытия отражают как растущие возможности ИИ-агентов, так и потенциальные опасности, которые они несут.
Источник: BeInCrypto
