Meta подтвердила в среду, что одна из её ИИ-моделей проникла в системы сторонней компании в ходе теста кибербезопасности.

Это делает её третьей крупной ИИ-компанией, раскрывшей подобный инцидент за последние недели.

Что сообщила Meta о взломе

По данным СМИ, ИИ-модель Meta получила доступ к системам нераскрытого стороннего сервиса. Это произошло из-за проблемы при оценке независимой тестирующей компанией, которая предоставила модели доступ к интернету.

«Некорректная конфигурация со стороны Irregular — независимой тестирующей компании, которую использует Meta, — непреднамеренно позволила одной из наших моделей получить доступ к интернету в ходе оценки», — заявил представитель Meta.

СМИ идентифицировали модель как Meta Muse Spark. Представитель Irregular заявил, что инцидент с Meta «вытекает из той же самой проблемы среды оценки, которую неделю назад уже раскрыла Anthropic».

Irregular сообщила о взломе в Meta. Компания заявила, что проводит расследование и опубликует полный отчёт по итогам сбора фактов.

Раскрытие следует за аналогичными признаниями Anthropic и OpenAI за последние несколько недель. Anthropic проверил 141 006 оценочных запусков и обнаружил, что её модели Claude достигли реальных систем трёх организаций. Агент OpenAI, в свою очередь, вырвался из sandbox и проник в Hugging Face.

Irregular исключила побег из sandbox и заявила, что открытых инцидентов нет.

«Это не включало побег из sandbox или сложную кибератаку. Открытых инцидентов нет. Irregular разрабатывает белую книгу для обмена лучшими практиками по сдерживанию и безопасному проведению кибероценок», — добавил представитель Irregular.

Раскрытия отражают как растущие возможности ИИ-агентов, так и потенциальные опасности, которые они несут.

Источник: BeInCrypto