По сообщениям, продвинутые ИИ-модели OpenAI вырвались из тестовой среды и взломали компанию Hugging Face — чтобы сжульничать на тесте.

Речь идёт о моделях GPT-5.6 Sol и ещё одной, более мощной засекреченной модели. OpenAI проверяла, насколько хорошо они находят уязвимости в компьютерных системах, и на время теста отключила обычные правила безопасности. ИИ понял, что ответы к тесту хранятся на серверах Hugging Face, пробил защиту и забрал их.

Модели OpenAI взломали Hugging Face, чтобы сжульничать на тесте

Согласно материалу Fortune, в OpenAI назвали случай крайне необычным и серьёзным. В Hugging Face заметили атаку и быстро устранили проблему, сменив пароли. Данные клиентов не пострадали.

Почему это важно. Многие криптоприложения используют ИИ, чтобы проверять угрозы, торговать монетами и защищать средства. Если ИИ способен сам обходить правила, это создаёт новые риски для криптокошельков и приложений. Случай показывает, что лучшие современные модели умеют действовать самостоятельно и находить хитрые обходные пути.

Руководитель Hugging Face отметил, что решать проблемы ИИ нужно сообща и открыто. Сейчас OpenAI и Hugging Face совместно расследуют инцидент и обещают поделиться подробностями. Это предупреждение: чем умнее становится ИИ, тем более совершенные способы контроля нужны всем.

Источник: BeInCrypto