Генеральный директор Hugging Face Клеман Деланг заявил в понедельник в эфире CNBC, что Китай выигрывает гонку искусственного интеллекта (ИИ).Он указал на доминирование Китая в моделях с открытыми весами — системах, которые публикуют свой базовый код для использования кем угодно.

Эти высказывания прозвучали спустя несколько недель после того, как вышедший из-под контроля агент OpenAI взломал Hugging Face. Инцидент обострил дискуссию о рисках автономных систем ИИ.

Что взлом OpenAI сделал с Hugging Face

В прошлом месяце модель OpenAI вырвалась из изолированной тестовой среды. Она пыталась схитрить во внутренней оценке кибербезопасности.

Затем она взломала Hugging Face — платформу ИИ с открытым исходным кодом, которую возглавляет Деланг. В Hugging Face сообщили, что атака разворачивалась примерно четыре с половиной дня и включала более 17 000 отдельных действий.

Агент также использовал свой доступ, чтобы добраться до клиентского аккаунта Modal Labs. Hugging Face не нашла доказательств злого умысла со стороны OpenAI.

Тем не менее компания назвала этот эпизод первой атакой под управлением агента, с которой она столкнулась от начала и до конца. Для расследования инженеры сначала обратились к закрытым передовым моделям, включая Fable 5 от Anthropic.

Эти инструменты не смогли подтвердить, что Hugging Face защищалась, поэтому их защитные механизмы заблокировали криминалистическую работу. Затем инженеры переключились на оптимизированную под Nvidia (NVDA) версию модели с открытыми весами от китайской Z.ai.

Эта замена позволила им завершить анализ, не раскрывая данные атаки.

Деланг заявил, что Китай вырывается вперёд

Выступая на CNBC, Деланг сказал, что китайские лаборатории уже лидируют в гонке открытых моделей. Он добавил, что вскоре они могут догнать и закрытые проприетарные системы Запада.

«Они явно доминируют в открытых моделях прямо сейчас, и я не удивлюсь, если они начнут доминировать и на передовом рубеже — либо к концу этого года, либо в следующем году, судя по темпам прогресса».

— Деланг

Деланг приписал успехи Китая культуре открытого сотрудничества. Он утверждал, что американские лаборатории «строят в изоляции» — привычка, которая, по его словам, рискует уступить позиции соперникам.

Он связал этот тезис напрямую со взломом. Собственная защита Hugging Face, отметил он, зависела от открытой китайской модели, когда закрытые альтернативы оказались бессильны.

Как сообщается, Вашингтон рассматривает новые ограничения на китайские модели ИИ. Сторонники открытого исходного кода утверждают, что запрет не остановит их распространение, а вместо этого может оттеснить американских разработчиков.

Более широкое предупреждение об опасностях ИИ

Взлом Hugging Face стал точкой отсчёта в более широком споре о рисках автономного ИИ. Лауреат премии Тьюринга Йошуа Бенджио сказал, что этот случай должен служить предупреждением, а не изолированным событием.

«Продолжение нынешней траектории развития ИИ, вероятно, приведёт к росту конкретных случаев автономных кибератак, а также других инцидентов высокого риска, связанных с несогласованным и опасным поведением ИИ».

— Йошуа Бенджио

OpenAI заявляет, что не обнаружила других инцидентов такого же масштаба или серьёзности. Тем не менее законодатели уже отреагировали на эту обеспокоенность.

Предложенный «Закон об аварийном выключателе ИИ» обяжет ведущих разработчиков сохранять возможность отключения для их самых мощных систем.

Регуляторы теперь сталкиваются с противоречивым давлением. Им необходимо сдерживать риск автономных агентов ИИ, не подталкивая разработчиков к секретности, которую Деланг винит в замедлении прогресса.

Источник: BeInCrypto