В понедельник NVIDIA запустила Open Secure AI Alliance с 36 партнёрами, включая Microsoft, IBM и Palantir. Это произошло после июльской атаки, в ходе которой закрытые модели ИИ отказались помочь Hugging Face расследовать собственный взлом.

Участники будут делиться открытыми моделями ИИ, данными и инструментами безопасности. NVIDIA заявляет, что защитникам нужен ИИ, который они могут открывать, изменять и запускать самостоятельно.

Почему закрытые модели ИИ подвели Hugging Face

Атака началась с отравленного набора данных. Согласно раскрытию Hugging Face, это позволило злоумышленнику запустить код на одной из машин компании.

Оттуда злоумышленник похитил пароли. Затем он распространился по внутренним системам за выходные.

Собственный ИИ Hugging Face обнаружил проникновение. Самой сложной частью оказалась ликвидация последствий.

Компания попросила ведущие коммерческие модели ИИ изучить атаку. Они отказались. Их фильтры безопасности не смогли отличить защитника от хакера.

Поэтому команда вместо этого использовала открытую модель под названием GLM 5.2. Они запустили её на собственных компьютерах. Она разобрала более 17 000 действий злоумышленника за часы, а не дни. Ни один пароль не покинул пределы компании.

16 июля Hugging Face заявила, что не знает, какой ИИ провёл атаку. Пять дней спустя ответ предоставила OpenAI. Это сделали две её модели во время теста безопасности с отключёнными ограничениями.

«Этот инцидент, возможно, первый в своём роде, доказывает то, во что мы давно верим: безопасность ИИ не будет обеспечена ни одной компанией, работающей в тайне. Она будет обеспечена открыто, совместно, с широким доступом к ИИ для каждого защитника повсюду», — Клем Деланг, сооснователь и генеральный директор Hugging Face, в заявлении, опубликованном OpenAI.

Подписывайтесь на нас в X, чтобы получать последние новости по мере их появления

От взлома до альянса за 11 дней

NVIDIA действовала быстро. Она прошла путь от единичного инцидента до отраслевого блока менее чем за две недели.

Какие компании присоединились к Open Secure AI Alliance

В группу входит в общей сложности 37 компаний. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI и Hugging Face — все присоединились.

Трёх крупных имён не хватает. OpenAI, Anthropic и Google отсутствуют в списке в блоге NVIDIA. При этом в июне и OpenAI, и Anthropic присоединились к инициативе по безопасности Akrites от Linux Foundation вместе с NVIDIA.

Некоторые участники привносят уже готовые инструменты. Hugging Face предложила PyTorch Foundation формат Safetensors — более безопасный способ хранения моделей ИИ. NVIDIA выпустила на GitHub исследовательский инструмент под названием NOOA.

Ведущий CNBC Джим Крамер расценил этот запуск как свежую историю для акций.

В пятницу NVDA закрылась на отметке $206,84, снизившись на 0,92%. На ранних премаркет-торгах в понедельник она торговалась около $208,55, прибавив 1,33%.

Почему NVIDIA лоббирует в Вашингтоне открытый ИИ

Альянс несёт и политическое послание. NVIDIA утверждает, что широкий запрет на открытый ИИ ослабит защитников. Он также передаст контроль нескольким крупным закрытым компаниям.

NVIDIA и ещё 24 компании подписали письмо об открытых весах 24 июля. OpenAI, Anthropic и Google при запуске отказались. С тех пор подписантов стало больше.

Вашингтон рассматривает ограничения в отношении китайских моделей. Чиновники ссылаются на соображения безопасности и интеллектуальной собственности. Сооснователь Twitter Джек Дорси уже выступил с предупреждением об открытом ИИ.

За чем следить в ближайшие 30 дней

Три признака покажут, реален ли альянс.

• Присоединятся ли позже OpenAI, Anthropic или Google
• Выпустит ли группа общие инструменты, а не только заявления
• Продвинутся ли вашингтонские ограничения на открытый ИИ

NVIDIA отчитается о прибыли 26 августа. Ожидайте вопросов о том, как политика в области ИИ влияет на спрос.

Регуляторы решат, кто победит в этом споре.

Источник: BeInCrypto