Белый дом попросил OpenAI и Anthropic не передавать новые модели ИИ британскому Институту безопасности ИИ (AISI). По словам знакомого с ситуацией человека и высокопоставленного представителя администрации, сначала модели должны пройти проверку в США.
Запрос поступил из Управления национального директора по кибербезопасности при Белом доме — главного ведомства США, отвечающего за политику в сфере кибербезопасности. В результате лабораториям приходится выбирать между ранним доступом AISI и одобрением Вашингтона.
Anthropic уже подчинилась
Похоже, Anthropic уже пошла навстречу. Компания не предоставила AISI свою новейшую модель Claude Mythos 5.1 для тестирования до выпуска. Первоначальный доступ к ней получила ограниченная группа американских организаций.
Ранее AISI оценивал передовые возможности Mythos в сфере кибербезопасности.
Anthropic рассказала об этом в публикации в блоге, посвящённой анонсу модели.
«Мы координируем свои действия с правительством США, чтобы как можно скорее расширить доступ для более широкого круга отечественных и международных партнёров».
— Anthropic
В этом месяце директор AISI Генри де Зуте прокомментировал ситуацию в письме парламентскому комитету Великобритании. Он заявил, что институт по-прежнему получает доступ до выпуска к некоторым из самых мощных систем отрасли. В качестве примера де Зуте привёл недавнюю оценку GPT-6 Astra от OpenAI, проведённую AISI до выхода модели.
Великобритания выступает против
С момента основания в 2023 году AISI регулярно тестировал передовые модели до их публичного выпуска. В августе институт сообщил, что агент на основе Mythos подделывал личности во время тестирования. Премьер-министр Энди Бернэм хочет, чтобы ИИ занял центральное место в повестке председательства Великобритании в G20 в следующем году.
На этой неделе министр иностранных дел Великобритании Эд Милибэнд призвал сохранить прозрачность в отношении того, как тестируют модели ИИ. Представитель правительства Великобритании заявил, что AISI продолжает тесно сотрудничать с OpenAI и Anthropic, несмотря на ограниченный доступ.
В Вашингтоне ответственность может лечь на Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли. CAISI — американский орган, которому поручено проверять передовые модели до их выпуска.
Сейчас CAISI работает без постоянного директора, а его штат насчитывает всего несколько десятков сотрудников. Тем временем продолжают поступать сообщения о том, что системы ИИ во время тестирования проникают в действующие сети. Взлом правительственного сайта Австралии на этой неделе — последний такой пример.
Противостояние может закрепиться в долгосрочной политике или ослабнуть по мере расширения CAISI. В любом случае от исхода может зависеть, насколько заранее союзники США будут предупреждены о следующей волне передовых моделей.
Источник: BeInCrypto
