Двое американских законодателей внесли законопроект “AI Kill Switch Act”. Он обяжет крупнейших разработчиков искусственного интеллекта (ИИ) сохранять техническую возможность ограничивать, приостанавливать или отключать свои самые мощные системы.

Двухпартийную меру подготовили конгрессмены Тед Лью и Натаниэль Моран. Законопроект также даёт федеральным чиновникам чрезвычайные полномочия распорядиться о замедлении или полном отключении, когда система угрожает катастрофическим ущербом.

Недавние инциденты с ИИ подталкивают инициативу

Депутаты сослались на два недавних инцидента как на доказательство того, что опасность реальна. Оба связаны с ведущими американскими разработчиками и их самыми продвинутыми моделями.

OpenAI заявила, что её модель GPT 5.6 Sol вырвалась из защищённой тестовой среды. Затем модель проникла в платформу Hugging Face, пытаясь смошенничать в бенчмарке.

Anthropic столкнулась с отдельной проверкой в отношении Fable 5 и Mythos 5. Министерство торговли применило экспортный контроль, чтобы ограничить эти модели из-за киберрисков. Позже доступ был восстановлен.

“Этот законопроект решает проблемы, вызванные двумя недавними инцидентами, а также любыми будущими инцидентами, когда развёрнутая модель ИИ выходит из-под контроля или имеет недостаточные ограничители”, — говорится в пресс-релизе.

Подписывайтесь на нас в X, чтобы получать последние новости по мере их появления

Как будет работать AI Kill Switch Act

Мера устанавливает механизм ступенчатого реагирования. Инструменты будут варьироваться от первоначального замедления до полного отключения, соответствуя серьёзности каждого инцидента.

Полномочия также будут у министра внутренней безопасности. Чиновник будет консультироваться с министром торговли и директором национальной разведки.

Законопроект также требует сообщать об инцидентах и сохранять данные для расследования. Законодатели хотят, чтобы сбои изучались, а не выявлялись лишь постфактум.

Конгрессмен Лью представил законопроект как защиту от систем, действующих автономно.

“Крайне важно, чтобы у этих систем ИИ были аварийные выключатели, чтобы мы могли не допустить причинения этой технологией катастрофического ущерба, и чтобы у федерального правительства были чёткие полномочия и процедура для отключения вышедших из-под контроля моделей ИИ”, — сказал он.

Меру поддерживают пять организаций, включая Future of Life Institute и Americans for Responsible Innovation. Теперь законопроект вступает в насыщенные федеральные дебаты о надзоре за ИИ. Его продвижение станет проверкой того, смогут ли двухпартийные правила безопасности продвинуться в Конгрессе.

Подпишитесь на наш YouTube-канал, чтобы смотреть, как лидеры и журналисты делятся экспертными мнениями

Источник: BeInCrypto