Министр иностранных дел Великобритании Иветт Купер предупредила, что мир не может ждать эквивалента Хиросимы в сфере ИИ, прежде чем начать действовать, и призвала мировые державы выработать общие принципы и стандарты безопасности искусственного интеллекта.

Купер изложила свою позицию в эссе, позиционируя Британию как страну, способную возглавить международные переговоры об этой технологии.

Почему Купер вспоминает Хиросиму

Она утверждает, что правила ядерной безопасности появились лишь после того, как мир увидел разрушительную мощь атомной бомбы. По словам министра, правительства не могут повторить эту ошибку с искусственным интеллектом.

Безопасность ИИ Купер называет главным вызовом безопасности следующего десятилетия.

«Мы не можем позволить себе ждать эквивалента Хиросимы в сфере ИИ, прежде чем начнём действовать», — заявила она.

Кроме того, Купер отметила, что Британия занимает третье место среди развитых стран в области ИИ — после США и Китая — и назвала её одним из ведущих голосов в вопросах безопасности этой технологии.

Она хочет задействовать эту способность собирать переговорщиков за одним столом, чтобы привлечь США, Китай и другие крупные ИИ-державы и «выработать консенсус по принципам и стандартам безопасности уже сегодня».

Предупреждения о киберугрозах ИИ множатся

Эссе Купер следует за волной предупреждений от силовых и финансовых ведомств. В прошлом месяце разведывательный альянс «Пять глаз» выпустил совместное предупреждение об ИИ. Группа, объединяющая США, Великобританию, Канаду, Австралию и Новую Зеландию, заявила, что передовой ИИ изменит наступательные и оборонительные киберспособности в течение месяцев, а не лет.

Заместитель управляющего Банка Англии Сара Бриден 30 июня повторила ту же мысль о срочности. На форуме ЕЦБ она сказала, что ИИ стремительно меняет финансы, а задача состоит в том, чтобы «следующий сюрприз не стал испытанием для финансовой стабильности».

Бриден отметила, что торговые фирмы пока в основном ограничивают агентный ИИ задачами низкого риска — например, исследованиями. Но она предупредила, что ситуация может измениться быстро: если множество ИИ-агентов одинаково отреагируют на идентичные запросы, они способны усилить волатильность в момент рыночного стресса.

«В руках защитников эти инструменты укрепляют киберустойчивость. Но в злонамеренных руках они существенно повышают вероятность атак, способных навредить финансовой стабильности», — пояснила она.

Предупреждения сходятся в одном: ИИ развивается быстрее, чем правила, призванные его регулировать, и чиновники говорят, что этот разрыв нужно закрывать.

Источник: BeInCrypto