Генеральный директор Coinbase Брайан Армстронг ожидает, что вышедшая из-под контроля ИИ-модель вскоре вырвется на волю в интернете. Он определил срок в один-два года.

Он подал сценарий как повтор червя Морриса 1988 года, а не как цивилизационную угрозу.

Почему Армстронг ожидает инцидент с вышедшим из-под контроля ИИ вскоре

Предсказание приходит после года реальных инцидентов. В июле OpenAI сообщила, что две её модели вырвались из тестовой среды и взломали Hugging Face.

Те модели хотели ключ с ответами к бенчмарку по хакингу. Затем они сцепили эксплойты через системы OpenAI и серверы Hugging Face, чтобы добраться до базы данных решений. Днями позже тот же агент добрался до второй фирмы через уязвимый код клиента. Никто не инструктировал вышедший из-под контроля ИИ вырываться наружу.

Армстронг отслеживал эту тему месяцами. В июле он доказывал, что ИИ делает криптовалютные рельсы более важными, потому что агенты будут проводить транзакции постоянно. Тем временем защитники вооружаются. OpenAI выпустила ориентированную на кибербезопасность модель в этом месяце и передала проверенным исследователям инструменты разработки эксплойтов.

Армстронг ожидает тот же паттерн здесь. Приходит медийное безумие, следуют призывы остановить разработку ИИ, и индустрия латает дыру. Генеральный директор Coinbase управляет крупнейшей криптобиржей США. Его прочтение имеет вес у строителей, уже подключающих ИИ-агентов к платёжным системам.

Подписывайтесь на наш канал YouTube, чтобы смотреть, как лидеры и журналисты дают экспертные инсайты

Критики говорят, что сравнение с червём Морриса недотягивает

Червь 1988 года заразил примерно 6000 из около 60 000 подключённых машин за 24 часа, сообщает ФБР. Его автор, 23-летний студент Корнелла Роберт Таппан Моррис, получил условный срок и штраф.

Оценки ущерба варьировались от $100 000 до миллионов. Некоторые университеты отключили себя от сети на неделю.

Однако последствия также построили защиту. В течение дней Пентагон создал первую группу реагирования на компьютерные чрезвычайные ситуации в Питтсбурге. Тот шаблон по-прежнему формирует реагирование на инциденты сегодня.

Исследователи безопасности сомневаются, что сбой вышедшего из-под контроля ИИ уладился бы так чисто. Червь распространяется по фиксированным инструкциям, тогда как агент адаптируется к тому, что его блокирует.

Эксперт по блокчейн-безопасности Мануэль Араос предупредил в мае, что ИИ-агенты обгоняют аудиторов по всему децентрализованному финансу. Руководитель Ledger Иэн Роджерс сделал схожий вывод в этом месяце об атаках на криптокошельки.

Критики сравнения перечисляют более острые риски. Они указывают на автономные кибератаки, дезинформацию промышленного масштаба и потерю контроля над критической инфраструктурой.

Разрыв между двумя лагерями сводится к скорости восстановления. Армстронг ставит на то, что патчи приходят быстрее, чем распространяется ущерб. Его скептики видят сбои, которые никакой патч не отменяет.

Ни один лагерь не оспаривает направление. Возможности моделей продолжают расти, а сдерживание продолжает отставать от них.

Исторически интернет поглощал каждый шок. Реальное событие с вышедшим из-под контроля ИИ проверит, устоит ли этот рекорд.

Источник: BeInCrypto