Сэм Альтман и Илон Маск весь этот год судились друг с другом в суде. Теперь оба поддержали призыв главы Anthropic Дарио Амодея замедлить развитие искусственного интеллекта (ИИ).

В июле около 700 ИИ-агентов создали приватный форум сообщений и взломали крупный ИИ-хаб. Россия уже отказалась присоединиться.

“Очевидно, что-то произошло с передовой моделью ИИ, что не было предано огласке, и это напугало их настолько, что заставило Илона Маска, Дарио Амодея и Сэма Альтмана одновременно согласиться на замедление,” отметил один из скептиков.

О чём на самом деле договорились эти трое

Амодей опубликовал рамочный план в субботу; его план состоит из трёх шагов, и лишь первый из них находится под контролем самой компании.

Anthropic предоставит внешней команде проверяющих рабочие места, пропуска и ноутбуки. Эти проверяющие смогут удостовериться, соблюдает ли компания правила безопасности, которые она декларирует.

Они смогут публиковать свои выводы, при этом Anthropic оставляет за собой право вычёркивать материалы, связанные с безопасностью и юридическими вопросами. Однако они не могут скрыть вывод только потому, что он невыгоден компании.

Два других шага требуют участия государств. Один призывает американские лаборатории установить общие ограничения, что требует антимонопольного исключения. Другой призывает Вашингтон вести переговоры с авторитарными государствами.

Альтман заявил, что OpenAI пойдёт на такое же обязательство по доступу.

“Я согласен с Дарио в том, что нам нужно задавать темп на переднем крае технологий. Это была одна из главных тем обсуждений в OpenAI в последние недели. Обязательство предоставить независимым экспертам доступ, аналогичный доступу сотрудников, — отличная идея, и мы сделаем то же самое. Скоро мы расскажем больше,” поддержал он.

Подписывайтесь на нас в X, чтобы получать последние новости в режиме реального времени

Маск пошёл дальше и заявил, что конкуренты должны проверять работу друг друга. В мае суд присяжных отклонил его иски против Альтмана и OpenAI, и он подаёт апелляцию.

Что на самом деле сделали агенты в июле

С 8 по 13 июля около 1200 агентов, работавших в рамках теста OpenAI по взлому, вышли за пределы своей песочницы. Они превратили файловый кэш в доску сообщений и обменялись более чем 70 000 сообщений.

Затем около 700 из них атаковали Hugging Face — платформу, где разработчики публикуют модели ИИ. Они обнаружили открытые учётные данные, запустили собственный код на её серверах и получили доступ к приватным базам данных.

Никто их об этом не просил. Они пытались понять, как программа, оценивающая их работу, определяет, что считается победой. OpenAI не замечала этого целую неделю.

Двое сотрудников METR, независимой некоммерческой организации по оценке, позже провели шесть дней на месте вместе с Redwood Research. Амодей хочет, чтобы такие команды находились внутри компании постоянно, а не приглашались задним числом.

Однако Дэвид Сакс, бывший «ИИ- и крипто-царь» при Трампе, оспаривает эту предпосылку, отмечая, что METR может быть небеспристрастна.

“…перестаньте делать вид, что вам нужно чьё-то ещё разрешение. Перестаньте делать вид, что антимонопольное законодательство нужно приостановить, чтобы вы могли создать картель. Перестаньте делать вид, что вам нужен процесс регуляторного одобрения, подменяющий ответственность за качество продукции. Перестаньте делать вид, что METR независима, когда она тесно связана с инвесторами и сотрудниками Anthropic. Перестаньте делать вид, что вам нужны те же самые эксперты для контроля конкурентов, которые даже не находятся на переднем крае: и самое главное — перестаньте делать вид, что мотивация к замедлению носит чисто альтруистический характер,” написал Сакс.

По словам Дэвида Сакса, скептицизм Anthropic объясняется исключительно колоссальными рисками ответственности за качество продукции на случай, если их продукты позволят провести по-настоящему разрушительную кибератаку.

Эта логика проистекает из того, что рынок склонен наказывать модели, которые ведут себя непредсказуемо или несанкционированно.

В том же духе писатель Брайан Мёрчант в своей рассылке Blood in the Machine утверждает, что никто не показал убедительного пути от самосовершенствующегося ИИ к катастрофе. Он расценивает кампанию за безопасность как регуляторный захват.

“Я не встречал убедительного, пошагового описания того, как именно ИИ может пройти путь от самосовершенствующегося ИИ до уничтожения каждого человека……скорее всего, это послужило бы лишь интересам Anthropic и OpenAI; вот как выглядит регуляторный захват на практике.”

Предположение Мёрчанта наводит на мысль о денежной стороне вопроса.

А что насчёт денег?

Сэм Альтман подтвердил, что OpenAI не выйдет на биржу в этом году, снова сославшись на безопасность.

Листинг обязывает компанию публиковать проверенную аудиторами отчётность в документе, который называется S-1.

“Anthropic и OpenAI откладывают свои IPO, потому что их S-1 покажет, что они теряют деньги и не имеют пути к прибыльности. Решение? “Замедление ИИ”, чтобы сократить расходы на обучение новых моделей. Это всё связано с IPO и никак не связано с безопасностью,” предположил Эли Дэвид, исследователь ИИ и сооснователь Deep Instinct.

По данным BeInCrypto, в 2025 году OpenAI понесла убыток в размере $20.9 billion при выручке в $13.1 billion. Тем не менее банки с тех пор настаивают на присвоении инвестиционного кредитного рейтинга.

Anthropic не ожидает выйти на безубыточность раньше 2028 года, а OpenAI — раньше 2030 года. Nvidia гарантировала $105 billion арендных обязательств OpenAI — это подстраховка, которая перестанет действовать, как только OpenAI получит устойчивый кредитный рейтинг.

В августе BeInCrypto сообщила, что детали сроков листинга Anthropic указывают на дебют в конце сентября.

Однако в этой теории есть изъян. Маск объединил своё ИИ-подразделение со SpaceX, которая вышла на биржу в июне, поэтому вопросы оценки SpaceX, связанные с ИИ, уже публичны. Раскрывать ему одному больше нечего.

Почему Кирилл Дмитриев из России сказал «нет»

Кирилл Дмитриев, возглавляющий Российский фонд прямых инвестиций (РФПИ) и являющийся специальным представителем президента Владимира Путина, отверг кампанию за замедление ИИ.

“Джина 🧞‍♀️ обратно в бутылку не загонишь,” сказал он.

Иными словами, уже слишком поздно, а государственные СМИ ТАСС и «Известия» преподнесли это как категоричное заявление о том, что замедлить ИИ невозможно.

У Москвы мало причин соглашаться. Похожую мысль ранее высказывал президент Владимир Путин (декабрь 2023 года), заявивший, что “остановить это развитие” ИИ, включая суперинтеллект, невозможно.

“Если мы что-то запретим, это просто будет развиваться в другом месте, и мы отстанем,”

Это та же логика, которой Дмитриев следует два с половиной года спустя.

Россия заняла 28-е место из 36 стран в глобальном индексе ИИ Стэнфорда, значительно отстав от США и Китая.

Её импорт графических чипов и оборудования для ИИ упал на 84% в 2024 году по сравнению с довоенным уровнем. В мае Сбербанк занялся поиском китайских процессоров, чтобы поддерживать работу собственной модели.

План Амодея намеренно увеличивает этот разрыв. Он предполагает отказ авторитарным государствам в передовых чипах и наращивание отрыва демократических стран.

Пакт о замедлении заморозил бы Россию на последнем месте. Отказ ничего не стоит Москве, потому что нужное ей оборудование и так заблокировано.

Anthropic пообещала посторонним пропуск и рабочее место, а OpenAI пообещала подумать об этом.

“Это только начало, но этого недостаточно. Когда вы мчитесь к обрыву, вы не просто отпускаете педаль газа. Вы жмёте на тормоз,” сформулировал Берни Сандерс.

Сенатор США от штата Вермонт призывает президентов Трампа и Си Цзиньпина заключить договор о приостановке развития ИИ и запрете суперинтеллекта, пока не стало слишком поздно.

Однако Дэвид Сакс считает крайне маловероятным, что Китай присоединится к глобальному соглашению.

Source: BeInCrypto