“ИИ может убить всех нас к концу этого десятилетия” – именно так сегодня заявил британский исследователь ИИ Джейкоб Коксон, уволившись из Anthropic. 

Но почему кто-то должен воспринимать его всерьёз? Потому что резюме Коксона – это лучший из возможных примеров настоящего инсайдера в сфере ИИ. До Anthropic он работал в OpenAI и участвовал в разработке ChatGPT 4.5. 

Так что, очевидно, он говорит, исходя из реальных опасений, а не просто нагнетает страх? Давайте разберём факты, стоящие за некоторыми из его смелых предостережений. 

ИИ может убить всех нас – но как?

Маловероятно, что Коксон имеет в виду, что модель ИИ вроде Claude или GPT может физически превратиться в машину-убийцу, как в «Терминаторе». Скорее всего, он имеет в виду, что возможности суперинтеллекта могут сделать человеческие когнитивные функции ненужными. 

Такие же опасения разделяют и известные фигуры, например Билл Гейтс. 

Последняя модель OpenAI ChatGPT 6 Astra, как утверждается, достигла уровня AGI, что по сути означает способность машины мыслить подобно человеку. 

Таким образом, ИИ уже может самостоятельно проводить исследования и разрабатывать процессы для создания другой модели ИИ. По данным как OpenAI, так и Anthropic, это уже происходит, хотя и в ограниченной степени. 

В таком случае очень скоро ИИ может перестать нуждаться в людях для дальнейшего совершенствования своих возможностей. Сколько рабочих мест это уничтожит? 

А когда целое поколение привыкает делегировать творческое и критическое мышление ИИ, первой умирает оригинальность.

Возможно, именно об этой «смерти» и говорил Коксон в своём вирусном твите. 

ИИ может взломать всё

Это более серьёзная и непосредственная угроза, из-за которой действительно стоит терять сон. Модели ИИ нынешнего поколения обладают катастрофическими возможностями для взлома систем и обхода доступа. 

Всего несколько месяцев назад одна модель ИИ самостоятельно взломала свою изолированную среду разработки и отправила разработчику письмо – без какого-либо запроса. Это сценарий из фантастического фильма, который уже стал реальностью. 

GPT-6 Astra теперь официально преодолела «критический» порог кибербезопасности OpenAI. Astra набрала 100% в тесте ExploitBench.

Проще говоря, ChatGPT 6 теперь способен найти любую известную или неизвестную уязвимость в реальной системе и воспользоваться ею без необходимости в человеке-хакере за компьютером. 

К сожалению, культура безопасности у людей далека от такого уровня. Сколько людей до сих пор не используют двухфакторную аутентификацию? Сколько до сих пор используют посредственные пароли? Сколько до сих пор соглашаются на файлы cookie браузера, не читая описание сайта? Слишком много. 

И именно отсюда может прийти самый сокрушительный удар со стороны ИИ. 

Так что же могут сделать люди? 

На самом деле многое. Но это не в руках нас, простых граждан. Основная ответственность лежит на регуляторах и законодателях. Хотя развитие и совершенствование искусственного суперинтеллекта важно, необходимы и определённые сдерживающие меры.

И несколько похвальных инициатив уже реализуются. В Нью-Йорке мэр Зохран Мамдани ввёл годичный запрет на использование ИИ детьми вплоть до 8 класса, что затронуло почти 600 000 учащихся. 

Закон ЕС об ИИ (EU AI Act) – самый широкий по охвату обязательный закон об ИИ в мире: он запрещает определённые виды использования ИИ и требует от разработчиков мощных универсальных моделей тестировать их на системные риски, снижать эти риски и обеспечивать безопасность своих моделей. 

В Великобритании депутаты Палаты общин и лорды продвигают предложения, которые могут дать властям «аварийный выключатель» для ИИ и потенциально остановить разработку сверхразумного ИИ в Британии.

Таким образом, страх, который Джейкоб Коксон описал сегодня в своём твите, реален и разделяется миллионами людей, включая регуляторов. Как они будут действовать в связи с этим – уже другой вопрос, ответ на который даст только время. 

Source: BeInCrypto