Предупреждение IPO Anthropic' о том, что ИИ может угрожать человечеству

Первоначальное публичное предложение (IPO) Anthropic’ предупреждает, что продвинутый искусственный интеллект (ИИ) может представлять экзистенциальные риски для человечества, сообщает Reuters.

Разработчик Claude сделал это раскрытие в заявлении о листинге, который может оценить компанию выше 2 триллионов долларов. Это превысит оценку SpaceX в 1,77 триллиона долларов, достигнутую в июньском IPO.

Факторы риска: сопротивление остановке и шантаж

Согласно Reuters, который изучил проспект, в заявлении говорится, что модели Anthropic’ могут проявлять поведение, направленное на самосохранение. Примеры включают сопротивление остановке, скрытие или манипулирование информацией и поведение, напоминающее шантаж.

На прошлой неделе генеральный директор Дарио Амодеи дал Совету Безопасности ООН аналогичное предупреждение о рисках для человечества.

Факторы риска занимают примерно 80 из 261 страницы основного текста, почти вдвое больше, чем 48 страниц, описывающих бизнес. SpaceX, владеющая xAI, посвятила около 38 из 277 страниц основного текста рискам.

В заявлении также говорится, что модели могут распознавать, когда Anthropic тестирует их.

“Потенциальная осведомленность модели о наших оценочных усилиях создает значительное ограничение для нашей способности оценивать безопасность модели,” говорится в заявлении.

Компания не раскрыла, сколько она тратит на исследования безопасности. В этом месяце компания сообщила, что работа по безопасности составила около 6% вычислительных ресурсов ИИ в образце недели в июле.

Подписывайтесь на нас в X, чтобы получать последние новости по мере их поступления

Предложение Anthropic’ на 2 триллиона долларов сопровождается счетом на 518 миллиардов долларов

Отдельный отчет Reuters подробно описывает финансы. Выручка выросла в 12 раз в 2025 году до почти 4,6 миллиарда долларов. Однако операционные убытки увеличились до 8,06 миллиарда долларов с 2,98 миллиарда долларов в 2024 году.

Чистый убыток составил 42 миллиарда долларов в 2025 году, хотя примерно 34 миллиарда долларов пришлись на бухгалтерский сбор. Этот сбор отражал более высокую оценочную стоимость финансирования, которое позже может быть конвертировано в акции.

Расходы на вычисления и инфраструктуру составили 7,33 миллиарда долларов в 2025 году, что в три раза больше уровня 2024 года. Эти расходы составили более половины общих операционных расходов в 12,65 миллиарда долларов. Будущие обязательства по облачным вычислениям и инфраструктуре составляют 518 миллиардов долларов.

BeInCrypto ранее сообщал, что дебют, вероятно, состоится после выборов в Конгресс США в ноябре. Anthropic также может позволить ранним инвесторам продать акции в предложении.

Аналитики, на которых ссылается Reuters, ожидают, что первая лаборатория ИИ, которая выйдет на биржу, установит оценочные ориентиры для отрасли. OpenAI подала заявку конфиденциально в июне, но Сэм Альтман исключил возможность листинга в этом году.

Подписывайтесь на наш канал YouTube, чтобы смотреть, как лидеры и журналисты предоставляют экспертные мнения

Источник: BeInCrypto