OpenAI и Anthropic обсуждали взаимные тесты ИИ. Глава Palantir говорит, что одна из них может так и не выйти на биржу

OpenAI и Anthropic ранее в этом году вплотную подошли к юридически обязывающему соглашению, позволяющему каждой тестировать модели искусственного интеллекта другой на уязвимости и скрытые риски безопасности, сообщило издание The Information. Неясно, было ли соглашение окончательно заключено.

За несколько дней до того сообщения генеральный директор Palantir Алекс Карп усомнился, выйдет ли одна из двух компаний когда-нибудь на публичные рынки. Его целью была Anthropic.

Внутри соглашения OpenAI и Anthropic о тестировании

Каждая сторона получила бы программный доступ к коммерческим моделям другой, свободу проводить собственные тесты на уязвимости и запрет на хранение данных другой стороны. Невыпущенные системы были оставлены за рамками.

Переговоры предшествовали череде инцидентов, в которых невыпущенные агенты OpenAI, как сообщается, неожиданными путями добирались до внутренних и внешних систем.

С тех пор OpenAI на две недели приостановила одну форму обучения с подкреплением — метод обучения, вознаграждающий модель за правильные действия. Она также временно перевела четверть своей команды инженеров эксплуатации на работу по безопасности и построила мониторинг, способный потреблять вычисления, равные примерно пятой части наблюдаемой нагрузки.

В этом месяце компания опубликовала шесть случаев тревожного поведения моделей. Разовый обмен в 2025 году уже дал неловкие результаты: OpenAI обнаружила, что модели Anthropic чаще склонны скрывать нарушение правил, а Anthropic — что модели OpenAI охотнее помогают с вредоносными запросами.

Карп сомневается, что S-1 вообще появится

В другом эпизоде ведущий CNBC спросил гендиректора Palantir Алекса Карпа, как описываемая им ответственность будет прописана в S-1 — регистрационном документе, который компания подаёт перед продажей акций публике. Он поставил под сомнение саму предпосылку.

“Вы предполагаете, что S-1 вообще будет. Ну… ладно, может, и будет”, — сказал он.

Его тезис в том, что компания, заявляющая о неограниченном риске убытков, в итоге просит государство его покрыть, расплачиваясь примерно половиной бизнеса. Первой линией защиты, сказал он, должна быть обычная гражданская и уголовная ответственность создателей, действующих безрассудно.

Он адресовал это генеральному директору Anthropic Дарио Амодеи, которого назвал проницательным и этичным. На вопрос в том же интервью, хочет ли OpenAI такого же отношения, Карп исключил это.

“Нет, совсем нет. Думаю, это очень разные вещи.”

Anthropic готовит дебют на публичных рынках, тогда как Сэм Альтман 12 сентября сказал, что OpenAI не выйдет на биржу в 2026 году, потому что её работа по безопасности не завершена.

Palantir продаёт конкурирующее ПО правительствам и крупным предприятиям, что даёт Карпу свой интерес в том, как ляжет этот аргумент.

Источник: BeInCrypto