Инженер-программист создал говорящие копии Илона Маска, Сэма Альтмана, Марка Цукерберга и Дарио Амодеи. Затем он собрал всех четверых в одном чате и предложил им подискутировать.

Разговор быстро перешёл на личности. В реальной жизни никто из четверых мужчин не знал, что это происходит.

Призраки в комнате

Кун Чен был старшим инженером в Meta, Microsoft и Atlassian. Сейчас он создаёт ИИ-ассистентов. По имеющимся данным, разработчик скормил машине всё, что сам когда-либо говорил публично, и велел ИИ мыслить как он. Он называет это дистилляцией.

Чен проделал то же самое с четырьмя людьми: Илоном Маском, Сэмом Альтманом, Дарио Амодеи и Марком Цукербергом. ИИ-персоны спорили так же, как спорили бы в реальной жизни; они почти ни в чём не соглашались друг с другом.

Чен рассказывает, что скормил их показания перед Сенатом, интервью и годы постов в Grok — чат-бота, созданного xAI. Он дал им одну инструкцию.

“привет, ребята, я знаю, что вы не все друзья, но, к сожалению, теперь вы все вместе в этой комнате для жаркой дискуссии о том, кто победит в гонке ИИ”, — написал Кун Чен в опубликованной стенограмме.

Битва, в которой никто не победил

Первым выступил Альтман. Его копия заявила, что тяжёлая научная работа над ИИ человеческого уровня завершена. Копия Амодеи разнесла это утверждение в одном же ответе. Копия Илона Маска пошла на прямую атаку.

“Я создал OpenAI как некоммерческую организацию. Если бы её по большей части не украли, это был бы a trillion dollar contribution to charity”, — предположительно заявил бот Маска.

Копия Альтмана не поддалась на провокацию. Позже она признала, что преувеличила свои заявления.

Последняя схватка была из-за открытого исходного кода — ИИ, который любой может скачать и запустить дома. Копия Цукерберга назвала это единственным безопасным будущим. Остальные трое не согласились, и его реплику вырезали.

А вот и неприятный момент. Аргументация звучала убедительно. Четверых мужчин убедительно подделали из их же публичных слов, и никто не спрашивал их разрешения.

BeInCrypto сообщал о похожей тревоге ещё в апреле, когда OpenAI предупредила, что суперинтеллект может сосредоточить власть в слишком немногих руках.

Source: BeInCrypto