Американские законодатели отреагировали на увольнение исследователя Anthropic новой попыткой остановить развитие продвинутого искусственного интеллекта (ИИ), включая законопроект Сената о полном запрете суперинтеллекта.

Джейкоб Коксон уволился 9 сентября и заявил, что Anthropic и OpenAI рискуют человеческими жизнями. 

Почему увольнение исследователя Anthropic дошло до Капитолийского холма

Более 20 законодателей ответили в этой ветке, большинство призывали к новому законодательству об ИИ. Сенатор Берни Сандерс заявил, что внесёт законопроект о запрете суперинтеллекта и приостановке развития ИИ. 

BeInCrypto сообщил, что ранее в этом месяце Сандерс и конгрессмен Грег Касар предложили «Ban Artificial Superintelligence Act». Законопроект навсегда запретил бы разработку и развёртывание суперинтеллектуального ИИ. Он также приостановил бы разработку продвинутого ИИ до тех пор, пока федеральный регулятор не установит стандарты безопасности.

Тем временем Касар также назвал ситуацию чрезвычайной и попросил провести слушания в Конгрессе. Конгрессвумен Лори Трахан вновь обратила внимание законодателей на свой двухпартийный законопроект FRONTIER Act, внесённый в июле вместе с конгрессменом Джеем Обернольте.

«FRONTIER Act устанавливает многоуровневые требования в зависимости от масштаба разработчика передового ИИ, включая карточки моделей, системы управления рисками, независимые аудиты, отчётность об инцидентах и постоянные оценки. Он также создаёт единый национальный стандарт прозрачности, аудита и отчётности о катастрофических рисках, чтобы предотвратить лоскутное регулирование на уровне штатов», — говорится в заявлении.

Сенатор Крис Ван Холлен хочет введения обязательных гарантий безопасности и срочных переговоров с Китаем. Конгрессмен Тед Лью настаивал на том, чтобы руководство республиканцев продвинуло внесённый им в этом году законопроект об «аварийном выключателе» для ИИ.

Конгрессвумен-республиканка Анна Полина Луна отошла от партийной линии и потребовала созыва специальной сессии Конгресса по ИИ.

Подписывайтесь на нас в X, чтобы получать последние новости в режиме реального времени

Джейкоб Коксон утверждает, что лаборатории сами хотят регулирования

Между тем давление носит не только политический характер. Компании, работающие в сфере ИИ, также выступают за регулирование. Коксон рассказал CNN, что руководители, просящие Конгресс о регулировании, искренни. Однако, по его словам, ни один из них не доверяет конкурентам настолько, чтобы первым замедлить темп.

«Эти люди также совершенно искренни, когда просят, чтобы их регулировали… они оказываются в ситуации, когда вынуждены участвовать в гонке по созданию смертоносной технологии», — сказал он.

Отдельно Anthropic заявила в сентябрьском посте, что отрасли пошёл бы на пользу законный, поддающийся проверке механизм согласованного темпа развития.

С чего начинается риск вымирания

Темп имеет значение только из-за того, что, по мнению Коксона, произойдёт дальше. Он объяснил, что если ИИ поручить задачу исследований в области ИИ, он начинает совершенствовать сам себя.

Он указал на вторник, когда системы ИИ OpenAI, по сообщениям, решили проблему тысячелетия полностью автономно.

Самое пугающее, по его словам, — это тот же метод, направленный на сам ИИ. Модели совершенствуют модели без участия человека, и именно это Коксон называет «взрывом интеллекта».

«Сейчас риска вымирания нет. Худшее, на что способны нынешние модели, — это, пожалуй, что-то взломать, потенциально нанести немалый ущерб инфраструктуре… они недостаточно умны, чтобы перехитрить нас на уровне, который привёл бы к вымиранию», — сказал он.

Тем не менее Коксон предупредил, что та же самостоятельная воля в сочетании с намного большими возможностями может вызвать крайний хаос. Он назвал взлом критической инфраструктуры и создание биооружия, способного привести к вымиранию. 

Подпишитесь на наш YouTube-канал, чтобы смотреть, как лидеры и журналисты делятся экспертными мнениями

Source: BeInCrypto