Американские законодатели отреагировали на увольнение исследователя Anthropic новой попыткой остановить развитие продвинутого искусственного интеллекта (ИИ), включая законопроект Сената о полном запрете суперинтеллекта.
Джейкоб Коксон уволился 9 сентября и заявил, что Anthropic и OpenAI рискуют человеческими жизнями.
Почему увольнение исследователя Anthropic дошло до Капитолийского холма
Более 20 законодателей ответили в этой ветке, большинство призывали к новому законодательству об ИИ. Сенатор Берни Сандерс заявил, что внесёт законопроект о запрете суперинтеллекта и приостановке развития ИИ.
BeInCrypto сообщил, что ранее в этом месяце Сандерс и конгрессмен Грег Касар предложили «Ban Artificial Superintelligence Act». Законопроект навсегда запретил бы разработку и развёртывание суперинтеллектуального ИИ. Он также приостановил бы разработку продвинутого ИИ до тех пор, пока федеральный регулятор не установит стандарты безопасности.
Тем временем Касар также назвал ситуацию чрезвычайной и попросил провести слушания в Конгрессе. Конгрессвумен Лори Трахан вновь обратила внимание законодателей на свой двухпартийный законопроект FRONTIER Act, внесённый в июле вместе с конгрессменом Джеем Обернольте.
«FRONTIER Act устанавливает многоуровневые требования в зависимости от масштаба разработчика передового ИИ, включая карточки моделей, системы управления рисками, независимые аудиты, отчётность об инцидентах и постоянные оценки. Он также создаёт единый национальный стандарт прозрачности, аудита и отчётности о катастрофических рисках, чтобы предотвратить лоскутное регулирование на уровне штатов», — говорится в заявлении.
Сенатор Крис Ван Холлен хочет введения обязательных гарантий безопасности и срочных переговоров с Китаем. Конгрессмен Тед Лью настаивал на том, чтобы руководство республиканцев продвинуло внесённый им в этом году законопроект об «аварийном выключателе» для ИИ.
Конгрессвумен-республиканка Анна Полина Луна отошла от партийной линии и потребовала созыва специальной сессии Конгресса по ИИ.
Подписывайтесь на нас в X, чтобы получать последние новости в режиме реального времени
Джейкоб Коксон утверждает, что лаборатории сами хотят регулирования
Между тем давление носит не только политический характер. Компании, работающие в сфере ИИ, также выступают за регулирование. Коксон рассказал CNN, что руководители, просящие Конгресс о регулировании, искренни. Однако, по его словам, ни один из них не доверяет конкурентам настолько, чтобы первым замедлить темп.
«Эти люди также совершенно искренни, когда просят, чтобы их регулировали… они оказываются в ситуации, когда вынуждены участвовать в гонке по созданию смертоносной технологии», — сказал он.
Отдельно Anthropic заявила в сентябрьском посте, что отрасли пошёл бы на пользу законный, поддающийся проверке механизм согласованного темпа развития.
С чего начинается риск вымирания
Темп имеет значение только из-за того, что, по мнению Коксона, произойдёт дальше. Он объяснил, что если ИИ поручить задачу исследований в области ИИ, он начинает совершенствовать сам себя.
Он указал на вторник, когда системы ИИ OpenAI, по сообщениям, решили проблему тысячелетия полностью автономно.
Самое пугающее, по его словам, — это тот же метод, направленный на сам ИИ. Модели совершенствуют модели без участия человека, и именно это Коксон называет «взрывом интеллекта».
«Сейчас риска вымирания нет. Худшее, на что способны нынешние модели, — это, пожалуй, что-то взломать, потенциально нанести немалый ущерб инфраструктуре… они недостаточно умны, чтобы перехитрить нас на уровне, который привёл бы к вымиранию», — сказал он.
Тем не менее Коксон предупредил, что та же самостоятельная воля в сочетании с намного большими возможностями может вызвать крайний хаос. Он назвал взлом критической инфраструктуры и создание биооружия, способного привести к вымиранию.
Подпишитесь на наш YouTube-канал, чтобы смотреть, как лидеры и журналисты делятся экспертными мнениями
Source: BeInCrypto
