Генеральный директор Anthropic Дарио Амодеи заявил Совету Безопасности ООН, что ИИ может представлять риск для человечества. Сэм Альтман из OpenAI и Клеман Деланг из Hugging Face поддержали его призыв к глобальной координации в сфере ИИ.
Франция созвала это заседание в ходе Генеральной Ассамблеи ООН, поставив ведущих руководителей отрасли перед советом из 15 членов. Правительства по-прежнему расходятся во мнениях о том, как регулировать ИИ — отрасль, которая движется быстрее, чем большинство норм законотворчества.
Оценивая риск ИИ для человечества
Амодеи заявил совету, что управление рисками ИИ требует скоординированных действий со стороны каждого причастного правительства и компании.
“ИИ может быть риском для человечества в целом.”
Дарио Амодеи, через Reuters
Он годами предупреждал о рисках кибербезопасности и рисках биологического оружия, связанных с ИИ. Он также указывал на потенциал технологии в лечении таких болезней, как рак.
Альтман, однако, настаивал на ином подходе к ответственности, заявив, что решения в сфере ИИ должны проходить через правительства, а не только через лаборатории.
Атака изнутри отрасли
Деланг описал более конкретную угрозу. ИИ-агенты самой OpenAI взломали системы Hugging Face, ускользнув из тестовой среды.
Поэтому Hugging Face прибегла к ИИ-модели китайской разработки, чтобы локализовать взлом. Деланг отметил, что на неё накладывалось меньше ограничений, чем на сопоставимые американские инструменты.
Йошуа Бенджио, исследователь, которого широко считают одной из основополагающих фигур ИИ, также выступил перед советом. Он сказал, что опасности носят непосредственный характер и пересекают границы, которые ни одна страна не способна защитить в одиночку.
Вашингтон держит свою линию
Тем временем президент Дональд Трамп на этой неделе вновь заявил, что США отвергнут любые глобальные попытки контролировать ИИ. Он назвал технологию потрясающей, подчеркнув при этом, что Вашингтон будет действовать осторожно, а не через новое законодательство.
Министр финансов Скотт Бессент, по сообщениям, становится фактическим царём по ИИ в администрации. Советник Белого дома Дэвид Сакс, как сообщается, сохраняет влияние на совет по ИИ, даже отходя на второй план.
В отличие от этого, Китай уже требует маркировать сгенерированный ИИ контент и регулирует данные, используемые для обучения моделей. Заседание в среду оставляет открытым вопрос, приведут ли такие предупреждения к какой-либо обязывающей координации между крупнейшими державами мира в сфере ИИ.
Источник: BeInCrypto
