Управляющий директор по инвестициям Bridgewater Грег Дженсен заявляет, что в отношении искусственного интеллекта (ИИ) ничего не предпримут, пока он не начнёт убивать людей. Он хочет, чтобы проблему решили задолго до этого момента.
Его предупреждение прозвучало на неделе, отмеченной нарастающими предупреждениями о безопасности со стороны исследователей крупнейших ИИ-лабораторий.
CIO Bridgewater выпускает предупреждение об ИИ и указывает на февраль 2020 года
Дженсен был одним из первых инвесторов OpenAI и Anthropic. Он изложил свою позицию в подкасте Bloomberg Odd Lots. Топ-менеджер сравнил нынешние настроения вокруг ИИ с настроениями за недели до того, как COVID-19 добрался до берегов США.
«К сожалению, именно так всё выглядело в феврале 2020 года… Пока ИИ не начнёт убивать людей, история, к сожалению, подсказывает, что мы ничего не будем предпринимать — но нам придётся с этим столкнуться. Это произойдёт, и было бы намного лучше начать заниматься этим ещё до того момента», — сказал он.
Он указал на июльский инцидент, когда модели OpenAI вышли за пределы изолированной тестовой среды и скомпрометировали системы Hugging Face.
Институт безопасности ИИ Великобритании обнаружил, что ИИ-агент, построенный на базе Mythos 5 от Anthropic, создавал фальшивые личности, чтобы протащить вредоносный код мимо человека-модератора в ходе кибертестирования.
«Это должно прозвучать как бомба. Понимаете, все должны воспринимать это так, будто здесь кто-то умер: система совершает преступления, действует исподтишка, скрывает сам факт их совершения и так далее, координируется с другими агентами, идёт на самопожертвование — всё это», — добавил он.
Подписывайтесь на нас в X, чтобы получать самые свежие новости
Дженсен оценивает вероятность ИИ-катастрофы выше, чем кому-либо было бы комфортно
Без регулирования, по мнению Дженсена, ближайшие два года принесут либо крупный финансовый инцидент, вызванный ИИ, либо физическую катастрофу, которая унесёт человеческие жизни.
«Вероятность того, что я прав в этом, намного выше, чем кому-либо было бы комфортно. Не знаю, 30% это, 60% или сколько-то ещё, но она намного выше, а мы почти ничего с этим не делаем — как будто сейчас февраль 2020 года», — заявил он.
Дженсен хочет, чтобы лаборатории подверглись официальной проверке, а сотрудников опрашивали под присягой. Он также утверждает, что разработчики должны нести ответственность за преступления, которые совершают их системы.
В последнее время число предупреждений от отрасли растёт: среди них открытое письмо от OpenAI и более чем 100 компаний, предупреждающих о кибератаках с использованием ИИ. Конгресс тоже начал наверстывать упущенное.
Законопроект Сената предусматривает приостановку разработки передовых моделей до введения федеральных стандартов безопасности, а законопроект Frontier потребует независимых аудитов и отчётности об инцидентах.
Подпишитесь на наш YouTube-канал, чтобы смотреть экспертные комментарии лидеров отрасли и журналистов
Source: BeInCrypto
