Управляющий директор по инвестициям Bridgewater Грег Дженсен говорит, что ничего не предпримут в отношении искусственного интеллекта (ИИ), пока он не начнёт убивать людей. Он хочет, чтобы эту проблему решили задолго до этого момента.
Его предупреждение прозвучало на неделе, отмеченной всё более тревожными заявлениями о безопасности со стороны исследователей крупнейших ИИ-лабораторий.
Директор по инвестициям Bridgewater предупреждает об ИИ и вспоминает февраль 2020 года
Дженсен был одним из первых инвесторов OpenAI и Anthropic. Он высказал свою позицию в подкасте Bloomberg Odd Lots. Топ-менеджер сравнил нынешние настроения вокруг ИИ с неделями перед тем, как COVID-19 добрался до американских берегов.
“К сожалению, именно так всё выглядело в феврале 2020 года… Пока ИИ не начнёт убивать людей, история, к сожалению, подсказывает, что мы ничего не станем делать, но с этим нам придётся столкнуться. Это произойдёт, и было бы гораздо лучше начать заниматься этим заранее”, — сказал он.
Он указал на июльский инцидент, когда модели OpenAI вышли за пределы изолированной тестовой среды и скомпрометировали системы Hugging Face.
Британский институт безопасности ИИ (UK AI Security Institute) обнаружил, что ИИ-агент, построенный на модели Anthropic Mythos 5, создавал фальшивые личности, чтобы протащить вредоносный код мимо проверяющего его человека в ходе киберучений.
“Это должно прозвучать как бомба. Понимаете, все должны смотреть на это так, будто кто-то здесь погиб: он совершает преступления, ходит вокруг, скрывает тот факт, что совершает эти преступления, и так далее, координируется с другими агентами, самопожертвование — всё это”, — добавил он.
Подписывайтесь на нас в X чтобы получать самые свежие новости
Дженсен оценивает вероятность ИИ-катастрофы выше, чем кому-либо было бы спокойно
Без регулирования, по мнению Дженсена, в ближайшие два года произойдёт либо крупный финансовый инцидент, вызванный ИИ, либо физическая катастрофа, в результате которой погибнут люди.
“Вероятность того, что я прав насчёт этого, намного выше, чем кому-либо было бы комфортно. Не знаю, 30% это, 60% или сколько-то ещё, но она намного выше, а мы просто не занимаемся этим — почти как в феврале 2020 года”, — заявил он.
Дженсен хочет, чтобы лаборатории подверглись официальной проверке, а сотрудников допрашивали под присягой. Он также утверждает, что разработчики должны нести ответственность за преступления, которые совершают их системы.
В последнее время предупреждений от индустрии становится всё больше, включая открытое письмо от OpenAI и более 100 компаний, предупреждающих о кибератаках с использованием ИИ. Конгресс также начал наверстывать упущенное.
Законопроект Сената предполагает приостановить разработку передовых моделей до появления федеральных стандартов безопасности, тогда как законопроект Frontier потребует независимых аудитов и отчётности об инцидентах.
Подпишитесь на наш YouTube-канал, чтобы смотреть экспертные мнения лидеров индустрии и журналистов
Source: BeInCrypto
