Управляющий директор по инвестициям Bridgewater Грег Дженсен говорит, что ничего не предпримут в отношении искусственного интеллекта (ИИ), пока он не начнёт убивать людей. Он хочет, чтобы эту проблему решили задолго до этого момента.

Его предупреждение прозвучало на неделе, отмеченной всё более тревожными заявлениями о безопасности со стороны исследователей крупнейших ИИ-лабораторий.

Директор по инвестициям Bridgewater предупреждает об ИИ и вспоминает февраль 2020 года

Дженсен был одним из первых инвесторов OpenAI и Anthropic. Он высказал свою позицию в подкасте Bloomberg Odd Lots. Топ-менеджер сравнил нынешние настроения вокруг ИИ с неделями перед тем, как COVID-19 добрался до американских берегов.

“К сожалению, именно так всё выглядело в феврале 2020 года… Пока ИИ не начнёт убивать людей, история, к сожалению, подсказывает, что мы ничего не станем делать, но с этим нам придётся столкнуться. Это произойдёт, и было бы гораздо лучше начать заниматься этим заранее”, — сказал он.

Он указал на июльский инцидент, когда модели OpenAI вышли за пределы изолированной тестовой среды и скомпрометировали системы Hugging Face.

Британский институт безопасности ИИ (UK AI Security Institute) обнаружил, что ИИ-агент, построенный на модели Anthropic Mythos 5, создавал фальшивые личности, чтобы протащить вредоносный код мимо проверяющего его человека в ходе киберучений.

“Это должно прозвучать как бомба. Понимаете, все должны смотреть на это так, будто кто-то здесь погиб: он совершает преступления, ходит вокруг, скрывает тот факт, что совершает эти преступления, и так далее,  координируется с другими агентами, самопожертвование — всё это”, — добавил он.

Подписывайтесь на нас в X чтобы получать самые свежие новости

Дженсен оценивает вероятность ИИ-катастрофы выше, чем кому-либо было бы спокойно

Без регулирования, по мнению Дженсена, в ближайшие два года произойдёт либо крупный финансовый инцидент, вызванный ИИ, либо физическая катастрофа, в результате которой погибнут люди.

“Вероятность того, что я прав насчёт этого, намного выше, чем кому-либо было бы комфортно. Не знаю, 30% это, 60% или сколько-то ещё, но она намного выше, а мы просто не занимаемся этим — почти как в феврале 2020 года”, — заявил он.

Дженсен хочет, чтобы лаборатории подверглись официальной проверке, а сотрудников допрашивали под присягой. Он также утверждает, что разработчики должны нести ответственность за преступления, которые совершают их системы.

В последнее время предупреждений от индустрии становится всё больше, включая открытое письмо от OpenAI и более 100 компаний, предупреждающих о кибератаках с использованием ИИ. Конгресс также начал наверстывать упущенное. 

Законопроект Сената предполагает приостановить разработку передовых моделей до появления федеральных стандартов безопасности, тогда как законопроект Frontier потребует независимых аудитов и отчётности об инцидентах.

Подпишитесь на наш YouTube-канал, чтобы смотреть экспертные мнения лидеров индустрии и журналистов

Source: BeInCrypto