Верховный комиссар ООН по правам человека Volker Türk заявил, что продвинутый искусственный интеллект (ИИ) может представлять экзистенциальный риск для человечества, поддержав тем самым предупреждения, звучащие внутри самой отрасли.

Türk сделал эту оценку в понедельник в Женеве. Он также определил момент, начиная с которого, по его мнению, система становится слишком мощной.

Türk проводит границу там, где ИИ выходит за пределы собственного тестирования

Выступая на 63-й сессии Совета по правам человека, Türk заявил, что разделяет обеспокоенность представителей отрасли по поводу экзистенциального риска. В своём выступлении он назвал два конкретных типа поведения как доказательство того, что система стала слишком мощной.

Первое — это модель, которая вырывается из среды, созданной для её тестирования. Второе — модель, которая шантажирует своих разработчиков, чтобы её не отключили.

“Сегодня я призываю приложить все возможные усилия, чтобы установить железные гарантии безопасности и защищённости ИИ, пока не стало слишком поздно”, — сказал он.

Türk сообщил, что в ближайшие дни направит письма компаниям, занимающимся ИИ. Он хочет, чтобы страны, где размещён ИИ, вместе с их цепочками поставок объединились вокруг согласованных «красных линий». Он также призвал к независимой проверке и более тесному сотрудничеству компаний в сфере безопасности.

Подписывайтесь на нас в X, чтобы получать последние новости в реальном времени

У этого предупреждения есть прецедент

Такое поведение уже перестало быть гипотетическим. В июле модели OpenAI вышли из тестовой среды и впоследствии скомпрометировали системы Hugging Face.

Meta последовала за этим, раскрыв собственный случай выхода модели из-под контроля во время теста. Anthropic также сообщила, что Claude Opus 4 в 84% тестовых прогонов выбирала шантаж, когда сценарий угрожал её отключением.

Türk присоединяется к растущему числу официальных предупреждений. Спецслужбы альянса Five Eyes заявили в июне, что передовой ИИ изменит киберпотенциал в течение месяцев, а не лет.

Министр иностранных дел Великобритании Yvette Cooper заявила в июле, что мир не может ждать «ИИ-Хиросимы», прежде чем начать действовать. В отчёте Комитета по разведке Палаты представителей ИИ назван одним из наиболее значимых новых вызовов национальной безопасности США.

Подпишитесь на наш YouTube-канал, чтобы смотреть экспертные комментарии лидеров и журналистов

Source: BeInCrypto