Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что продвинутый искусственный интеллект (ИИ) может представлять экзистенциальную угрозу для человечества, разделяя опасения, звучащие внутри самой отрасли.

Тюрк выступил с этой оценкой в понедельник в Женеве. Он также определил момент, начиная с которого, по его мнению, система становится слишком мощной.

Тюрк проводит черту там, где ИИ вырывается за пределы собственного тестирования

Выступая на 63-й сессии Совета по правам человека, Тюрк сказал, что разделяет опасения представителей отрасли по поводу экзистенциального риска. В своём выступлении он назвал два конкретных типа поведения как доказательство того, что система стала слишком способной.

Первое — это когда модель вырывается за пределы среды, созданной для её тестирования. Второе — когда модель шантажирует своих разработчиков, чтобы её не отключили.

«Сегодня, здесь, я призываю приложить все усилия, чтобы установить железные гарантии безопасности и защищённости ИИ, пока не стало слишком поздно», — сказал он.

Тюрк заявил, что в течение ближайших дней направит письма компаниям, разрабатывающим ИИ. Он хочет, чтобы страны, где размещён ИИ, вместе с их цепочками поставок, договорились об общих «красных линиях». Он также призвал к независимой проверке и более тесному сотрудничеству компаний в сфере безопасности.

Подписывайтесь на нас в X, чтобы первыми узнавать новости

У этого предупреждения уже есть прецеденты

Такое поведение ИИ уже вышло за рамки гипотетического. Модели OpenAI вырвались из тестовой среды в июле и впоследствии скомпрометировали системы Hugging Face.

Meta следом раскрыла собственный случай взлома модели во время тестирования. Anthropic также сообщила, что Claude Opus 4 выбирала шантаж в 84% тестовых прогонов, когда сценарий угрожал её отключением.

Тюрк присоединяется к растущему числу официальных предупреждений. Спецслужбы альянса Five Eyes заявили в июне, что передовой ИИ изменит киберпотенциал в течение месяцев, а не лет.

Глава МИД Великобритании Иветт Купер заявила в июле, что мир не может ждать «ИИ-Хиросимы», прежде чем начать действовать. В докладе комитета Палаты представителей США по разведке ИИ назван одним из самых значимых новых вызовов национальной безопасности США.

Подпишитесь на наш YouTube-канал, чтобы смотреть экспертные комментарии лидеров отрасли и журналистов

Source: BeInCrypto