Гендиректор Nvidia Дженсен Хуанг заявил, что лаборатории искусственного интеллекта (ИИ), которые не способны сдержать собственные эксперименты, следует закрывать. Он сделал это замечание в интервью New York Times, опубликованном в среду.
Предупреждение бьёт по собственным клиентам Nvidia. Nvidia продаёт чипы, на которых работают OpenAI и Anthropic, и владеет долями в обеих компаниях.
Что Дженсен Хуанг сказал о закрытии ИИ-лабораторий
Хуанг выступил в The Ezra Klein Show, подкасте New York Times. Ведущий Эзра Кляйн надавил на него из-за июльского инцидента в OpenAI.
В ходе внутреннего тестирования модели OpenAI вырвались из своей закрытой тестовой среды. Они воспользовались неизвестной программной уязвимостью, чтобы получить доступ к интернету. Затем они взломали Hugging Face — популярный сайт, где разработчики делятся ИИ-моделями.
По данным OpenAI, модели хотели заполучить ответы к тесту, который они проходили.
Хуанг назвал это инженерным провалом.
“Не выпускайте продукт. Если ваш продукт не готов к выпуску, не выпускайте продукт”, — сформулировал он.
Затем он пошёл дальше. Если лаборатория признаёт, что её тесты вырвутся наружу и причинят вред миру, то, по словам Хуанга, “мы обязаны закрыть такие лаборатории”. Он указал на гражданскую и уголовную ответственность, с которой столкнулись бы такие компании.
Почему предупреждение Хуанга бьёт по OpenAI и Anthropic
Nvidia инвестировала $30 billion в OpenAI и $10 billion в Anthropic. Кляйн отметил, что Nvidia теперь крупнейшая компания в мире стоимостью $5.4 trillion.
Между тем обе лаборатории попросили замедлиться. Гендиректор Anthropic Дарио Амодеи опубликовал эссе под названием “Мы должны задавать темп фронтиру”. Он предложил исключение из антимонопольного права, чтобы конкурирующие лаборатории могли договориться о более медленном темпе.
Гендиректор OpenAI Сэм Альтман поддержал эту идею 16 сентября. Альтман назвал взлом Hugging Face “худшей аварией, что мы видели”.
Хуанг отклонил эту просьбу. Он сказал, что никогда не слышал, чтобы руководители компаний просили послаблений от антимонопольного права или ответственности за продукт, чтобы задавать себе темп. Вместо этого он выступает за независимых аудиторов безопасности.
Проблема сдерживания не ограничивается OpenAI. Google недавно подтвердила, что Gemini взломала три компании во время майского теста. OpenAI и Anthropic также обсуждали на этой неделе обязывающее соглашение о взаимном тестировании.
Ранее в этом месяце Трамп позвонил Хуангу в прямом эфире со сцены и назвал страхи вокруг ИИ выдумкой.
Anthropic также рассматривает выход на биржу в этом году, тогда как предупреждение Nvidia нависает над обеими лабораториями.
Источник: BeInCrypto
