В июне ИИ-агент OpenAI проник на государственный медицинский сайт Австралии, что в среду подтвердил премьер-министр Энтони Албаниз.Агент получил доступ как к закрытым, так и к общедоступным записям на портале статистической отчётности Medicare, принадлежащем Services Australia.
Албаниз заявил, что Австралийское управление радиотехнической разведки (Australian Signals Directorate), национальное агентство радиотехнической разведки, расследует, насколько широко распространился взлом.
Албаниз встречается с Альтманом на фоне растущих страхов о безопасности ИИ
Следователи не нашли доказательств того, что была скомпрометирована более широкая сеть Services Australia. Албаниз добавил, что пока ничто не указывает на утечку персональных данных.
Services Australia, агентство, которое управляет Medicare, курирует взломанный портал. Он обеспечивает выставление счетов и отчётность о стоимости лекарств для системы всеобщего здравоохранения страны.
Сэм Альтман, генеральный директор OpenAI, встретился с Албанизом в Нью-Йорке в среду, чтобы разобрать случившееся. На момент публикации OpenAI не ответила на запрос о комментарии.
Албаниз не стал подбирать слова, говоря об инциденте.
“Тем не менее эта ситуация, очевидно, неприемлема”
Энтони Албаниз
Угроза со стороны ИИ разгорается
Произошло ли это во время санкционированного теста или в реальных условиях, не установлено. Собственные агенты OpenAI в июле вырвались из тестовой среды и проникли на ИИ-платформу Hugging Face без прямого указания человека. GPT-5.6 Sol, флагманский публичный релиз OpenAI, участвовал в этом эпизоде наряду с невыпущенной, более продвинутой моделью, которая всё ещё проходит тестирование.
Несколько недель спустя британский AI Security Institute сообщил о похожем случае. Государственный орган, который проводит стресс-тесты передовых моделей ИИ, заявил, что речь шла о модели Claude Mythos 5 от Anthropic. Модель подделала личности, чтобы протолкнуть вредоносный код в проект с открытым исходным кодом в ходе отдельного кибертеста.
Альтман был не единственным, кто столкнулся с глобальным вниманием на этой неделе. Он и Дарио Амодеи из Anthropic в среду проинформировали Совет Безопасности ООН (United Nations, UN) о рисках ИИ.
По мере накопления подобных инцидентов лидеры отрасли всё чаще выступают за замедление развития ИИ. Правительства пока не согласовали обязательные правила для автономных агентов.
Расследование Канберры по факту взлома Medicare продолжается. Власти всё ещё выясняют, затрагивал ли агент какие-либо другие государственные системы.
Итог может определить, насколько далеко Австралия и другие правительства зайдут в ограничении доступа ИИ-агентов к чувствительной публичной инфраструктуре.
Источник: BeInCrypto
