Искусственные агенты выходят за рамки вспомогательных инструментов в кибербезопасности и расследованиях финансовых преступлений, согласно новому отчету Intel3D от компании CertiK, занимающейся безопасностью блокчейна. В документе, представленном CryptoPotato, говорится, что новые системы могут рассуждать о шагах, использовать инструменты, собирать доказательства, действовать в реальных условиях и проверять результаты с ограниченным человеческим вмешательством.
На протяжении многих лет системы машинного обучения в основном поддерживали аналитиков, отмечая необычные входы, оценивая транзакции и подготавливая отчеты. CertiK утверждает, что новые агенты могут выполнять более широкие задачи, меняя свою роль с выявления проблем на помощь в выполнении ответных действий.
Искусственные агенты берут на себя больше задач по безопасности
В центре операций безопасности агент может расследовать подозрительный вход, проверяя записи устройств, данные о местоположении и источники угроз перед тем, как действовать. Он может приостановить учетную запись и записать свои действия для проверки человеком.
CertiK сообщает, что аналогичные системы появляются в области безопасности Web3, включая триаж контрактов, оценку рисков транзакций и отслеживание украденных средств. Компания ожидает, что люди будут больше сосредоточены на надзоре, пока агенты занимаются рутинными расследованиями.
Одной из причин этого перехода является скорость некоторых атак. Эксплои с флеш-кредитами могут опустошить протоколы за считанные секунды, в то время как украденные криптовалюты могут перемещаться через мосты и миксеры в течение нескольких часов. Это оставляет командам людей мало времени для расследования и реагирования.
Недостаток специалистов по кибербезопасности и соблюдению норм является еще одним фактором, в то время как регуляторное давление увеличивает объемы работы. Безопасная компания указывает на более чем 900 миллионов долларов в штрафах за отмывание денег в первой половине 2025 года, показывая последствия, с которыми могут столкнуться компании, когда контрольные меры терпят неудачу.
Автономия ИИ создает новые риски
CertiK утверждает, что компании должны рассматривать автономных агентов как участников рабочей силы, а не как обычное программное обеспечение. Их действия не снимают с людей ответственности, поэтому компании, внедряющие их, остаются ответственными за результаты.
Эта ответственность становится более важной, поскольку агенты берут на себя задачи в финансовых и криптооперациях. В финансах агенты могут выполнять задачи по борьбе с отмыванием денег, в то время как в криптовалюте они могут обнаруживать эксплои, отслеживать средства и контролировать транзакции.
Однако отчет подчеркивает риски, связанные с неправильными выводами, слабым человеческим контролем и преднамеренными атаками на системы ИИ. CertiK рекомендует вести записи о входных данных и действиях, устанавливать четкие ограничения на автономные решения, проводить тестирование на противодействие и назначать ответственного за каждого агента.
Поскольку системы ИИ получают больше полномочий в области задач по безопасности и соблюдению норм, компаниям понадобятся контрольные меры, соответствующие их расширенной роли. CertiK утверждает, что без строгого надзора автоматизация может заменить знакомые проблемы на сбои, которые труднее объяснить.
Источник: CryptoPotato
