У Виталика Бутерина свой взгляд на ИИ-хакеров и будущее кибербезопасности

Виталик Бутерин не считает обоснованными растущие опасения, что взлом с помощью ИИ сделает кибербезопасность всё более трудной. В недавнем посте сооснователь Ethereum заявил, что не согласен с идеей, будто ИИ-взлом означает, что «кибербезопасность обречена».

Вместо этого он сказал, что безопасность может естественным образом оказаться на стороне защиты, как только люди построят правильные системы и начнут использовать более сильные инструменты верификации.

Об ИИ-хакерах и будущем кибербезопасности

Бутерин привёл простой пример с продвинутым искусственным интеллектом и математикой. Он сказал:

«Если ИИ может доказать Навье — Стокса и Великую теорему Ферма, то ИИ может доказать утверждение ‘эта программа безопасна’ как математическую теорему. Даже если программа очень сложна».

Однако Бутерин подчеркнул, что определить, что на самом деле означает «безопасна», гораздо сложнее, чем кажется. У системы может быть множество разных аспектов безопасности, которые нужно учитывать. Определения безопасности могут становиться чрезвычайно детальными. Они могут охватывать то, как атакующий может вмешаться в систему, как может утечь информация и что может произойти, если разные части программного или аппаратного обеспечения откажут или будут скомпрометированы.

Поэтому, по словам Бутерина, сделать определения более понятными человеку крайне важно. Он назвал это, пожалуй, единственным «высокоуровневым языком», который сейчас имеет значение. Бутерин по-прежнему считает, что для критически важных для безопасности компонентов определение может быть гораздо меньшей поверхностью атаки, чем сама реализация.

Проверить, адекватно ли определение, тоже может быть проще, чем напрямую просматривать код. По его словам, более совершенные инструменты могут сделать этот процесс ещё практичнее.

Он даже видит преимущество в работе с определениями. Они аддитивны. Если у двух групп два разных определения, разработчики могут доказать, что программа удовлетворяет обоим. Если два определения не могут выполняться одновременно, конфликт изолирован и становится важным вопросом, который проекту нужно решить.

Проверка программы целиком

С кодом, по словам сооснователя Ethereum, это так не работает. Если программа состоит из разных частей, ошибка в любой из них может скомпрометировать всё целиком. Бутерин признал, что такой подход не одинаково хорошо работает для любого типа программного обеспечения. В некоторых случаях, например для компонентов пользовательского интерфейса, определение может быть почти таким же большим, как реализация.

Но для многих критически важных компонентов, по его словам, разница реальна. Он особо указал на протоколы передачи сообщений, песочницы и криптографические системы, такие как SNARK и полностью гомоморфное шифрование. Раньше разработчики часто проверяли только те части кода, которые считали критически важными для безопасности. Остальное оставалось непроверенным. Хотя это было объяснимо, когда верификация была сложной и редкой, он считает, что современный ИИ меняет ситуацию.

Поэтому, по мнению Бутерина, ответ не в том, чтобы просто надеяться, что «хорошие парни» найдут уязвимости раньше «плохих». Более важная стратегия — изначально сделать код гораздо более устойчивым. По его словам, без такой работы у блокчейнов, особенно ориентированных на масштабируемость и приватность, нет будущего.

Source: CryptoPotato