1. Современные наступательные возможности ИИ
ИИ-агенты на CTF (Capture The Flag) соревнованиях достигли результатов, сравнимых с топовыми человеческими командами: лучшие вошли в топ-5% и топ-10% участников (источник).
Современные модели ИИ способны автоматически решать задачи, на которые опытному специалисту требуется до часа ручной работы.
Вывод: Недооценивать возможности ИИ-атак — ошибка. Уже сейчас даже открытые модели могут проводить взломы на уровне профессионалов.
2. Примеры из жизни: как ИИ применяют в атаках и защите
- Deepfake-обман финансового директора: В 2020 году злоумышленники использовали deepfake-голос директора для звонка в банк и перевода $35 млн (Habr).
- ИИ-генерация фишинга: По данным Anti-malware, новые ИИ-сервисы позволяют генерировать высоко персонализированные фишинговые письма, учитывающие стиль, прошлые темы и даже внутренние процессы компаний.
- Автоматизация поиска уязвимостей: Т-банк использует ИИ для автоматического обнаружения и эксплуатации уязвимостей в коде — он позволяет экономить более 1 миллиарда рублей в год, минимизируя риски в коде.
Google использует ИИ для автоматизации поиска уязвимостей в открытом ПО, применяя фаззинг-тестирование и языковые модели (LLM) для анализа кода и выявления ошибок. В 2024 году Google с помощью ИИ выявил 26 новых уязвимостей в различных проектах (3dnews).
GitHub представил ИИ-инструмент Code Scanning Autofix, который автоматически предлагает исправления уязвимостей на основе анализа кода. (Хакер)