1. Современные наступательные возможности ИИ
ИИ-агенты на CTF (Capture The Flag) соревнованиях достигли результатов, сравнимых с топовыми человеческими командами: лучшие вошли в топ-5% и топ-10% участников (источник).
Современные модели ИИ способны автоматически решать задачи, на которые опытному специалисту требуется до часа ручной работы.
Вывод: Недооценивать возможности ИИ-атак — ошибка. Уже сейчас даже открытые модели могут проводить взломы на уровне профессионалов.
2. Примеры из жизни: как ИИ применяют в атаках и защите
- Deepfake-обман финансового директора: В 2020 году злоумышленники использовали deepfake-голос директора для звонка в банк и перевода $35 млн (Habr).
- ИИ-генерация фишинга: По данным Anti-malware, новые ИИ-сервисы позволяют генерировать высоко персонализированные фишинговые письма, учитывающие стиль, прошлые темы и даже внутренние процессы компаний.
- Автоматизация поиска уязвимостей: Т-банк использует ИИ для автоматического обнаружения и эксплуатации уязвимостей в коде — он позволяет экономить более 1 миллиарда рублей в год, минимизируя риски в коде.
Google использует ИИ для автоматизации поиска уязвимостей в открытом ПО, применяя фаззинг-тестирование и языковые модели (LLM) для анализа кода и выявления ошибок. В 2024 году Google с помощью ИИ выявил 26 новых уязвимостей в различных проектах (3dnews).
GitHub представил ИИ-инструмент Code Scanning Autofix, который автоматически предлагает исправления уязвимостей на основе анализа кода. (Хакер)
3. Оценка угроз от ИИ требует постоянного обновления
Реальные возможности ИИ быстро растут: доработка архитектуры или стратегия работы с моделями радикально увеличивает их эффективность.
Массовое привлечение специалистов (crowdsourcing) ускоряет появление новых техник, чем закрытые исследования.
Вывод: Стратегии киберзащиты должны регулярно пересматриваться. Следите за открытыми CTF и анализируйте новые отчёты по ИИ-угрозам.
4. ИИ-атаки быстро развиваются и масштабируются
ИИ-агенты способны выполнять задачи со скоростью, сравнимой с профессиональными командами, а иногда и быстрее.
Открытые соревнования выявляют и тут же масштабируют новые атаки.
Вывод: Время реагирования на инциденты должно быть минимальным, автоматизация обнаружения и реагирования становится критически важной. Используйте для этого решения класса NDR на основе ML.
5. Новые методы тестирования: CTF с ИИ-агентами
CTF-соревнования с участием ИИ — эффективный способ проверять устойчивость инфраструктуры.
Crowdsourcing позволяет быстрее выявлять уязвимости, которые может использовать ИИ.
Вывод: Участвуйте или организуйте CTF с ИИ-агентами для реальной оценки защищённости.
6. Практические рекомендации
- Включайте сценарии ИИ-атак в ваши модели угроз.
- Инвестируйте в автоматизацию обороны: используйте AI/ML для обнаружения и реагирования.
- Следите за публикациями и новыми инструментами ИИ-атак.
- Обучайте сотрудников: тренировки с ИИ-сценариями атак.
- Проводите регулярные внешние тесты: привлекайте внешних экспертов для поиска новых векторов атак.
7. Кратко:
ИИ уже сейчас способен на сложные кибератаки и развивается с опорой на открытые соревнования и crowdsourcing. Эффективная защита требует: автоматизации, постоянного тестирования и регулярного обновления моделей угроз с учётом развития ИИ.