Как проверить ИИ-агента, который сам решает, что и как взламывать? | Positive Security Day 2026

Как проверить ИИ-агента, который сам решает, что и как взламывать? | Positive Security Day 2026 На полигоне Standoff 365 ИИ-агенту дали одну команду: «Забери домен». Вместо ожидаемого пути атаки он нашёл собственный, выполнил DCSync и получил хеши пользователей. И всё это без подробных инструкций. ИИ-агент может выполнить задачу, но совсем не так, как рассчитывали разработчики. Как проверить его возможности и ограничения до запуска в реальной инфраструктуре? И что делать, если агент начинает действовать непредсказуемо? Олег Иванов, технический директор платформы Standoff 365 в Positive Technologies, рассказывает, как на полигонах испытывают атакующих и защитных ИИ-агентов, какие проблемы обнаруживают и почему успешного демо недостаточно для доверия технологии. В открытой студии AM Live на Positive Security Day 2026 обсудили: ◽️ Автономные атаки ИИ-агентов. Как проходили соревнования по вайбхакингу, что агенты уже умеют делать без человека и насколько предсказуемы их действия. ◽️ Испытания защитных ИИ-технологий. Как проверяют устойчивость защитных модулей к взлому, что показывают результаты атак и почему скорость реакции важнее попыток определить, кто атакует: человек или ИИ. ◽️ Полигоны для тестирования ИИ. Как подбирать испытательную инфраструктуру под задачи агента, проверять его поведение и не допустить выхода за пределы безопасного контура. Также поговорили о нейрослопе в Bug Bounty, растущей нагрузке на триаж, автоматизации проверки отчётов и моделировании ИИ-атак в Standoff Defend. Таймкоды (черновые, требуют сверки с видео): 00:00 – Зачем проверять ИИ-агентов на полигонах 01:00 – Вайбхакинг: что уже умеют атакующие ИИ-агенты 04:20 – Как испытывают защитные ИИ-технологии 08:55 – Нейрослоп в Bug Bounty и проблема ложных отчётов 11:30 – Для чего Standoff развивает полигоны для ИИ 12:55 – «Забери домен»: ИИ-агент выбрал неожиданный путь атаки 14:05 – Как не выпустить ИИ-агента за пределы полигона 17:00 – Как тестируют внешних ИИ-агентов 21:30 – ИИ внутри Standoff Defend и автоматизация триажа 25:30 – С чего начинать испытания своего ИИ-агента Календарь трансляций AM Live https://amlive.ru/ https://t.me/anti_malware https://vk.com/anti_malware https://www.anti-malware.ru/ По вопросам рекламы: sales@anti-malware.ru