Искусственный интеллект стремительно меняет правила игры в информационной безопасности. Он снижает порог входа для злоумышленников, делает атаки более персонализированными и массовыми одновременно, а фишинговые кампании — практически неотличимыми от легитимной переписки. В то же время ИИ становится незаменимым помощником для защитников: ускоряет триаж инцидентов, помогает выявлять аномалии и снижает рутинную нагрузку на аналитиков SOC.
Но где граница между реальной пользой и маркетинговым хайпом? Как проверять решения ИИ, чтобы не допустить галлюцинаций с критическими последствиями? Какие специалисты оказываются наиболее уязвимыми перед атакующими, вооружёнными нейросетями? И как изменится рынок ИБ в ближайшие годы?
Редакция CISOCLUB обсудила эти и другие вопросы с экспертами отрасли. Специалисты рассказали, как ИИ уже изменил профиль атак, какие задачи разумно отдавать ИИ, как безопасно внедрять его в защиту и какие метрики действительно показывают эффективность. Своими наблюдениями и рекомендациями поделились:

Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда».
Павел Пилькевич, инженер-разработчик отдела систем анализа машинных данных STEP LOGIC.
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис».
Кирилл Филимонов, специалист по анализу защищённости ПК «РАД КОП».
Александр Соловьёв, специалист по анализу защищённости, независимый эксперт.
Иван Бадеха, независимый эксперт АИС.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX.
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ.
Юрий Драченин, заместитель руководителя направления информационной безопасности Контур.Эгида и Staffcop.
Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастион.
Дмитрий Пензов, технический директор компании ATLAS.
Юлия Сонина, старший аналитик Аналитического центра УЦСБ.

Как ИИ уже изменил профиль атак на компании, если смотреть на фишинг, социальную инженерию и автоматизацию разведки?
Эксперты сходятся в главном: ИИ не создал принципиально новых типов атак, но сделал существующие качественно эффективнее. Порог входа для злоумышленников снизился — теперь для проведения серьёзных атак достаточно быть продвинутым пользователем LLM. Фишинг стал одновременно персонализированным и массовым, дипфейки вышли на уровень, где клонирование голоса стоит недорого, а OSINT-разведка, требовавшая ранее дней ручной работы, выполняется ботом за минуты.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда»:

«Если рассуждать о профиле атак, то он изменился скорее не у атак, а у атакующих. Инструменты генерации кода и текстов сделали порог вхождения в «опасный бизнес» ниже. Соответственно, от атакующих требуется меньше знаний для создания ВПО [вредоносного программного обеспечения]. К тому же возросло среднее качество социотехнических атак, включая подделку голоса и видео».
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX:

«Под влиянием ИИ атаки стали умнее, короче и дешевле. Барьер входа для злоумышленников заметно снизился, а эффективность атак, наоборот, выросла.
Первое ключевое изменение — это персонализация атак при сохранении массовости. Раньше существовало чёткое разделение: массовые атаки были примитивными, а целевые — дорогими и штучными. Использование ИИ фактически разрушило это ограничение. Сегодня мы видим атаки, где каждый из тысячи запросов в рамках одной кампании может быть уникальным: различаются user-agent, referer, параметры HTTP-запросов, тайминги, поведенческие характеристики. Благодаря ИИ стоимость такой кастомизации практически обнулилась, а эффективность обхода сигнатурных правил выросла кратно.
Второе изменение — исчезновение привычных маркеров вредоносной активности. Грамматические ошибки, некорректные заголовки, примитивные скрипты и другие «красные флаги», на которые раньше опирались защитные механизмы, всё чаще отсутствуют. На уровне L7 OSI мы наблюдаем атаки, где HTTP-трафик практически неотличим от легитимного: заголовки Accept-Language соответствуют GeoIP, TLS-отпечатки совпадают с заявленными браузерами, поведенческие паттерны имитируют человека. Третье важное последствие — резкое сжатие временных окон. За счёт автоматизации всего цикла с помощью ИИ — от сканирования и анализа поверхности атаки до генерации полезной нагрузки — промежуток между этапами разведки и эксплуатации сокращается до часов, что существенно повышает требования к скорости обнаружения и реагирования».
Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастион, подчеркнул масштабирование атак с минимальными потерями качества:

«BEC-атаки [Business Email Compromise] стали убедительнее — модель легко имитирует стиль общения конкретного руководителя, если «скормить» ей пару его писем. Зафиксированы случаи, где клонированный голос CTO использовался для авторизации переводов. Порог входа — три секунды аудио и $5 на API».
При этом он призвал не впадать в панику: «ИИ — это мультипликатор для уже компетентных атакующих, а не волшебная палочка для скрипт-кидди».
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ, обратил внимание на другую сторону проблемы:

ИИ всё чаще оказывается не только инструментом атакующих, но и объектом атак. Уже зафиксированы инциденты, связанные с уязвимостями и компрометацией ИИ-систем — от атак на инфраструктуру DeepSeek до утечек данных из западных LLM-платформ. Отдельные риски связаны с неконтролируемым применением ИИ внутри самих организаций.
Иван Бадеха, независимый эксперт АИС:

«Для проведения широкого спектра атак теперь достаточно быть продвинутым пользователем LLM, и эта компетенция порой способна заменить глубокие знания и навыки в предметной области. С применением LLM в связке с уже готовыми фреймворками вроде WormGPT/FraudGPT генерируют персонализированные, грамматически безупречные письма на языке жертвы, учитывающие контекст. Появление инструментов вроде HexStrike наводит на мысль о том, что ИИ в первую очередь приносит пользу в деструктивной деятельности».
Дмитрий Пензов, технический директор компании ATLAS, подтвердил общий тренд: атак стало больше, они стали точнее и дешевле. OSINT, по его словам, превратился из «пару дней вручную» в «пару минут с помощью бота», а социальная инженерия вышла на новый уровень за счёт доступности качественных подделок голоса и видео.
Александр Соловьёв, специалист по анализу защищённости, независимый эксперт, обратил внимание на доступность подделок.

По его словам, с ИИ стало проще создавать копии веб-ресурсов компании — в некоторых случаях достаточно отправить скриншот, и модель воспроизведёт страницу. Выросло и качество дипфейков: «Достаточно пары минут аудио с голосом человека, нескольких фото, которые можно найти в открытом доступе — и персонализированное видеообращение готово».
Юлия Сонина, старший аналитик Аналитического центра УЦСБ:

«Злоумышленники совершили успешную атаку на международную сеть отелей, используя вишинг с имитацией голоса одного из сотрудников для доступа к системе и внедрения шифровальщика, что привело к убыткам $100 млн. Реалистичные дипфейки клонируют голоса и элементы видео — сотрудник регионального офиса финансовой компании совершил перевод $25 млн во время дипфейк-видеозвонка: ИИ сгенерировал фейковые лица CFO и коллег, убедив жертву в срочной секретной транзакции. В 2025 году почта оставалась вектором более 80% атак».
Юрий Драченин, заместитель руководителя направления информационной безопасности Контур.Эгида и Staffcop, предложил более приземлённый взгляд:

по его опыту общения с заказчиками, на практике ИИ используется прежде всего как инструмент автоматизации рутинных процессов — помощь в сборе данных, ускорение типовых операций и формирование отчётов. Доверять ИИ чему-то большему серьёзные заказчики пока не готовы — это осознанная позиция, и в ближайшие пару лет ситуация принципиально не изменится.
Какие признаки в телеметрии и расследованиях помогают отличать атаки с ИИ от «обычных»?
Ключевые маркеры ИИ-атак — полиморфизм при сохранении семантики, аномальная скорость развития сценария, лингвистическая однородность массовых рассылок и адаптивное поведение в реальном времени. Выявлять их помогают UEBA и мониторинг скорости уникальных запросов. Однако специалисты предупреждают: опытный атакующий уберёт следы работы нейросетей, поэтому строить защиту исключительно на детекции «ИИ против человека» не стоит.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX:
«Первый признак — полиморфизм при сохранении семантики. Обычный ботнет генерирует вариации через шаблоны: параметры меняются, но структура запроса остаётся стабильной. ИИ-генерация создаёт уникальные запросы с разной структурой, но одинаковым смыслом. У нас был кейс, когда при атаке на API 10 000 запросов имели разные параметры, однако целевое действие было идентичным.
Второй индикатор — аномально высокое качество контекста: корректные токены, релевантные пути навигации, естественные паттерны поведения пользователя. Подобный уровень контекстной точности достижим для человека в единичных сценариях, но его массовое воспроизведение указывает на использование автоматизированных систем.
Третий признак — адаптивное поведение в реальном времени. Классические боты, получив блокировку, либо прекращают активность, либо повторяют одни и те же действия. В атаках с ИИ заметна быстрая смена тактики: модификация заголовков, выбор альтернативных endpoint, изменение темпа запросов. Такая динамика указывает на наличие механизма принятия решений, а не жёстко заданного сценария. Дополнительным признаком могут служить метаданные инфраструктуры атаки — в отдельных случаях при анализе полезной нагрузки обнаруживаются обращения к API языковых моделей или характерные артефакты ML-инструментов».
Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастион:
«К признакам, которые помогают отличить присутствие ИИ, относятся эмодзи в тексте, коде и комментариях. Это один из самых явных паттернов — ИБ-специалисты уже не раз находили такие артефакты в ВПО. Ещё один сигнал — лингвистическая однородность. Если вы видите 500 фишинговых писем с идеально правильной грамматикой, без опечаток, но с микровариациями в формулировках — это характерный паттерн LLM-генерации».
При этом он предостерёг: «Если атакующий опытный, он уберёт следы работы нейросетей. Не стоит строить защиту исключительно на детекции «ИИ против человека».
Иван Бадеха, независимый эксперт АИС, подчеркнул, что одним из верных признаков атаки с ИИ является аномальная скорость развития сценария. Автоматизированная атакующая система, умеющая просчитывать наперёд миллиарды вариантов, обгонит по скорости вычислений любую, даже самую слаженную команду. В качестве примера он привёл кампанию, обнаруженную в ноябре 2025 года компанией Anthropic: злоумышленник использовал Claude для разведки, написания эксплойтов и сбора данных.
Юлия Сонина, старший аналитик Аналитического центра УЦСБ, указала на возможности анализа UEBA для определения признаков ИИ по нечеловеческим паттернам — например, сканированию уязвимостей на больших объёмах данных или предиктивному выбору целей. Она также отметила, что ИИ маскирует атаки под легитимный трафик, создавая ложные маршруты в логах, и рекомендовала установить мониторинг скорости уникальных запросов как один из ключевых индикаторов.
Какие ИБ-специалисты первыми проигрывают атакующему с ИИ и почему?
Эксперты выделили несколько профилей уязвимых специалистов. Прежде всего — команды, строящие защиту вокруг статических правил и сигнатур. Следом — реактивные «тушители пожаров» с долгими циклами согласования. Отдельно отмечены низкоквалифицированные специалисты и те, кто не рассматривает ИИ как угрозу и не адаптирует свои процессы к новой реальности.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX, выделил три уязвимых профиля. Первый — «хранители статичных правил»: команды, чья защита годами строилась вокруг сигнатур и списков блокировок. «При ИИ-генерации каждая атака становится уникальной по форме, и статическое правило срабатывает только на уже известный шаблон. Пока команда анализирует инцидент и пишет новое правило, атака уже завершена».
Второй профиль — «тушители пожаров», работающие по реактивной модели: пока специалист вручную разберётся с первым эпизодом, атака уже завершилась на десятках других объектов. Третий — команды с сильной защитой на сетевом уровне, но слабым контролем на уровне приложений (L7 OSI).
Дмитрий Пензов, технический директор компании ATLAS:
«L1-аналитик делает триаж по чек-листу, он верит в сигнатуры и хеши как в религию. В случае ИИ-атак это превращается в ад: вариативность фишинга такая, что сигнатурный мир просто тонет в FP и шуме. Вторая зона риска — команды реагирования с долгими согласованиями. Пока они созваниваются и решают, можно ли заблокировать подозрительных персонажей, атакующий уже успел докрутить привилегии и выгрузить данные».
Он также отметил устаревший подход к обучению: «Если учить людей распознавать фишинг по опечаткам, вы учите их ловить динозавров».
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ, отметил, что традиционно первыми проигрывают те, у кого ИБ — формальность. Следом — специалисты, которые не рассматривают ИИ как угрозу и без ограничений разрешают использование ИИ-систем внутри компании. В среде AppSec/DevSecOps даже родилась шутка: скоро работа сведётся к тому, чтобы отследить, «таскает» разработчик код из ИИ или нет.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда», считает, что проигрывают прежде всего низкоквалифицированные специалисты. Он подчеркнул, что набор мер против «обычных» атак вполне способен помочь и против атак с ИИ, но его необходимо грамотно реализовать. При этом возрастает потребность во взращивании киберкультуры в компаниях — бизнес традиционно не любит на это тратиться, из-за чего фишинг остаётся в топ-3 действенных векторов проникновения.
Иван Бадеха, независимый эксперт АИС, сфокусировался на том, что с применением ИИ граница между массовой атакой и APT становится всё тоньше, целенаправленные атаки удешевляются. ИИ вносит непредсказуемость и масштаб, против которых человеческий мозг без усиления своими ИИ-инструментами неэффективен.
Юлия Сонина, старший аналитик Аналитического центра УЦСБ:
«К самым уязвимым категориям относятся те, чьи задачи рутинны и масштабируемы: специалисты по мониторингу и реагированию первой линии, аналитики угроз и специалисты ручного тестирования на проникновение. Человеку физически не успеть за генерацией ИИ — аналитик будет тратить часы на ложные срабатывания, пока злоумышленник с помощью ИИ тестирует новые вредоносные действия в реальном времени».
Кирилл Филимонов, специалист по анализу защищённости ПК «РАД КОП», добавил, что проигрывают не только защитники: пентестеры и редтимеры, не использующие ИИ в своей работе, тоже уступают атакующим с ИИ.
Какие задачи в SOC разумно отдавать ИИ уже сейчас, чтобы ускорить триаж, корреляцию и расследование, не теряя управляемость?
Все опрошенные эксперты сходятся в главном: ИИ уже сейчас полезен для автоматизации рутины — первичного триажа, обогащения алертов, суммаризации и подготовки выжимок. Однако финальные решения, особенно связанные с блокировками и эскалациями, должны оставаться за человеком. ИИ — ассистент аналитика, а не его замена.
Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастион:
«Первичный триаж и обогащение алертов: собрать контекст из 10 источников, нормализовать, приоритизировать. LLM с этим справляется и экономит 10–15 минут на инцидент. Суммаризация тикетов и timeline: вместо чтения 200 строк лога получить короткое резюме. Корреляция по natural language запросам: можно задать команду «покажи все события с этого хоста за последние два часа, связанные с сетевыми аномалиями» — это быстрее, чем писать KQL/SPL. Генерация IOC и YARA-правил: черновики по описанию угрозы».
При этом он подчеркнул: «Решения о блокировках, финальные заключения в отчётах, коммуникация с бизнесом — это должно остаться за человеком. Нейросети — это ассистент аналитика, а не его замена».
Павел Пилькевич, инженер-разработчик отдела систем анализа машинных данных STEP LOGIC:

«Одним из наиболее распространённых примеров является использование ИИ для ответов на вопросы на основании базы знаний (RAG). Имея контекст произошедших событий и инцидентов, аналитик SOC может поставить модели вопрос в свободной форме. В нашем SOC активно используется ИИ-агент, который позволяет не только отвечать на теоретические вопросы, но и предлагать автоматически выполнить ряд действий по плейбуку во время работы с инцидентом. При этом предлагаемые действия берутся из карточки инцидента, что исключает возможность галлюцинаций».
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис»:

«По различным оценкам, до 60–80% алертов от SIEM составляет шум, что подтверждается и нашими наблюдениями. Автоматизация через SOAR и ML-модели уже сейчас помогает обрабатывать до 25–30% типовых инцидентов. При наличии рекомендаций от ИИ аналитик SOC валидирует эти рекомендации, а не проводит полное расследование — время обработки рутинной карточки сокращается кратно».
Она также подчеркнула: для событий высокой критичности методы автоматической обработки не применяются никогда, а автозакрытие возможно исключительно для низкоприоритетных событий в зоне высокой уверенности модели.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда», добавил, что генеративные модели хорошо подходят для подготовки выжимок и выводов по заданным критериям из больших объёмов информации, выступая в роли дополнительного «коррелятора», выдающего человекочитаемый свод аналитики.
Иван Бадеха, независимый эксперт АИС, акцентировал внимание на способности ИИ обогащать алерты контекстом — критичностью актива, историей пользователя, текущими событиями — и формулировать подкреплённые гипотезы при расследовании для дополнительной оценки аналитиком.
Дмитрий Пензов, технический директор компании ATLAS, резюмировал: на практике ИИ хорошо работает как усиленный L1 SOC, но без права на критические действия. Отключить прод, заблокировать ключевого пользователя, снести сервис — это как минимум гибридные решения с обязательным участием специалиста.
Как проверяют, что ИИ в SOC не «галлюцинирует» и не делает выводы без фактов, когда на кону блокировки и простои?
Эксперты сошлись на фундаментальном принципе: последнее слово — всегда за человеком. Для контроля качества работы ИИ используется требование к источникам, двойная проверка, мониторинг дрейфа данных, оценка неуверенности модели и интерпретируемость решений.
Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастион:
«Модель должна указывать конкретные строки логов, алерты, источники. „Я думаю, что это malware» — не считается полноценным ответом. „На основании события X в логе Y в 14:32″ — принимается. Если модель сомневается в решении, она передаёт информацию и управление человеку. Критичные выводы проверяются второй моделью или скриптами, если есть сильные расхождения — требуется внимательный ручной разбор. Каждое заключение должно быть воспроизводимо. Если нельзя объяснить, почему модель приняла определённое решение, — это явный признак некачественной работы. Любые активные действия сначала проводятся в пробном режиме с логированием».
Павел Пилькевич, инженер-разработчик отдела систем анализа машинных данных STEP LOGIC отметил, что проверка выполняется с помощью тестирования на заранее подготовленных датасетах и сбора метрик, но даже эти меры не могут гарантировать, что модель не начнёт «выдумывать» в частном случае. Поэтому он предложил стратегию, при которой все финальные решения остаются под ответственностью человека. Модель не должна сама инициировать блокировку, но может предложить такое действие с подробным обоснованием. Если аналитик подтверждает — ИИ помогает автоматизировать вызов операции. Такой подход делает из ИИ советника, не заменяя аналитиков.
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис»:
«В первую очередь это интерпретируемость решений для верификации логики модели. Важнейший процесс — валидация на реальных вердиктах: сопоставление итогового вердикта аналитика и прогноза модели. Помимо отслеживания деградации, это позволяет вовремя дообучать модель на новых данных. Классическая рекомендация — мониторинг дрейфа данных: отслеживание статистических изменений, чтобы вовремя понять, что нужно заново обучать модель. Дополнительно целесообразно внедрение оценки неуверенности модели для детектирования ситуаций, когда модель сталкивается с паттернами, не представленными в обучающей выборке».
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда», обратил внимание на разницу между моделями: действительно экспертные компании реализуют узкозаточенные нейросети под конкретные задачи — например, выявление определённого набора методов эксплуатации или сетевых аномалий. Отдавать результаты работы больших генеративных моделей сразу в response на текущем этапе было бы «самоубийственно», а вот обеспечить аналитику «ещё одну пару рук» — вполне оправданно.
Иван Бадеха, независимый эксперт АИС, описал практику двойного подтверждения для критичных действий — от двух независимых моделей, либо от ИИ-модели и человека. Также он указал на необходимость постоянного прогона используемых моделей с проверкой выводов как на реальных инцидентах, так и на специально подготовленных данных, провоцирующих ИИ на ошибочные действия. При этом, если риск атаки существенно превышает риск от временной приостановки сервиса, в процесс может закладываться и прямое регулирование со стороны ИИ с возможностью у аналитика выполнить корректирующее действие.
Как меняется детектирование, когда атаки становятся короткими и массовыми, а сигнатуры устаревают быстрее, чем обновляются?
Эксперты констатируют: классический сигнатурный цикл системно отстаёт от времени жизни атаки. На первый план выходят поведенческий анализ, скоринговые модели, анализ на уровне сессий и UEBA. При этом сигнатуры и ML-модели остаются взаимодополняющими инструментами — ни один из них не работает эффективно в одиночку.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX:
«При детектировании важно спрашивать не «что это?», а «как это себя ведёт?». Один из ключевых подходов — анализ на уровне сессии, а не отдельного запроса. Единичный запрос может выглядеть полностью легитимным, однако последовательность из 10–20 запросов уже формирует характерный паттерн. Для этого анализируются типы запросов, тайминги, навигационные модели и взаимосвязи между действиями в рамках одной сессии. Вместо фиксированных порогов вроде количества запросов в секунду информативнее отслеживать резкие отклонения — рост нагрузки на сотни процентов за короткий промежуток для конкретного источника или сессии. Дополнительную гибкость даёт скоринговая модель, комбинирующая несколько слабых сигналов: аномальные тайминги, нетипичные отпечатки клиентов, использование прокси-инфраструктуры. В условиях быстро меняющихся угроз модели должны переобучаться не по жёсткому расписанию, а в ответ на появление новых триггеров — обновление бейзлайнов на основе заблокированных сценариев позволяет сохранять актуальность детектирования».
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис»:
«Цикл обнаружения уже превышает время жизни атаки — сигнатурный подход системно отстаёт. Но модели машинного обучения более гибкие: они оперируют паттернами в пространстве признаков, а не индикаторами компрометации. Однако модели менее надёжны — это обусловлено их статистической природой. Без контура обратной связи любая модель за несколько месяцев превращается в аналог устаревшей сигнатуры. Сигнатурные правила и ИИ на настоящий момент — два главных взаимодополняющих инструмента».
Павел Пилькевич, инженер-разработчик отдела систем анализа машинных данных STEP LOGIC, отметил развитие методики обнаружения медленных, растянутых во времени атак: большие языковые модели анализируют произошедшие события и выявляют косвенную связь между ними. Для сложных атак на помощь приходит поведенческий анализ (UEBA), позволяющий фиксировать аномальное поведение рабочих станций и пользователей.
Иван Бадеха, независимый эксперт АИС, добавил, что тактика обеспечения ИБ всё больше базируется на киберустойчивости — способности критичных процессов и сервисов восстанавливаться в установленном объёме и в приемлемые сроки. Он также подчеркнул растущую востребованность интеграции с Threat Intelligence и решениями классов Sandbox, EDR, NTA и UEBA.
Что даёт лучший эффект против ИИ-автоматизации у атакующих: повышение качества данных, пересборка правил или переобучение моделей на собственных инцидентах?
Эксперты предлагают комплексный подход с чёткой последовательностью: сначала качество данных, затем переобучение моделей на собственных инцидентах, и только потом пересборка правил. Особое преимущество получает защищающийся, который знает свою инфраструктуру лучше атакующего.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX:
«Первый и главный приоритет — качество данных. Без корректных и полных данных ни правила, ни модели машинного обучения работать не будут. Ключевое — нормализация и обогащение информации: не только IP-адрес, но комбинация IP/ASN, геолокация, репутация и история активности; не только user-agent, но отпечаток клиента, консистентность с заголовками. Важно логировать не только атаки, но и легитимный трафик, чтобы модели понимали, что является нормой. Инвестиции в качество данных дают мгновенный эффект: даже простые правила начинают работать лучше, а ML-модели показывают меньше ложных срабатываний. Второй приоритет — переобучение моделей на собственных инцидентах: дообученные на данных конкретного клиента модели позволяют снизить количество ложных срабатываний на 40–50% при сохранении чувствительности. Третий — пересборка правил. Современные правила уже не ограничиваются блокировкой конкретного паттерна — они используются для оркестрации действий поверх модели, например через скоринговые механизмы. Но это скорее «гигиена» защиты: она необходима, но сама по себе не обеспечивает значимого повышения эффективности против ИИ-атак. Попытка внедрить машинное обучение без качественных данных приведёт к росту ложных срабатываний и потере времени».
Иван Бадеха, независимый эксперт АИС:
«Защищающийся обязан изучить специфику своей ИТ-инфраструктуры глубже и быстрее, чем это сделает атакующий, ведь у него, в отличие от атакующего, нет права на ошибку. Если ваша модель знает ваши нормальные бизнес-процессы, она выявит аномалию, которую обобщённый ИИ злоумышленника не смог замаскировать».
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда», указал, что ИИ-автоматизация у атакующих сейчас работает в основном на модификацию вредоносного кода и подготовку социотехнических материалов. Против этого работают качественная эвристика, ML-детект ВПО и аномалий, обучение персонала.
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ, отметил, что решения, развиваемые внутри отечественного рынка, всё чаще демонстрируют сопоставимое или даже более высокое качество по сравнению с зарубежными аналогами, поскольку обучаются на релевантных данных и отражают реальные условия эксплуатации.
Как выстраивать контур безопасной автоматизации, чтобы ИИ мог действовать, но не «ломать» инфраструктуру?
Эксперты выделяют несколько ключевых принципов безопасной автоматизации: нулевое доверие к ИИ, поэтапное внедрение, логирование всех действий, лимитирование автоматических блокировок и обязательная возможность отката. Модель должна работать в рамках контролируемых «рельс», а не принимать критичные решения самостоятельно.
Иван Бадеха, независимый эксперт АИС:
«На текущем этапе развития важно соблюдать принцип нулевого доверия для ИИ-автоматизации — благо, мы пока не готовы персонализировать ответственность на нейросеть. Автоматические сценарии реагирования должны быть неизменяемыми в процессе выполнения и проходить строгий код-ревью. Автоматизация должна быть подконтрольной — вплоть до возможности отключения всех сценариев одной кнопкой. Важно проводить учения по различным сценариям, включая отработку случаев отказа или неправильной работы автоматизации».
Он рекомендовал поэтапное внедрение: начинать с пилотной зоны и действий с низким риском (обогащение алертов, уведомления), затем переходить к среднему риску (изоляция хостов) и только потом — к более критичным действиям.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX, описал принципы на примере веб-защиты:
«Первый принцип — автоматическое реагирование только на явно подозрительные события: известные эксплойты, очевидно вредоносные IP-адреса, атаки, которые можно отсеять с помощью rate limiting. Для менее очевидных случаев применяются механизмы усложнения — CAPTCHA или JavaScript-челлендж — без немедленной блокировки. Второй принцип — тестирование новых правил и моделей в «прокси-режиме»: решения сначала только логируются без фактических блокировок, что позволяет оценить ложные срабатывания и откорректировать параметры. Третий принцип — лимитирование автоматических действий: любая блокировка должна иметь пороговое ограничение. Если лимит превышен, автоматика останавливается и решение принимает человек. Это своего рода аварийный рубильник. Каждое автоматическое действие должно иметь возможность мгновенного отката, а все решения ИИ необходимо логировать с полным контекстом: какие данные использовались, как был рассчитан скор и почему модель приняла именно такое решение».
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис», напомнила, что в 2024 году глобальные потери из-за галлюцинаций нейросетей составили $67,4 млрд. Поэтому в её команде приняли решение не доверять ИИ критичные решения, а использовать его исключительно для помощи аналитику. Критичные события всегда обрабатываются человеком, а модели могут лишь приоритизировать остальные события и подсвечивать потенциальных кандидатов на автозакрытие.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда»:
«В первую очередь необходимо выстроить модель угроз, в которой целью атакующих могут быть данные, к которым допущен ИИ. Соответственно, применить разграничение доступа, средства защиты СУБД, содержащих критичную информацию. В тех случаях, когда ИИ работает как аналитическая система, к ПДн и подобным данным возможно применить также маскирование. Представив, что ИИ — просто особый вид «подрядчика», которого вы пускаете в свою инфраструктуру».
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ:
«Во-первых, LLM должна быть жестко ограничена корпоративным цифровым контуром. Во-вторых, желательно, чтобы модель разрабатывалась внутри самой компании. Допустим и сторонний разработчик, но он должен быть российским. В-третьих, важно соблюдать стандарты внедрения ИИ, которые уже существуют: это, например, рекомендации Сбера и Яндекса, а также известный всем OWASP TOP 10 LLM».
Какие метрики показывают, что ИИ в защите приносит пользу, а не просто увеличивает поток алертов и красивых отчётов?
Эксперты предлагают оценивать ИИ через конкретные бизнес-метрики: снижение MTTD (Mean Time to Detect — среднее время обнаружения) и MTTR (Mean Time to Respond — среднее время реагирования), сокращение рутинной нагрузки на аналитиков при отсутствии роста пропусков, повышение доли истинно положительных срабатываний. Один из экспертов сформулировал важное правило: любая метрика должна подтверждаться как минимум двумя критериями.
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис»:
«Количество рутинной работы, снятой с аналитика, — при условии отсутствия роста пропусков — самая честная метрика. Допустим, стоит задача снижения числа ложных срабатываний правил SIEM, и модель отмечает 75% потока как ложные срабатывания, когда 82% из них подтверждаются аналитиками. Для бизнеса это означает, что один аналитик с помощью модели обрабатывает объём работы, который раньше требовал четверых, а 50% потока закрывается почти автоматически. Важно отслеживать и негативные результаты — пропуски, в том числе низкоприоритетных событий в зоне высокой уверенности модели. Значение в 2% сопоставимо с ошибкой человека при ручной обработке, но всё равно неприемлемо для критичных инцидентов».
Иван Бадеха, независимый эксперт АИС, рекомендовал оценивать ИИ через метрики бизнес-эффекта: снижение MTTD и MTTR, повышение коэффициента точности алертов, рост покрываемой поверхности атаки согласно MITRE ATT&CK, количество инцидентов, разрешённых автоматически без ущерба, а также снижение средней стоимости инцидента за счёт более быстрого и точного реагирования.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда»:
«Повышение числа выявленных и заблокированных аномальных соединений в сетевом трафике при условии отсутствия роста жалоб пользователей. Сокращение времени триажа условно-нестандартных кейсов при условии отсутствия роста false-positive. Любая метрика должна подтверждаться как минимум двумя критериями».
Павел Пилькевич, инженер-разработчик отдела систем анализа машинных данных STEP LOGIC, выделил ключевые метрики: время реагирования на инциденты, время расследования, количество повторно открываемых расследований и процент подтверждённых алертов. Он подчеркнул, что чаще всего ИИ в SOC не занимается обнаружением алертов — он автоматизирует и ускоряет рутинные задачи аналитиков.
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ, полагает, что показательными будут метрики количества инцидентов в сочетании с интегральной оценкой уровня зрелости ИБ компании.
Как изменится рынок ИБ из-за ИИ в ближайшие два года, если смотреть на людей, процессы и технологии?
Большинство экспертов прогнозируют серьёзную трансформацию рынка: рутинные роли будут частично замещены автоматизацией, вырастет спрос на гибридных специалистов, совмещающих навыки ИБ и работы с AI/ML, а базовая защита без ИИ через 2-3 года будет восприниматься как неэффективная. Однако есть и более сдержанные оценки: профессия ИБ-специалиста слишком творческая для полной автоматизации, а влияние ИИ на процессы пока минимально.
Илья Самылов, руководитель команды сопровождения сервисов информационной безопасности NGENIX:
«Многие роли, такие как аналитики SOC, занимающиеся ручным разбором алертов и базовым расследованием, будут частично или полностью замещены автоматизацией. Спрос сместится к специалистам, способным настраивать правила защиты и модели машинного обучения, интерпретировать решения ИИ и проводить продвинутый Threat Hunting. Вырастет потребность в гибридных ролях, совмещающих навыки Security Engineer и Data Scientist. Опытные senior-специалисты станут ещё более ценными — именно их экспертиза необходима для обучения моделей и валидации автоматических решений. Процессы будут перестраиваться вокруг постоянного переобучения: модели обновляются на основе свежих данных, правила адаптируются автоматически. До 80% рутинных операций будут выполняться автоматически, однако финальное решение останется за человеком. Компании будут выбирать интегрированные платформы с ИИ и ML, а CDN и WAF-провайдеры будут интегрировать больше возможностей ИИ в платформу. Через два-три года базовая защита без ИИ будет восприниматься как неэффективная, аналогично тому, как сейчас отсутствие HTTPS считается критическим».
Иван Бадеха, независимый эксперт АИС:
«Весьма вероятно, что исчезнут рутинные роли, такие как аналитик первой линии центра реагирования. Возрастёт спрос на гибридных специалистов: «ИИ-инженер в ИБ», «Аналитик данных по угрозам ИБ», «Аудитор этики ИИ». Ожидаем смещения фокуса с реагирования на предсказание и предотвращение инцидентов, а также киберустойчивость. Циклы подготовки атак и обновления ИИ-моделей будут ускоряться, защита будет требовать всё больше ИИ-компетенций, а циклы Деминга — протекать быстрее. Нас неминуемо ждёт развитие законодательства и стандартов в области ИИ в критических инфраструктурах. С точки зрения технологий — развитие XDR-платформ с встроенным ИИ и расцвет рынка специализированного железа для обучения и инференса моделей. ИИ сделает защиту предиктивной, адаптивной и персонализированной, но создаст и новую гонку вооружений. Ключевым навыком станет умение задавать ИИ правильные вопросы и проверять его ответы. Эволюция ИИ в кибербезопасности — это переход от «защиты периметра» к «защите доверия».
Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис», прогнозирует появление гибридных архитектур, где правила и модели работают совместно, компенсируя ограничения друг друга. В процессах уже наблюдается внедрение MLOps — мониторинг дрейфа данных, отслеживание качества работы моделей, регулярное дообучение. Требования к квалификации специалистов возрастут, а фокус сместится с разбора шума на сложные расследования.
Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти компании «Гарда»:
«Маркетинговый взрыв должен закончиться, и производители начнут упоминать ИИ там, где действительно необходимо, а не в каждой презентации. На процессы влияние, на мой взгляд, минимально — профессия специалиста по безопасности слишком творческая, чтобы рассчитывать в ней исключительно на автоматизированные средства, пусть и интеллектуальные».
Кирилл Филимонов, специалист по анализу защищённости ПК «РАД КОП»:

«Специалисты превратятся из непосредственных исполнителей в операторов ИИ для выполнения задач и разрешения галлюцинаций. Технически сложные, но рутинные задачи будут автоматизированы, а творческие продолжат решаться людьми. Процессы будут ускоряться: багбаунти, пентесты, разработка PoC-эксплойтов — всё это автоматизируется с помощью ИИ. Технологии будут больше ориентироваться на интеграцию с языковыми моделями. Уже сейчас мы видим, как появляются плагины для сред разработки, для пентест-инструментов, для средств аналитики. Технологии станут более автономными, снизится, но не исключится роль человека».
Сергей Терешин, presale-инженер по AppSec ГК MONT, руководитель и создатель курсов по ИБ, подчеркнул, что теперь ИБ-специалистам нужно контролировать, как в компании применяют ИИ, и оценивать эти риски. В части процессов ИИ уже неплохо автоматизирует «бумажную безопасность» — регламенты и политики. Он рекомендовал включить ИИ в модель угроз и держать его в фокусе внимания, а также предположил рост спроса на специалистов по безопасности разработки ИИ-решений.
Заключение
Искусственный интеллект уже стал повседневной реальностью как для атакующих, так и для защитников. Эксперты фиксируют общий сдвиг: порог входа для злоумышленников снизился, атаки стали дешевле и изощрённее, а классический сигнатурный подход системно отстаёт от времени жизни атаки. Фишинг, социальная инженерия и OSINT-разведка вышли на качественно новый уровень за счёт генеративных моделей — при этом принципиально новых типов атак ИИ пока не создал.
На стороне защиты ИИ уже приносит ощутимую пользу, но только при чётком понимании его границ. Все опрошенные специалисты сходятся в главном: ИИ — ассистент аналитика, а не его замена; последнее слово всегда остаётся за человеком. Внедрение автоматизации должно быть поэтапным и подконтрольным — от обогащения алертов к более критичным действиям, с обязательной возможностью отката. Без качественных данных, мониторинга деградации моделей и интерпретируемости решений ИИ-инструмент рискует стать источником ложной уверенности.
При этом ожидания от ИИ в отрасли далеко не однородны. Часть экспертов прогнозирует замещение рутинных ролей, прежде всего аналитиков первой линии SOC и рост спроса на гибридных специалистов, совмещающих экспертизу в безопасности и навыки работы с ML. Другие указывают, что профессия ИБ-специалиста слишком творческая для полной автоматизации, а серьёзные заказчики пока не готовы доверять ИИ что-то большее, чем рутинные операции. Вероятно, истина в комбинации этих позиций: специалисты будут превращаться из непосредственных исполнителей в операторов и верификаторов ИИ, а не исчезать.
Одно очевидно: игнорировать ИИ как фактор в модели угроз и в процессах защиты уже невозможно. Конкурентное преимущество получат те, кто научится использовать ИИ для усиления человеческой экспертизы, сохраняя при этом критическое мышление и контроль над алгоритмами.