В России начал складываться самостоятельный сегмент кибербезопасности, ориентированный на защиту систем искусственного интеллекта. На фоне растущего распространения генеративных моделей и внедрения ИИ в финтехе, промышленности и розничной торговле компании начали активно инвестировать в инструменты анализа уязвимостей и предотвращения утечек. По оценкам участников отрасли, уже в 2026 году объём нового направления может превысить 1 млрд рублей.
По прогнозу компании AppSec Solutions, российский рынок защиты ИИ достигнет не менее 1 млрд рублей в 2026 году, а к 2029-му может вырасти до 11 млрд. Один из источников, знакомый с внутренними оценками крупной IT-корпорации, называет ещё более амбициозные цифры — до 4 млрд рублей в 2026 году и 25–30 млрд к началу следующего десятилетия.
Параллельно стремительно увеличивается и сам сектор генеративного ИИ — если в 2024 году он оценивался в 13 млрд рублей, то по итогам 2025-го может достичь 58 млрд.
К началу 2025 года в публичной плоскости стали появляться первые инциденты, напрямую связанные с генеративными ИИ-сервисами.
По информации директора по кибербезопасности «СберТеха» Всеслава Соленика, зафиксированы случаи утечек персональных данных и коммерчески чувствительной информации через взаимодействие с чат-ботами. Он отмечает, что с расширением применения ИИ в бизнесе и госсекторе формируется новая ниша в киберзащите, где необходимо учитывать специфические риски — в том числе возможность манипулирования моделями и эксплуатации их поведения.
Генеральный директор AppSec Solutions Юрий Сергеев утверждает, что интерес к защите ИИ-систем уже демонстрируют крупнейшие игроки — от финансовых институтов до промышленных компаний и телекоммуникационных операторов. Заказчики внедряют средства проверки устойчивости моделей к внешнему вмешательству и атакующим воздействиям. Среди приоритетов — верификация механизмов генерации ответов, контроль за доступом к обучающим данным и предотвращение неконтролируемой генерации чувствительной информации.
На этом фоне возникают угрозы нового уровня. По словам бизнес-партнёра по информационной безопасности Cloud.ru Юлии Липатниковой, стандартные решения — антивирусные пакеты, фаерволы, системы обнаружения вторжений — оказываются неэффективными при защите больших языковых моделей. Она подчёркивает, что защита ИИ требует совершенно иного подхода. Речь идёт о постоянном мониторинге контекста, отслеживании аномального поведения и использовании обучающихся алгоритмов в самой архитектуре средств киберзащиты.