Лариса Карпан, старший специалист по безопасной разработке Angara Security, прокомментировала для CISOCLUB инициативу ФСТЭК по созданию национального стандарта по безопасной разработке систем искусственного интеллекта. По её мнению, речь идёт не только о необходимости закрыть нормативные пробелы, но и о стратегической задаче — заложить основу для надёжного развития ИИ-технологий в ключевых отраслях.
«Разработка стандарта безопасности ИИ, инициированная ФСТЭК, — это не только ответ на текущие вызовы, но и возможность заложить стратегическую основу для долгосрочного развития технологий. В ближайшие годы ИИ станет неотъемлемой частью критической инфраструктуры, медицины, транспорта и финансовых сервисов, а значит, ошибки в области его защиты будут иметь системный масштаб», — заявила Карпан.
Она подчеркнула, что речь идёт не просто о технических регламентах, а о формировании комплексного механизма доверия к ИИ как к классу технологий.
«Важно понимать, что речь идет не просто о требованиях к валидации моделей или защите датасетов, а о создании комплексного механизма доверия к ИИ как к классу технологий», — отметила эксперт.
По её мнению, в документе должны быть закреплены принципы трассируемости и объяснимости, обязательный контроль сторонних библиотек и использование средств мониторинга и аномалий при обучении и эксплуатации моделей.
«Хорошо, если стандарт будет включать требования по трассируемости и объяснимости моделей, по контролю качества сторонних библиотек и по применению автоматизированных средств обнаружения аномалий в процессе обучения и эксплуатации. Такой подход позволит не только минимизировать классические угрозы типа „отравления“ выборок или промпт-инъекций, но и выстроить прозрачный процесс управления жизненным циклом ИИ», — подчеркнула Карпан.
Она выразила уверенность, что при грамотной реализации стандарт сможет не ограничивать индустрию, а, напротив, стать точкой опоры для инноваций.
«При правильной реализации стандарт станет не просто регуляторным барьером, а драйвером инноваций, повышая доверие к отечественным технологиям и создавая условия для их масштабного внедрения», — резюмировала Лариса Карпан.