Андрей Мишуков, генеральный директор ИБ-интегратора iTPROTECT, прокомментировал для CISOCLUB инициативу ФСТЭК по созданию национального стандарта безопасной разработки систем искусственного интеллекта. Он считает эту меру своевременной и логичной в контексте общемировой тенденции регулирования ИИ.
«Такой стандарт в России действительно нужен и давно. Другие страны уже регулируют разработку ИИ, поэтому это можно считать наработанным трендом», — заявил Мишуков.
По его словам, задача документа — определить безопасные технологии создания и обучения моделей, особенно в чувствительных сферах, где нейросети могут применяться в системах госуправления, в транспортной отрасли и в роботизированных автономных аппаратах.
«Цель такого регулирования — определить безопасные технологии для развития ИИ, в том числе для обучения моделей, которые будут использоваться для таких специфических задач, как госуправление или управление роботизированными беспилотными аппаратами. То есть речь идёт о расширении применения нейросетей в разных сферах», — подчеркнул он.
Глава iTPROTECT отметил, что участникам рынка не хватает чётких и прозрачных регламентов, которые бы формализовали требования к выбору датасетов, к обучению и к эксплуатации моделей.
«Рынку нужны правила безопасного создания, обучения и эксплуатации таких специализированных моделей. Это очередной компонент общего процесса по созданию решений на базе ИИ», — отметил Мишуков.
Он добавил, что в большинстве случаев уже удалось закрыть вопросы защиты инфраструктуры и безопасной разработки кода, и теперь настал черёд самой логики работы ИИ.
«В этом процессе уже решены проблемы безопасности инфраструктуры и безопасной разработки программного кода. Новые правила дадут прозрачную методологию для подбора обучающих сетов, а также оптимальных подходов к работе с ИИ-моделями, чтобы они стабильно выдавали прогнозируемые результаты», — заключил Андрей Мишуков.