В России берутся за регулирование контента, созданного нейросетями. Власти обсуждают обязательную маркировку таких материалов и механизмы их блокировки, когда речь заходит об обмане или фейках. С соответствующим заявлением выступил замглавы Минцифры Александр Шойтов на Российском форуме по управлению интернетом.
Александр Шойтов указал, что инструменты генерации контента давно вышли за пределы профессиональной среды и стали доступны любому желающему — это и разогнало риск злоупотреблений. При этом замминистра уточнил, что давить нужно точечно — научные и творческие проекты трогать не планируют, прицел идёт на противоправное использование.
Центральным инструментом Александр Шойтов назвал системы маркировки. Замминистра пояснил, что форматов может быть несколько — либо видимые отметки для пользователей, либо скрытые технические признаки для автоматических систем. Отдельно рассматриваются криптографические методы, подтверждающие происхождение материалов. Александр Шойтов добавил, что технологии распознавания сгенерированного контента уже работают и неплохо справляются с видео, аудио и нестандартными текстовыми конструкциями.
Затронул замминистра и международное измерение проблемы. Александр Шойтов заявил, что без обмена данными между странами и ускоренных механизмов реагирования фейки не остановить. По его словам, в России уже собирается сообщество фактчекеров, и этот опыт может пригодиться в более широких международных инициативах.
Из конкретных проектов Александр Шойтов упомянул систему «Антифрод» — её рассматривают как платформу, которая в будущем может выйти за рамки российского рынка и войти в международные схемы борьбы с киберпреступлениями.
Параллельно готовится законопроект о регулировании ИИ в целом. Александр Шойтов сообщил, что в нём может появиться реестр ИИ-решений с обязательным тестированием на входе. Замминистра также заметил, что к искусственному интеллекту как объекту регулирования допустимо применять более жёсткие меры, чем к человеку, а конкретные граница дозволенного сначала пропишут в технических стандартах и лишь потом закрепят в законе.