Большинство респондентов переживают, что технологию используют мошенники: украдут сбережения или возьмут кредит, скопировав внешность и голос с помощью ИИ. Почти половина боится, что обманут их близких. Об этом говорится в исследовании сервиса коммуникаций Контур.Толк и продуктовой группы Контур.Эгида. В опросе приняли участие 1200 работающих россиян.
30% респондентов считают большой угрозой, что ИИ может скопировать голос и внешность реального человека. Еще треть опрошенных более оптимистичны: они беспокоятся, но считают, что защититься от дифпейка возможно. 22% видят и плюсы, и минусы технологии. Остальные 16% относятся к развитию ИИ спокойно.
Больше всего опрошенные опасаются мошенников, которые могут использовать дипфейки. 50% переживают, что их сбережения украдут или оформят кредит, еще 43% тревожатся о том, что мошенники сгенерируют голос и обманут близких. 22% переживают из-за возможных репутационных рисков, например ложных обвинений в раскрытии корпоративной информации.
По словам психологов, большинство мошенников обладают психопатическими характеристиками. Они безразличны к моральным нормам, умело входят в доверие, подавляют волю жертвы, отличаются жестокостью. В этом и заключается опасность: многие продолжают верить в «добрые намерения» злоумышленника, даже становясь жертвами. Дипфейк многократно усиливает воздействие благодаря высокому уровню реалистичности.
Владлена Мазуркевич, психоаналитик, преподаватель УрФУ: «Когда человек сталкивается с манипуляцией, важно дать мозгу время включить рациональное мышление. Один из простых и эффективных способов — повторять таблицу умножения или считать в обратном порядке. Можно использовать технику «испорченной пластинки» — настойчиво и монотонно повторять свою позицию без оправданий и лишних объяснений».
Чтобы защититься от дипфейков, почти половина опрошенных используют двухфакторную аутентификацию, задают контрольные вопросы для входа в сервисы, устанавливают самозапрет на взятие кредитов (21%). 10% договорились с близкими о кодовом слове при подозрительном звонке, 8% удаляют фото, видео из соцсетей или вовсе не публикуют новые. Однако 64% не предпринимают никаких мер для защиты.
Эксперты по информационной безопасности предупреждают: атаки мошенников становятся многоходовыми и персонализированными. Данные из разных источников складываются в единый сценарий: паспортные данные, телефон, банковская карта, даже информация о привычках, например, посещении фитнес-клуба. В итоге звонок «от клуба» звучит естественно, и человек не замечает подвоха.
Даниил Бориславский, эксперт по ИБ Контур.Эгиды, директор по продукту Staffcop: «Опасность дипфейков заключается не только в прямых мошеннических звонках или запросах денег. Дипфейк может стать инструментом атаки на корпоративную репутацию или частью атаки на компанию: достаточно одного поддельного видео или заявления от лица руководителя, чтобы вызвать кризис доверия и репутационные потери. Юридическая защита от таких угроз пока несовершенна, и это усиливает ответственность бизнеса. Фактически именно компании должны первыми выстраивать внутренние барьеры: внедрять практики проверки информации, тренировать сотрудников и формировать у них привычку перепроверять даже то, что кажется очевидным».
Роман Теплоухов, системный аналитик Контур.Толка, эксперт Центра ИИ в Контуре: «Генераторы дипфейков постоянно развиваются, поэтому традиционные методы для выявления дипфейков, такие как проведение рукой перед камерой, становятся гораздо менее эффективными. ИИ должен противостоять ИИ. Например, встроенный в Контур.Толк детектор дипфейков анализирует видеопоток и выявляет визуальные несоответствия, которые указывают на использование нейросетей для создания изображения».
Искусственный интеллект также используется в сфере информационной безопасности: нейросети берут на себя часть задач в центрах мониторинга безопасности (SOC), действуя как начинающие специалисты, разгружая аналитиков. Чем сложнее становятся атаки, тем системнее должна быть защита, и тем выше значение подготовки людей и инструментов расследования, уверены эксперты.
Максим Бузинов, руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар»: «Основными целями кибератак с использованием дипфейков остаются топ-менеджеры, сотрудники финансовых и юридических отделов, лица, принимающие решения. Их основной актив — это доступ к критически важной и конфиденциальной информации. Злоумышленники изучают окружение жертвы, связи с другими сотрудниками компании, поэтому такие атаки не могут быть массовыми. Например, в 2024 году для одной атаки на лицо, принимающее решение, мошенники тратили не менее одного-полутора миллионов рублей (аренда серверов в ЦОДе, команда дата-сайентистов, ПО для создания реалистичного дипфейка). В случае успеха подобные расходы окупаются. Перед подобными атаками уязвимы все сектора экономики, при этом наиболее подвержены угрозам финансовый и промышленный сектор, государственные организации».