Генеративный искусственный интеллект стал самым ярким технологическим прорывом последних лет. Компании повсеместно внедряют ИИ, многие люди уже сегодня пользуются им на бытовом уровне для помощи в обучении, поиска информации или даже интересной беседы. При этом данная технология, очевидно, может нести как пользу, так и вред для человека и его деятельности. «Информзащита» постаралась разобраться, какое влияние эта технология оказывает на мир инфобеза.
Обратная сторона медали
Специалисты в сфере инфобеза отдают себе отчет, что искусственный интеллект – это технология, которая может быть использована двояко. Согласно данным недавнего опроса, 58% CISO из разных стран мира опасаются, что сопутствующие внедрению ИИ риски могут перевесить его плюсы для информационной безопасности. В начале июля OpenAI, компания создавшая известный всем ChatGPT, признала, что в начале 2023 года на компанию была совершена атака, в результате которой произошла утечка данных. К счастью, по заявлениям руководства, данные пользователей не были затронуты, однако опасный прецедент случился. Многие эксперты опасаются непредсказуемости путей развития генеративного ИИ и считают его даже возможной угрозой для национальной безопасности.
Тем не менее, сегодня искусственный интеллект используется злоумышленниками для преступлений меньшего масштаба. Самое распространенный вариант деструктивного использования ИИ – это фишинг с его помощью. Например, в начале лета 2024 года компания Booking.com заявила о резком росте количества фишинговых рассылок для пользователей после появления технологии искусственного интеллекта. Злоумышленники с помощью такого инструмента могут бесконечно отправлять и формулировать электронные письма, смс и другие сообщения с вредоносными ссылками, при это делать это на разных языках.
Новая надежда
Несмотря на негативные стороны генеративного искусственного интеллекта для кибербезопасности, эксперты уверены, что он может принести пользу для защиты информации. Согласно упомянутому выше опросу, 70% CISO ожидают значительное сокращение штата в ближайшие пять лет из-за внедрения искусственного интеллекта.
Самым ярким примером на сегодняшний день является использование методов машинного обучения в работе Центров мониторинга киберугроз. Традиционно работа SOC делится на несколько линий. Первая из них следит за поступающими сообщениями, определяет наличие аномалий и принимает решение о передаче далее, на вторую линию. Такие специалисты выполняют уйму рутинной работы, что, очевидно, зачастую негативно сказывается на их состоянии, внимательности и эффективности. Поэтому в сфере ИБ постепенно внедряют методы машинного обучения для автоматизации этой работы. Искусственный интеллект помогает собирать огромные объемы поступающей информации, анализировать их и фиксировать аномалии. Такая автоматизация положительно сказывается и на сотрудниках, которые освобождены от скучной и монотонной работы и получают более интересные задачи. При этом, конечно, сейчас нельзя говорить о полной автоматизации этих процессов, люди продолжают работать на первой линии, однако делают это в связке с таким помощником.
Внедрение искусственного интеллекта в работу SOC – это отдельная сложная тема. Запуск самих механизмов машинного обучения не занимает большого времени. Однако настройка программ, чтобы искусственный интеллект действительно выступал качественной заменой для первой линии SOC, – трудоемкий процесс. Обучение ИИ, составление грамотно прописанных требований и так далее занимает в общей сложности около полугода.
При этом, несомненно, такое решение положительно сказывается на эффективности бизнеса. Во-первых, со временем полностью отпадет необходимость в сотрудниках первой линии, так как их работу будет выполнять искусственный интеллект. Во-вторых, сотрудники, ранее занятые монотонной работой, теперь могут решать более сложные задачи, что делает их более ценными сотрудниками, а их решения более прибыльными для компании, пусть и косвенно.
Что делать?
Как видно, отношения искусственного интеллекта и инфобеза – сложная история. Интеграция этой технологии в систему информационной безопасности может быть даже не самым важным элементом работы безопасника с ИИ. Гораздо важнее видится анализ использования возможностей искусственного интеллекта для совершения киберпреступлений. Прогнозирование атак с использование генеративного ИИ позволит безопасникам грамотно подготавливаться к ним, своевременно внедрять необходимые механизмы защиты и разрабатывать планы реагирования на атаки с учетом новых деталей. Именно поэтому ряд экспертов считают, что современный CISO, то есть лидер оборонительных рубежей бизнеса, должен быть ближе к хакерам по своим навыкам и знаниям. В таком случае у него будет достаточно навыков и экспертизы для принятия грамотных решений.