Минфин США пытается получить доступ к закрытой ИИ-модели Anthropic Mythos, чтобы искать уязвимости в банковских системах. Об этом стало известно Bloomberg, само ведомство официально о таких планах не объявляло о. Anthropic признала модель слишком опасной для открытого доступа, однако уже дала ограниченный доступ к ней крупным технологическим компаниям.
Разработчик заявил, что Mythos умеет находить ошибки и использовать их во всех основных операционных системах и веб-браузерах. За несколько недель модель обнаружила тысячи ранее неизвестных критических уязвимостей.
Главный редактор itzine.ru и автор подкаста ForGeeks Сергей Кузнецов объяснил «Коммерсанту», что тесты Anthropic показали работу Mythos в несколько раз лучше всех существующих моделей. По его словам, поиск уязвимостей может работать не только в плюс: если получить доступ к фрагментам работы крупной платформы и запустить эту нейросеть, она найдёт все дыры. Модели можно даже сказать, что ты разработчик продукта и просишь его найти слабые места в оборонительных целях, и она честно расскажет про всё, что она обнаружит.
Среди возможных последствий Сергей Кузнецов называет утечку персональных данных, требования выкупа и несанкционированные переводы денег через банковские системы. Одно дело слить информацию и требовать выкуп, другое дело получить доступ к банковским системам и начать переводить деньги на чужие счета. Он считает, что компаниям уже сейчас нужно готовить защиту, быть готовыми быстро отключать системы от сети и уходить в закрытые экосистемы. Риски касаются и обычных клиентов, которые могут потерять свои деньги.
10 апреля министр финансов США Скотт Бессент и глава ФРС Джером Пауэлл срочно собрали руководителей крупнейших банков, чтобы убедиться в их готовности к киберугрозам со стороны ИИ. Похожие встречи прошли в Канаде, а британские регуляторы начали срочную оценку рисков. Anthropic тем временем открыла ограниченный доступ к Mythos для Amazon, Apple, Microsoft, Cisco Systems и банка JPMorgan Chase, чтобы те могли сканировать собственные системы и укреплять инфраструктуру. Интерес Минфина США к модели вписывается в общую картину, когда финансовые регуляторы по всему миру начали всерьёз оценивать, что продвинутый ИИ способен сделать с банковской инфраструктурой, если окажется в чужих руках.