ИИ сделал кибермошенничество главным киберриском для бизнеса

По данным Всемирного экономического форума, 73% опрошенных руководителей сообщили, что за последний год сами либо кто-то из их профессионального окружения сталкивались с кибермошенничеством. При этом 94% считают искусственный интеллект наиболее значимым фактором изменений в кибербезопасности, а 87% называют связанные с ним уязвимости самым быстрорастущим киберриском.

ИИ меняет не только социальную инженерию, но и техническую сторону атак. Показателен раскрытый Anthropic случай, когда ИИ-агенты выполняли последовательность действий в рамках кибератаки – от разведки до вывода данных. Такой сценарий показывает, что участие человека может сокращаться уже не в отдельных операциях, а на значительной части цепочки атаки.

Для корпоративной безопасности это прежде всего вопрос скорости. Если атакующая сторона может быстрее находить цели, формировать убедительные сообщения и автоматизировать технические операции, ручная модель реагирования начинает проигрывать. Поэтому SOC постепенно дополняются ИИ-инструментами, которые берут на себя часть обнаружения, анализа и реагирования. Одновременно усложняется социальная инженерия: сообщения и голосовые сценарии становятся убедительнее и легче масштабируются.

Особенно быстро ИИ осваивается в схемах, построенных на обмане человека. Согласно исследованию 1,2 млрд клиентских звонков, число случаев мошенничества с использованием дипфейков выросло на 1300% год к году. Это меняет и подход к обучению сотрудников: вместо ежегодного формального курса компании все чаще переходят к постоянному управлению человеческими рисками – коротким регулярным тренировкам, моделированию атак и оценке поведения пользователей.

Следующий этап противостояния будет определяться уже не самим наличием ИИ у атакующей или защищающейся стороны, а скоростью его встраивания в полный цикл работы. Для бизнеса это означает, что защита от кибермошенничества должна одновременно развиваться на двух уровнях – автоматизации реагирования и работе с поведением сотрудников.