/13269235/i_800.jpg)
Наибольшая доля организаций, встречавшихся с кибератаками с применением ИИ, — в обрабатывающей промышленности (36%) и дискретном (поштучном) производстве (30%). За ними следуют строительство (21%), сельское и лесное хозяйство (20%), энергетика и коммунальные услуги (18%), транспорт и логистика (17%).
Более трети (36%) промышленных предприятий включают атаки с применением ИИ в топ-5 наиболее значимых угроз — наряду с атаками на цепочки поставок и активностью APT-группировок. Самая высокая доля организаций, считающих использование ИИ в атаках одним из ключевых рисков, отмечена в обрабатывающей промышленности (45%).
Дополнительные риски связаны с внедрением ИИ-инструментов в самих организациях. С одной стороны, они помогают автоматизировать многие процессы и существенно повысить эффективность, но вместе с тем возникают и новые угрозы.
Атаки на цепочку ИИ-поставок. Если раньше атаки на цепочки поставок ПО совершались через программные пакеты, то теперь злоумышленники могут использовать для этого LLM-модели — например, внедрить скрытый вредоносный код в файл большой языковой модели. В агентные навыки злоумышленники могут добавлять вредоносную нагрузку, причем в виде как вредоносных исполняемых файлов, так и описания вредоносных действий простым языком.
Излишние автономность и полномочия агентов. Чем больше у агента возможностей и шире доступ к различным данным, тем выше риски. С появлением агентных систем, подобных OpenClaw, простой вредоносной инструкции в посте в социальной сети может быть достаточно, чтобы агент выполнил произвольный код на стороне пользователя, сделал криптовалютный перевод или опубликовал конфиденциальные данные в интернете.
Теневой ИИ. Сотрудники организаций активно пользуются ИИ для рабочих задач. Если в компании нет централизованного доступа к нейросетям, они могут начать обращаться к сторонним сервисам, которые официально не разрешены для работы и не контролируются ИБ- и ИТ-службами. Это усугубляет уже описанные выше риски — например, работник может дать слишком широкие полномочия агенту или случайно загрузить на рабочее устройство вредоносную нагрузку.
