Утечки данных в ИИ стали фактором для развития нового сегмента рынка

Согласно данным исследования Б1, ГК «Солар», Ассоциации ФинТех и компании HiveTrace, 97% компаний в России пилотируют, используют искусственный интеллект (ИИ) или считают его значимым для бизнеса. Для 35% компаний в России ИИ входит в тройку стратегических приоритетов, а 46% организаций рассматривают его как важный элемент бизнес-процессов.

Самым распространенным типом технологий ИИ стали большие языковые модели (LLM), которые используют 79% опрошенных компаний. 67% организаций внедряют в процессы ИИ-системы, дополненные поиском (RAG), а почти половина опрошенных (46%) использует ИИ-агентов с доступом к системам. При этом 42% компаний признают, что пока не разработаны политики информационной безопасности для ИИ или использование ИИ разрешено без технического контроля. Более того, треть организаций выделяет среди приоритетных направлений контроль «теневого» использования ИИ, управление доступом и блокировку действий неавторизованных ИИ-инструментов.

Более 80% компаний признают, что утечка данных через ИИ представляет наибольшую угрозу для бизнеса. Не менее критичны такие негативные последствия, как: галлюцинации, некорректная генерация контента (67%), компрометация данных и источников знаний (54%), регуляторные риски (47%), «отравление» данных и моделей (42%), а также злоупотребление и неавторизованные действия ИИ-агентов (42%).

Согласно данным исследования, всего 49% компаний выделяют бюджет на защиту ИИ. Их доля наиболее высока среди тех организаций, которые считают ИИ одним из трех главных стратегических приоритетов и критически важным для ключевых процессов. Более 40% опрошенных вообще не выделяют бюджет, а среди компаний, которые считают ИИ стратегическим приоритетом, доля таких организаций составила 15%. При этом 53% опрошенных планируют увеличить затраты на защиту ИИ, около четверти (23%) намерены оставить их на текущем уровне.

Среди основных мер защиты, которые уже внедряют компании, 65% организаций контролируют и управляют доступом к ИИ, 53% стремятся обеспечить защиту, маскирование, обезличивание данных, чтобы предотвратить утечки информации в ИИ-сервисы. Бизнес также фокусируется на внедрении ИИ-шлюзов (46%), фильтрации и контроле запросов к ИИ для защиты от манипуляций и атак (42%), а также на управлении действиями автономных ИИ-моделей и агентов (37%).

Риски утечек данных в ИИ, которые признает критичными 80% российских компаний, становятся драйвером для развития нового сегмента рынка ИБ. Так, наиболее востребованными функциями для 59% респондентов решения для предотвращения утечек данных, автоматической защиты персональной и конфиденциальной информации (55%), защиты от атак через запросы к моделям (41%). Четвертую и пятую позицию занимают контроль использования несанкционированных ИИ-сервисов (30%) и защита интеллектуальных агентов (27%). Значительно меньший интерес вызывают задачи по защите моделей от копирования и цифровой маркировки контента, что свидетельствует о концентрации внимания прежде всего на защите данных и снижении операционных рисков.

По оценке «Солара», рынок решений для защиты ИИ составит 1–2 млрд руб. на базе технологий и до 3-4 млрд руб. с учетом услуг пентеста, red team и внедрения. На российском рынке защиты ИИ присутствуют более 10 компаний: стартапы с отдельными продуктами защиты ИИ, облака и экосистемы, которые строят контроль вокруг своих моделей, и классические ИБ-вендоры, достраивающие защиту ИИ к существующему стеку.