Новости

Согласно данным исследования Б1, ГК «Солар», Ассоциации ФинТех и компании HiveTrace, 97% компаний в России пилотируют, используют искусственный интеллект (ИИ) или считают его значимым для бизнеса. Для 35% компаний в России ИИ входит в тройку стратегических приоритетов, а 46% организаций рассматривают его как важный элемент бизнес-процессов.

Самым распространенным типом технологий ИИ стали большие языковые модели (LLM), которые используют 79% опрошенных компаний. 67% организаций внедряют в процессы ИИ-системы, дополненные поиском (RAG), а почти половина опрошенных (46%) использует ИИ-агентов с доступом к системам. При этом 42% компаний признают, что пока не разработаны политики информационной безопасности для ИИ или использование ИИ разрешено без технического контроля. Более того, треть организаций выделяет среди приоритетных направлений контроль «теневого» использования ИИ, управление доступом и блокировку действий неавторизованных ИИ-инструментов.

Более 80% компаний признают, что утечка данных через ИИ представляет наибольшую угрозу для бизнеса. Не менее критичны такие негативные последствия, как: галлюцинации, некорректная генерация контента (67%), компрометация данных и источников знаний (54%), регуляторные риски (47%), «отравление» данных и моделей (42%), а также злоупотребление и неавторизованные действия ИИ-агентов (42%).

Согласно данным исследования, всего 49% компаний выделяют бюджет на защиту ИИ. Их доля наиболее высока среди тех организаций, которые считают ИИ одним из трех главных стратегических приоритетов и критически важным для ключевых процессов. Более 40% опрошенных вообще не выделяют бюджет, а среди компаний, которые считают ИИ стратегическим приоритетом, доля таких организаций составила 15%. При этом 53% опрошенных планируют увеличить затраты на защиту ИИ, около четверти (23%) намерены оставить их на текущем уровне.

Среди основных мер защиты, которые уже внедряют компании, 65% организаций контролируют и управляют доступом к ИИ, 53% стремятся обеспечить защиту, маскирование, обезличивание данных, чтобы предотвратить утечки информации в ИИ-сервисы. Бизнес также фокусируется на внедрении ИИ-шлюзов (46%), фильтрации и контроле запросов к ИИ для защиты от манипуляций и атак (42%), а также на управлении действиями автономных ИИ-моделей и агентов (37%).

Риски утечек данных в ИИ, которые признает критичными 80% российских компаний, становятся драйвером для развития нового сегмента рынка ИБ. Так, наиболее востребованными функциями для 59% респондентов решения для предотвращения утечек данных, автоматической защиты персональной и конфиденциальной информации (55%), защиты от атак через запросы к моделям (41%). Четвертую и пятую позицию занимают контроль использования несанкционированных ИИ-сервисов (30%) и защита интеллектуальных агентов (27%). Значительно меньший интерес вызывают задачи по защите моделей от копирования и цифровой маркировки контента, что свидетельствует о концентрации внимания прежде всего на защите данных и снижении операционных рисков.

По оценке «Солара», рынок решений для защиты ИИ составит 1–2 млрд руб. на базе технологий и до 3-4 млрд руб. с учетом услуг пентеста, red team и внедрения. На российском рынке защиты ИИ присутствуют более 10 компаний: стартапы с отдельными продуктами защиты ИИ, облака и экосистемы, которые строят контроль вокруг своих моделей, и классические ИБ-вендоры, достраивающие защиту ИИ к существующему стеку.

Разработанный модуль системы в режиме реального времени отслеживает давление и температуру в шинах горно-шахтного оборудования — шахтных самосвалах и погрузочно-доставочных машинах. Система контроля давления шин — один из модулей решения диспетчеризации «Рексофт». Оно применимо как для подземных, так и для открытых горных работ. Система включает российские датчики давления и температуры, устанавливаемые на колеса, монитор в кабине машиниста с отображением текущих параметров, а также дешборды для инженерно-технических служб, где в онлайн-режиме отображается состояние шин оснащенного парка техники. Передача данных осуществляется по промышленному Wi-Fi.

На мониторе в кабине машинист видит температуру и давление в шинах, а также заряд батареи датчика по каждому колесу. При выходе за установленные границы (норма для данной техники рудника — от 6 до 8 бар) индикатор подсвечивает ситуацию по каждой из шин. Для инженерно-технических сотрудников данные агрегируются на дашбордах, где отображается состояние оснащенного парка техники с указанием времени последнего обновления данных. В будущем планируется расширение функционала отчетов и алармов.

В ходе проекта был настроен мониторинг состояния шин и существенно скорректированы подходы к обслуживанию. На базе аналитики существующих сроков эксплуатации шин и бизнес-процессов были изменены регламенты обслуживания, оптимизированы локации мест подкачки и состав необходимого оборудования. Кроме того, проведена работа по обучению персонала для дальнейшей самостоятельной эксплуатации системы. Также в ходе проекта объединенная команда инженеров «Норникеля» и «Рексофт» провела работу по установке оптимальных пороговых значений давления в шинах, что позволяет точнее отслеживать критические состояния и повысить время жизненного цикла КГШ.

Решение планируется масштабировать еще на четыре рудника Заполярного филиала горнометаллургической компании: «Таймырский», «Октябрьский», «Комсомольский» и «Маяк».

По данным опроса Termidesk (входит в «Группу Астра»), локальную модель для инфраструктуры VDI используют 82% респондентов, тогда как на гибридный вариант приходится 11%, а на облачный — 7%. Аналитики предлагают рассматривать эти данные как качественный срез мнений активной части рынка, а не как точную количественную проекцию на всю отрасль. В исследовании рассматривались VDI, терминальные решения и удаленный доступ к физическим рабочим станциям.

Наиболее выражено предпочтение локальной инфраструктуры в регулируемых и социально значимых отраслях. В финансовом секторе развертывание on-premise указали 96% респондентов, 91% в госсекторе и 92% в медицине. В среднем по выборке показатель составляет 82%.

При этом на ИТ-рынке в целом наблюдается встречное движение. Strategy Partners относит закрепление гибридной инфраструктурной модели, объединяющей собственные, частные и публичные облака, к технологическим трендам российского ИТ-рынка. Такой подход компании используют для повышения гибкости, отказоустойчивости и масштабируемости информационных систем.

Таким образом, инфраструктура рабочих мест пока развивается несколько иначе, чем корпоративный ИТ-ландшафт в целом. Это связано в том числе с тем, что VDI и терминальный доступ постепенно перестают восприниматься исключительно как средство удаленного подключения. Заказчики все чаще рассматривают VDI как часть единой защищенной инфраструктуры, связанной с серверной виртуализацией, средствами управления и информационной безопасностью.

Схожую картину показывает и опрос Termidesk. Среди требований к VDI управление пользовательскими профилями отметили 72% участников, многофакторную аутентификацию – 51%, единый вход – 45%. Важными остаются также стабильная работа на слабых каналах, печать, поддержка нескольких мониторов, ВКС и периферийного оборудования.

Как подчеркивают аналитики, противоречия между двумя трендами нет. Гибридная модель действительно становится естественной для корпоративной инфраструктуры, особенно там, где бизнесу нужно быстро масштабировать вычислительные ресурсы или распределять нагрузку между несколькими площадками. Но рабочее место находится на стыке большого числа критичных компонентов: учетных записей, приложений, данных, средств аутентификации, периферии и политик информационной безопасности.

Поэтому в регулируемых отраслях заказчики пока чаще стремятся сохранить контроль над этим контуром внутри собственной инфраструктуры. При этом сама архитектура вокруг виртуальных рабочих мест вполне может становиться гибридной. В ближайшие годы скорее произойдет не массовый перенос VDI в публичные облака, а постепенное усложнение таких схем, когда локальная инфраструктура рабочих мест будет взаимодействовать с облачными и распределенными ресурсами компании.

В процессе масштабирования бизнеса «Лемана Тех» столкнулась с технологической фрагментацией: каждая команда разработчиков использовала собственный подход к развертыванию Kubernetes-кластеров. Инфраструктура распределялась по разным дата-центрам и облакам (OpenStack, vSphere и Yandex Cloud), что приводило к усложнению управления, росту затрат на поддержку и рискам для отказоустойчивости. Кроме того, отсутствие единой панели мониторинга затрудняло оперативное реагирование на инциденты.

Для решения этих задач была выбрана Deckhouse Kubernetes Platform (DKP), разработанная компанией «Флант». Платформа предназначена для унифицированного развертывания, управления и эксплуатации Kubernetes-кластеров поверх различных типов инфраструктуры — в частных и публичных облаках, виртуализированных средах и дата-центрах.

Ключевой эффект внедрения заключался в создании единой плоскости управления для гибридной инфраструктуры. С помощью DKP команда заказчика успешно управляет кластерами, размещенными у различных облачных провайдеров и на разных инфраструктурных площадках. Это позволило упростить масштабирование, сократить объем ручных операций и обеспечить единообразный подход к развертыванию и сопровождению кластеров независимо от среды размещения.

Существенную роль в проекте сыграли встроенные возможности Deckhouse Kubernetes Platform по обеспечению отказоустойчивости, автоматизации и наблюдаемости. Автоматизация типовых операций и механизмы автоматического масштабирования снизили операционную нагрузку на инженерные команды и ускорили выпуск обновлений. Инструменты мониторинга и логирования, входящие в состав платформы, дали заказчику удобный доступ к метрикам и событиям по всем кластерам и приложениям.

Сейчас у «Лемана Тех» в промышленной эксплуатации находятся более 100 production-кластеров и свыше 4 тыс. узлов, созданных через внутренний портал самообслуживания. При этом управлением всей этой инфраструктурой занимается команда из 6 специалистов.

Реализованный проект подтверждает статус гибридной инфраструктуры как нового индустриального стандарта для enterprise-сегмента. Единый архитектурный контур дает крупному ретейлу инструмент для стабильной работы высоконагруженных сервисов при оптимальных затратах на поддержку. Платформа консолидирует управление любыми провайдерами и гарантирует технологическую независимость бизнеса.

Производственные мощности «ИДС Боржоми» включают шесть площадок в России, обеспечивающих широкий географический охват и устойчивость цепочки поставок. До начала проекта закупки компании были распределены между тремя различными информационными системами, Excel-таблицами и электронной почтой. Отсутствие единой цифровой среды усложняло сбор сквозной аналитики и затрудняло оперативную оценку сроков поставок.

Переход на единую цифровую платформу позволит не просто ускорить процедуру закупок, но и сформировать понятную, управляемую систему. Теперь специалисты видят весь цикл сделки в одном интерфейсе и могут с помощью инструментов аналитики принимать решения на основе объективных данных.

Специалисты «Норбит» перенесли в новую SRM сквозной цикл процесса закупки: от формирования потребности и проведения тендерных процедур до подписания договора и контроля его фактического исполнения. Для создания бесшовной рабочей среды решение интегрировали с ключевыми системами в ИТ-ландшафте – 1С:ERP, системой электронного документооборота, электронной торговой площадкой Bidzaar и сервисом проверки контрагентов «Контур.Фокус». Разработаны отчеты, которые позволяют визуально оценить качество процессов.

В результате проекта 100% закупок компании будут проводится по единым правилам. Ожидается, что средняя продолжительность закупочного цикла снизится на 20% – с 35 до 28 дней. Трудоемкость ручных операций также сократится на 20%. Единым процессом управления в SRM будет охвачено не менее 98% закупочных затрат компании. В дальнейшем «ИДС Боржоми» планирует развивать аналитические инструменты и расширять автоматизацию закупочных процессов на базе единой платформы.

Альфа-Банк построил инфраструктуру для бизнес-критичной платежной системы СБП, включающей оплату по QR-коду. Система построена на базе российской СУБД Postgres Pro Enterprise с использованием встроенного отказоустойчивого кластера BiHA. Архитектура создана с нуля на отечественном ПО без внешних компонентов кластеризации. Такой подход соответствует стратегии импортозамещения и снижает эксплуатационные риски.

В основе проекта лежало несколько ключевых требований. Принципиальным из них было создание системы сразу на российском стеке без использования зарубежного ПО. Также перед командой стояла задача обеспечить отказоустойчивость уровня Business Critical, гарантию сохранности каждой транзакции при сбое и избежать добавления лишних компонентов.

Ранее в системах с менее строгими требованиями к доступности банк использовал внешнее ПО для управления кластером, которое требовало отдельной поддержки и настройки. Для платежной инфраструктуры Альфа-Банк отказался от внешнего ПО в пользу встроенного решения — Postgres Pro Enterprise с механизмом высокой доступности BiHA. Отказ от внешних инструментов кластеризации продиктован стремлением сократить число потенциальных точек отказа и упростить сопровождение. Единая поддержка СУБД и механизма высокой доступности от одного вендора дополнительно снимает вопросы о зоне ответственности при инцидентах.

Банк развернул кластер по схеме 2 + 1. Основной узел обрабатывает все операции записи, синхронная реплика обеспечивает дублирование данных в реальном времени, что гарантирует их сохранность при выходе основного узла из строя. Третий узел выполняет функцию арбитра, исключая возможность возникновения конфликтной ситуации с двумя активными лидерами. Балансировка нагрузки осуществляется через JDBC-драйвер без использования внешнего балансировщика.

Для оптимизации производительности запросов используется модуль pgpro_pwr, который помогает выявлять наиболее ресурсоемкие операции. Для управления кластером банк тестирует Postgres Pro Enterprise Manager — инструмент с графическим интерфейсом для переключения BiHA-кластера, призванный упростить работу круглосуточной дежурной смены.

Тестирование СУБД заняло около месяца. Особое внимание уделили сценариям аварийного переключения: под нагрузкой отключались узлы, проверялась корректность обработки всех транзакций. Все failover-тесты пройдены успешно.

По итогам нагрузочного тестирования кластер показал производительность 25 тыс. TPS при объеме базы около 1 Тбайт. Ожидаемая промышленная нагрузка примерно в два раза ниже достигнутого максимума, что обеспечивает запас прочности.

В результате Альфа-Банк получил не только отказоустойчивую СУБД на российском промышленном стеке, но и управляемую архитектуру. Отказоустойчивый кластер BiHA объединил промышленную СУБД, механизм высокой доступности и поддержку вендора в одном решении, что для систем подобного класса снижает эксплуатационные риски и делает поведение кластера более предсказуемым.

MLSecOps (Machine Learning Security Operations) — подход, объединяющий машинное обучение, DevOps и информационную безопасность. Он подразумевает, что безопасность ИИ-систем обеспечивается на каждом этапе их жизненного цикла, начиная от самых ранних этапов разработки до эксплуатации. Внедрение MLSecOps позволяет существенно снизить ИБ-риски. Результаты исследования говорят о том, что пока эта методология не стала общепринятым стандартом управления безопасностью ИИ в российских компаниях.

Как отмечают аналитики, рынок MLSecOps находится на этапе становления, и единая зрелая практика пока еще не сформировалась. Защитные подходы и специализированные решения появляются разрозненно, прежде всего в тех областях, где риски уже проявились на практике и стали ощутимыми для бизнеса, разработки и ИБ-команд. Ситуация осложняется тем, что задачи безопасности ИИ-систем распределены между несколькими уже существующими функциями: безопасностью разработки, защитой данных, контролем инфраструктуры, мониторингом эксплуатации и расследованием инцидентов. Именно поэтому безопасность ML-разработки невозможно эффективно выстроить без постоянного взаимодействия ИБ-отдела с командами по исследованию данных. Значительная часть рисков возникает не только в инфраструктуре, но и непосредственно в данных, пайплайнах обучения, логике валидации и процессе поставки модели в промышленную среду.

Из-за скорости развития технологий рынок решений по безопасности ИИ очень динамичен: меняется набор инструментов, которые нужно защищать, параллельно растет набор угроз, которые необходимо предотвратить. Если еще недавно речь шла о защите от джейлбрейков и утечке персональных данных в чатах, то сейчас необходимо обнаруживать потенциально опасные действия код-ассистентов и вредоносный код в агентных навыках. Роль ИБ-вендора в данном случае — отслеживать ландшафт угроз и оперативно реагировать на его изменения: понимать, какие из рисков уже закрываются имеющимися решениями (например, они адаптируются для поиска вредоносных закладок в открытых моделях), для каких необходимо реализовывать продукты в новых классах (например, AI Firewall), а где первоочередную роль играют повышение осведомленности среди пользователей и разработчиков инструментов на базе машинного обучения — в частности, путем создания руководств, регламентов и обучающих курсов.

Не все российские организации оперативно внедряют необходимые меры контроля за ИИ-системами. Только у трети компаний есть централизованный реестр моделей. Отсутствие такого реестра повышает риск запуска непроверенного артефакта, зависимости от неизвестного источника или уязвимости в цепочке поставок.

Централизованный каталог датасетов есть меньше, чем у половины (43%) компаний. С точки зрения безопасности датасеты — это не вспомогательный ресурс, а фундамент. Именно через них в AI/ML-контур могут проникнуть ошибки, а также могут произойти утечки, нарушения прав доступа и возникнуть риски скрытого изменения поведения модели.

Контроль версий моделей реализован у 61% компаний. Значительная доля компаний, не владеющих информацией о наличии контроля версий моделей, косвенно показывает, что AI/ML-ландшафт во многих организациях пока еще не собран в единый операционный контур. Если процессы существуют, но не воспринимаются как заметный элемент архитектуры, это указывает на размытость ответственности между командами разработки, управления данными, ИТ и ИБ.

Рынок уже научился переносить на ИИ часть зрелых практик классического ИБ- и ИТ-управления. Однако из-за отсутствия устоявшихся методологий защиты некоторые аспекты безопасности остаются без внимания. Так, контроль доступа и доставки (фундаментальная практика ИБ) есть у большинства (59%) компаний. Однако наличие базовых практик не гарантирует защищенность ИИ-среды. Для достижения высокого уровня безопасности требуется расширение зон контроля: защита наборов данных, контроль промптов, обучение модели и т.д. Защиту датасетов внедрили 46% компаний. Ее отсутствие означает, что компания фактически оставляет без контроля основу будущего поведения модели.

Высокая доля внедрения ролевой модели доступа показывает, что для большинства компаний тема управления ИИ уже вошла в область корпоративного управления. Это важный маркер зрелости: рынок начинает понимать, что доступ к модели, датасетам, inference-сервисам и связанным с ними артефактам должен регулироваться так же строго, как и доступ к критически важным ИТ-системам.

При этом наиболее слабым звеном в системе защиты ИИ остается мониторинг drift: только 15% компаний внедрили его, еще 15% пилотируют, а у 70% он вовсе отсутствует. Это один из самых важных результатов, потому что именно мониторинг drift отделяет «формально работающую» модель от реально управляемой.

В проектах «Гарден Сити» одновременно участвуют архитекторы, инженеры, снабженцы, строители, авторский надзор, сервисные подразделения и команды благоустройства. Работы распределяются по исполнителям на «Agile-досках»: на тикетах указывается плановая и фактическая загрузка, статус выполнения. Внутренние обращения также фиксируются в системе и направляются ответственным сотрудникам.

Для хранения регламентов, проектных наработок и шаблонов документов в «Гарден Сити» подключили «Базу знаний». Нужные материалы сотрудники находят по меткам и связям между статьями.

Основой для цифровизации внутренних процессов компании служит платформа Directum RX. Когда в «Гарден Сити» появилась необходимость в инструменте для проектной работы, предпочтение отдали продукту той же экосистемы.

В результате был сделан заметный шаг от системы электронного документооборота к единой цифровой среде компании. Удалось создать новую корпоративную культуру, выведя работу пользователей на новый уровень. В результате на 70% ускорены бизнес-процессы, а экономия составила 400 тыс. руб.

Главной сложностью компании называют высокую стоимость ИТ-оборудования, прежде всего оперативной памяти и графических ускорителей: об этом сообщили 28% респондентов. По 18% опрошенных сталкиваются с трудностями при поиске оборудования в нужной конфигурации и с дефицитом запасных частей для ремонта. Еще 19% отмечают необходимость обновления или ремонта техники, 17% — нехватку кадров и инженеров. Среди других барьеров — ненадежность поставщиков, непредсказуемая логистика, отсутствие подходящих площадей и гарантий соблюдения сроков поставки.

Компании с гибридной инфраструктурой сталкиваются с такими проблемами чаще пользователей публичного облака: хотя бы одну сложность отметили 72% и 69% респондентов соответственно. Наиболее заметна разница в оценке стоимости оборудования — 34% против 21%. Найти технику в нужной конфигурации сложно 23% пользователей гибридной модели и 12% пользователей публичного облака, а с дефицитом запчастей сталкиваются 22% и 13% соответственно. О необходимости обновления или ремонта оборудования сообщили 20% пользователей гибридной инфраструктуры и 18% пользователей публичного облака.

В ближайшие 12 месяцев почти половина рынка ожидает дальнейшего удорожания инфраструктуры. Рост цен на ИТ-оборудование прогнозируют 48% респондентов, на GPU-ресурсы — 47%. Среди ИТ-экспертов доля ожидающих повышения цен достигает 55% по обеим категориям. Одновременно 45% участников исследования считают, что значимость GPU-ресурсов для бизнеса продолжит расти.

На этом фоне компании намерены активнее использовать облачные и ИИ-сервисы. Увеличить потребление услуг ИИ-провайдеров планируют 48% респондентов, платформ для создания ИИ-агентов — 46%. Рост использования облачных систем хранения и обработки данных ожидают 45% компаний, облачных сервисов для работы с базами данных и облачных технологий для бизнеса — по 44%.

Аппетиты к ИИ опережают качество управления и инвестиции. 58% компаний подтвердили, что вообще не включили ИИ в ИТ-стратегию, либо пока рассматривают его только как перспективное направление. Лишь 22% респондентов сформировали цели и закрепили ответственных за развитие ИИ, у 11% есть утвержденная стратегия и всего 9% выделили под ИИ отдельную структуру.

При этом исследование показало взаимосвязь между зрелостью системы управления ИИ и объемами инвестиций. Так, среди компаний с выделенным ИИ-офисом половина респондентов инвестирует в ИИ от 5% до 15% от ИТ-бюджета, а еще треть — более 15%. В то время как 94% предприятий, где ИИ не упоминается в стратегии, вкладывают в него менее 5% всех технологических расходов.

Все это отражается и на подходах к оценке финансовых результатов: 44% компаний вообще не измеряют эффект от внедрения ИИ, еще 25% отслеживают отдельные показатели, но не связывают их с экономикой бизнеса. В результате, почти 7 из 10 компаний пока не могут показать, что конкретно изменилось в экономике бизнеса после применения ИИ.

Пока сложно с эффектом масштаба

Наиболее частая модель интеграции ИИ в бизнес-процессы — точечное внедрение, через отдельные эксперименты (44%). 22% компаний используют ИИ сразу в нескольких подразделениях, а 14% применяют на постоянной основе в одном или нескольких бизнес-процессах. Встроить ИИ в ключевые процессы как стандартный инструмент работы пока смогли лишь 12% организаций.

Существенным барьером масштабирования ИИ-инициатив остается недостаток инфраструктуры и внутренних компетенций. Почти половина компаний (45%) используют отдельные облачные сервисы и специализированные инструменты под конкретные задачи, тогда как единую масштабируемую ИИ-платформу развивают только 13% организаций.

Внедрение ИИ по-прежнему во многом держится на отдельных специалистах у 48% компаний. Специализированные команды сформированы у 19% респондентов, а программы развития ИИ-компетенций только у 14%. При этом заметна прямая зависимость между навыками и внедрением: в компаниях с высоким уровнем интеграции ИИ в ключевые бизнес-процессы, 88% системно развивают внутреннюю экспертизу в этой технологии.

Безопасность использования ИИ остается зоной риска

Отдельной проблемой остается управление рисками. 47% компаний не имеют внутренних правил или политик, регулирующих применение искусственного интеллекта. Еще 20% находятся на этапе разработки отдельных документов. Только 13% организаций внедрили политики по работе с данными и этике использования ИИ и лишь 17% регулярно оценивают риски и применяют меры защиты.

Даже среди крупнейших компаний с выручкой свыше 10 млрд руб. почти половина не имеет формализованных правил использования ИИ. Это показывает, что масштаб компании сам по себе не гарантирует готовности управлять рисками технологии.

Компании рассматривают ИИ прежде всего как инструмент повышения эффективности в тех процессах, где есть данные, проще встроить технологию в работу и быстро получить измеримый бизнес-результат. Поэтому основные инвестиции в ИИ в ближайшие годы, вероятно, будут направлены на те сценарии, в которых легче пройти путь от работающей модели до понятной экономики.