Машинное обучение

Оцифровка клиентского опыта и оценка влияния удовлетворенности клиента на прибыльность – полезный показатель для компаний, однако комплексно подойти к решению этой задачи непросто. В «Сбере» удалось построить модель, показывающую связь между удовлетворенностью клиента и доходом. О подходах к реализации проекта, решении возникавших проблем и первых результатах рассказывает Полина Лямина, лидер команды «Исследование и развитие клиентского опыта клиентов Малого и Микро Бизнеса» и номинант на премию Data Award.

— В чем суть решаемой вами задачи?

Сколько времени существует понятие «клиентский опыт», столько же бизнес задается и вопросом: «Сколько приносит денег качественный сервис?». Ранее мы смотрели только на затраты, которые несем при возникновении жалоб, но в этом случае мы не понимали, сколько приносят довольные клиенты. Целью проекта стал поиск ответа на этот вопрос с помощью моделей машинного обучения.

— Как приступили к решению?

Мы решили разработать методологию, способную показать, как наши действия влияют на чистый операционный доход от клиента. Основной целью проекта стал расчет финансовых потерь от некачественного сервиса.

Для того, чтобы понять, у каких клиентов он действительно был некачественным, нам пришлось решить еще одну задачу – определить уровень удовлетворенности у всех наших клиентов. По части клиентов в банке имеется информация в виде оставленной обратной связи – опросы, жалобы и т.п. Нам предстояло решить вопрос с тем, как быть с остальными клиентами, по которым у нас отсутствует обратная связь. Логичным выходом было бы спросить самих клиентов, но, во-первых, мы не хотели беспокоить клиентов, в том числе нарушать внутреннюю политику частоты контактов, а во-вторых, опросы являются достаточно затратными в части ресурсов.

— В этом случае на помощь тоже приходит машинное обучение?

Да, мы построили модель, которая предсказывает, насколько удовлетворен клиент, исходя из его фактического опыта взаимодействия с банком. Эта модель получила название Smart RTFB (Smart Real Time Feedback).

Расчет модели строился исключительно на объективных показателях, например, таких как длительное ожидание в очереди, сбои при проведении платежей в интернет-банке, отказ по кредиту и т.д. Согласитесь, очень сложно быть довольным сервисом, если происходят подобные случаи. Мы собрали более 250 значимых факторов, которые негативно влияют на клиентский опыт и удовлетворенность в целом.

С помощью исторических данных мы смогли получить степени неудовлетворенности каждым видом произошедших проблем, на основе чего построили предсказательную модель, которая показывает вероятность негативного отношения к банку. Таким образом, мы получили полную картину того, как к нам относятся клиенты.

— А как вы оценили соответствие предсказаний реальному положению дел?

Мы проводили количественные исследования клиентов и задавали им вопросы относительно их удовлетворенности обслуживания в банке. Более 90% ответов клиентов совпали с предсказанием модели.

— Итак, вы узнали степень удовлетворенности клиентов…

После получения оценок удовлетворенности можно было переходить к следующей части – непосредственно расчету финансового эффекта. Для начала мы распределили всех клиентов на группы, их получилось шесть. Основными характеристиками были организационно-правовая форма, длительность работы с банком и уровень доходов.

Далее мы убедились, что в каждой группе у клиентов, у которых нет жалоб и низких оценок, чистый операционный доход (ЧОД) растет. После этого проверили гипотезу о том, что жалоба и низкая оценка являются тем триггером, после которого ЧОД падает. Гипотеза подтвердилась.

Наконец, мы взяли временные ряды ЧОД клиентов с негативом и без него, и сравнили их. Получилась определенная «дельта» между временными рядами. Эта разница и составляет тот недополученный доход, который в случае образования жалобы или негатива имеет банк.

— Что «под капотом»? На какой математике базируется решение?

Нами было разработано два пайплайна для решения задачи: интерпретируемый (для принятия решений) и неинтерпретируемый (для более точного предсказания). В качестве разметки для моделей были использованы данные опросов клиентов об их уровне удовлетворенности. На их основе были обучены алгоритмы машинного обучения, которые пытаются выявить зависимость ответа клиента от его признаков.

В интерпретируемом пайплайне за базовый алгоритм берется модель логистической регрессии. Так как сам алгоритм довольно слабый, для большей прогностической способности используется некоторая технология повышения качества. Она сложная и длинная, но если коротко, то она основана на методе весомости признака (WoE-анализ), анализе статистической обоснованности и достаточности модели и разных алгоритмах отбора признаков. В неинтерпретируемом пайплайне используется ансамбль моделей, а именно «стекинг над бустингами».

— Что в ходе проекта было самым сложным?

У нас была амбиция завершить проект за три квартала, и самое сложное было уместиться в заданные сроки, так как параллельных задач очень много. Но мы справились.

— Какие результаты достигнуты?

По результатам расчетов был сформирован план мероприятий по устранению основных недочетов в работе подразделений, участвующих в процессе обслуживания клиентов и в разработке продуктов для них. Важно, что методология получила высокое одобрение и была положительно принята коллегами. Благодаря этому цифры, полученные в результате расчетов, будут являться основным аргументом при принятии решения о доработках систем и процессов.

— Пытались ли оценить финансовый эффект от новых знаний?

Да, конечно, это была одна из основных целей. Мы смогли рассчитать, сколько денег банк не получил от некачественного сервиса. Сумма получилась значительная и превысила в несколько раз нами ожидаемую.

— Каково значение этого проекта?

Практически все компании, которые так или иначе сталкиваются с клиентским опытом, пытаются его оцифровать. С уверенность могу заявить, что наш подход является инновационным и уникальным. Теперь мы точно можем ответить на вопрос: «Сколько стоит хороший сервис?»

Кроме того, разработанная модель Smart RTFB позволила получить больше знаний о том, как к нам относятся все наши клиенты, без исключения.

— В каком направлении будет развиваться это решение?

На текущий момент прорабатывается встраивание модели в общий контур работы с негативными сценариями (комплексная система компенсаций). Дополнительно мы встроим модель в общую систему замеров удовлетворенности, а в дальнейшем, возможно, откажемся от ряда опросов, которые мы направляем клиентам.

— Дорогу каким новым инициативам это может открыть?

Оцифровка клиентского опыта поможет в дальнейшем качественно приоритезировать все доработки продуктов и сервисов, которые так или иначе связаны с клиентом. Также это поможет выстроить систему проактивного взаимодействия с клиентом до того, как он перейдет в критическое состояние негатива и начнет жаловаться или покинет банк. Таким образом, нововведения созданы, в первую, очередь, для клиента, чтобы он получал услуги и сервисы высокого качества.

В банке «Открытие» запущен сервис «Советник», который позволил оптимизировать работу с клиентами из малого и среднего бизнеса и показал серьезные результаты, в том числе рост среднего комиссионного дохода, сокращение оттока, рост лояльности и т.п. Решение построено на нескольких технологиях машинного обучения и направлено как на самих клиентов, так и на сотрудников банка. О реализации этого проекта, его роли в бизнесе и достигнутых бизнес-эффектах рассказал Антон Козлов, вице-президент, директор департамента CRM МСБ банка «Открытие» и номинант на премию Data Award.

- Какова история проекта «Советник»? Что было раньше, какими инструментами поддерживалась работа банка с клиентами из малого и среднего бизнеса?

Этот проект развивается нашей командой уже около пяти лет. Раньше мы, как, наверное, большинство на этом рынке, для работы с клиентами МСБ использовали CRM-кампании в различных каналах, основанные на отдельных моделях (склонности к продукту, прогнозов оттока и т.д.).

- В чем заключались проблемы, почему потребовалось создание этого решения?

Проблемы были достаточно стандартные для бизнеса. Всем важно найти дополнительные источники увеличения доходности клиента и самой клиентской базы, повысить лояльность клиента, снизить нагрузку на линию поддержки и многие другое. При этом в решении таких проблем есть объективные ограничения: коммуникационная политика, то есть частота контактов с клиентами, доступные ресурсы, бюджеты. В какой-то момент стало понятно, что несколько различных целей можно достичь одним способом, объединяющим в себе отдельные решения. Тесты, проведенные еще в начале разработки, полностью подтвердили правильность этого подхода.

- В чем инновационность разработанного решения?

Во-первых, нам потребовался новый подход к решению бизнес-задач и работе банка с клиентами за счет объединения в одно целое различных инструментов Big Data, которые усиливают друг друга за счет согласованной работы. Благодаря модульной структуре можно быстро получать ощутимые эффекты даже в минимальной конфигурации, делать акцент на решении тех бизнес-задач, которые актуальны именно на текущий момент, постепенно развивать структуру сервиса, наращивая его возможности. Наконец, можно отметить разнообразие данных, которые получается успешно монетизировать в рамках созданного сервиса.

- На каких технологиях построено решение?

Основной блок решения – внутреннее ядро, которое обрабатывает данные. Оно использует такие технологии машинного обучения, как градиентный бустинг (Light Gradient Boosting, LGB), сети долгой краткосрочной памяти (Long short-term memory, LSTM), алгоритм «k ближайших соседей» (k Nearest Neighbor, KNN), обработка естественного языка (Natural Language Processing, NLP), а также обучение с подкреплением (Reinforcement Learning). Все реализовано на Python.

- Какими силами и в какие сроки реализовывался проект?

Состав и численность команды за 5 лет развития проекта менялись, и это не только специалисты по работе с данными. Достигнутый результат был бы невозможен без разработчиков, UX/UI-дизайнеров, тестировщиков, специалистов CRM. Ядро команды было достаточно компактным – около 10 человек.

- Что было самым сложным?

Самым сложным было сделать так, чтобы все наработки выстроились в одну логичную концепцию, которая была бы востребована бизнесом и клиентами. Были также трудности с качеством некоторых новых на этом рынке моделей. Например, первая попытка сделать модель, оценивающую лояльность конкретного клиента через прогноз NPS (Net Promoter Score — «индекс потребительской лояльности»), была неудачной. Однако через три года, после появления хорошей модели оттока и дополнительных данных, все получилось. Сложным было также выстраивание архитектуры данных, взаимодействия между всеми системами, включая сервера интернет-банка, баз данных и приложений. Готовых решений, четких технических заданий не было, поэтому, конечно, возникали трудности и ошибки, но целевая концепция была понятна, мы постепенно двигались вперед и со временем нашли все необходимые решения.

- Что собой представляет созданное решение?

Основная идея была достаточно простая: при работе с клиентами МСБ отказаться от отдельных CRM-кампаний на основе моделей и триггеров. Хотели перейти на формирование комплексных рекомендаций, советов, подсказок для конкретного клиента или менеджера с использованием data-driven подхода, учетом максимального количества факторов и взаимосвязей. Постепенно мы пришли к непростому, но надежно работающему механизму сбора и обработки данных, имеющему несколько интерфейсов. В итоге получился сервис, который может подсказать наилучшее решение клиенту или менеджеру по очень широкому кругу вопросов, предупредить или обратить внимание на какие-то риски.

Если описывать устройство сервиса «Советник» упрощенно, то это четыре связанных блока: внутреннее ядро, которое обрабатывает данные, блок рекомендаций для клиента в интернет- и мобильном банке, блок рекомендаций для менеджера (сотрудника банка) в операционном CRM, и блок Reinforcement Learning, работающий на улучшение формы рекомендаций. Блоки состоят из отдельных модулей, каждый из которых отвечает за определенную функцию в работе с данными, например, прогнозирование снижения активности клиента, или прогноз возникновения кассового разрыва в бизнесе клиента. В итоге у нас нет отдельных CRM-кампаний, связанных, например, с продажами или удержанием клиентов, но при этом бизнес-показатели улучшились. Чтобы лучше понять, что такое сервис «Советник», очень рекомендую посмотреть трехминутное видео, где наглядно показаны основные функции.

- На кого в большей степени рассчитано решение: на внутренних пользователей или клиентов? Чья работа с ним даст наибольший эффект?

Сервис «Советник» рассчитан на разных пользователей. В интернет-банке он используется только клиентами, и в основном это микробизнес или низкий по выручке сегмент малого бизнеса. В операционном CRM решение работает только для внутренних пользователей, и в основном при работе с клиентами среднего бизнеса или высоким сегментом малого бизнеса. Так как одна и та же информация полезная для одних пользователей, бесполезна или избыточна для других, есть отличия в наборе предоставляемой информации. Скажем, клиент в интернет-банке не видит некоторые элементы, которые видит менеджер в операционном CRM – например, оценку лояльности по отношению к банку или потенциал по доходу. И, наоборот, менеджер не видит часть того, что видит клиент – например, события, происходящие у контрагентов клиента. Поэтому сложно однозначно сказать, что дает наибольший эффект. Но если говорить об отдельных метриках эффективности, то, возможно, на количество клиентов или обращений в поддержку больше влияет «Советник» для клиента в интернет-банке. А если говорить о влиянии на доходность, то скорее всего это будет «Советник» в операционном CRM для менеджера.

- В чем состоят «фишки» решения? Чем вы больше всего гордитесь?

Сервис «Советник» достаточно сильно поменял подход банка к работе с клиентами МСБ. С помощью данных удалось создать стратегию win-win, когда выигрывают все – и бизнес, и клиенты. Эти результаты – хороший повод для гордости.

Но если говорить о чем-то совсем конкретном, то на мой взгляд, одна из важнейших «фишек», где результаты превзошли ожидания – блок Reinforcement Learning, который запустили в ноябре 2022 года. Даже если не развивать остальные направления, он один может обеспечить почти непрерывный прирост дохода. В реальных условиях, почти сразу после запуска, мы увидели увеличение конверсии предложений продукта на 15% только за счет использования RL-блока. Это достаточно много, учитывая, что это отсчет от «высокой базы», так как конверсию уже максимально подняли другими средствами так, что дальше каждый процент повышения дается с большим трудом. И самым хорошим оказалось то, что это было только начало роста эффективности, который продолжился по мере работы агента в RL-модели, с потенциалом увеличения минимум до 25%.

В этом блоке работают два модуля. Первый с помощью технологий RL стремится достичь максимальной конверсии, балансируя лиды между разными коммуникациями. Второй с помощью технологий NLP, подсказывает, что именно нужно изменить в коммуникациях, чтобы увеличить конверсию. Таким образом, получается замкнутый цикл с постоянным улучшением.

- Каковы бизнес-результаты?

Могу поделиться основными бизнес-результатами по результатам А/В-тестирования. Замеры делались несколько раз в разное время. Отмечен рост 10-12% среднего комиссионного дохода от клиентов, сокращение оттока активных клиентов на 38-43%, снижение количества обращений клиентов в поддержку на 15-20%. При этом рост лояльности составил 8-10%.

- Пытались ли оценивать экономический эффект? Какие деньги приносит (и способен принести) сервис?

На всю клиентскую базу сервис «Советник» масштабировали сравнительно недавно – в декабре 2022 года, а до этого сервис был доступен только для части наших клиентов. Сейчас наблюдаем быстрое увеличение количества как новых, так и постоянных пользователей сервиса. Пока рост проникновения кратно опережает рост клиентской базы. После стабилизации проникновения в клиентскую базу будет возможно точно оценить экономический эффект. Предварительная оценка на основе имеющихся данных – дополнительный доход около 6,5-7 млн руб. в год на каждую тысячу пользователей сервиса.

- Какую роль играет реализация проекта в бизнесе компании? Какие возможности он открывает?

На данный момент сервис существует как готовый функционирующий продукт, встроенный в наши бизнес-процессы. Кроме основных бизнес-эффектов, которые я привел раньше, использование сервиса дает нам дополнительные бонусы. Это сокращение потребности в штате специалистов CRM, снижение критической зависимости от производителей импортного ПО (в нашем случае SAS), повышение эффективности работы клиентских менеджеров. Кроме того, удалось уменьшить стоимость привлечения и обслуживания, снизить информационную нагрузку на клиента и сформировать относительно небольшой, но стабильный источник привлечения новых (и, что важно, качественных!) клиентов.

- В каком направлении будет развиваться проект?

Конечно, мы планируем расширение функционала. Еще несколько модулей могут быть встроены в сервис уже в этом году. Кроме того, ожидаются некоторые улучшения с помощью доработок систем по результатам полученного опыта промышленной эксплуатации.

Планируется также дальнейшее развитие блока Reinforcement Learning, как количественное – добавление новых продуктов, так и качественное – развитие модуля NLP. Пока все это будет касаться только клиентов из малого и среднего бизнеса, потому что именно он является зоной ответственности нашей команды. Однако если говорить о перспективах развития вообще, то область применения такого data-driven подхода, конечно, не ограничивается только взаимодействием банка и клиентов МСБ. Буду рад, если наш пример побудит на создание аналогов в других организациях и сферах деятельности или, как минимум, позволит по-новому взглянуть на работу с данными.

В X5 запустили продукт «Управление товарной представленностью», в котором модели машинного обучения определяют нетипичное отсутствие продаж по товару в конкретном магазине и шлют уведомление персоналу. Это позволило повысить доступность товаров на полках и объемы продаж. Для детектирования нежелательных событий в магазинах, таких как отсутствие товара на полке, нарушение выкладки или отсутствие ценника, используется анализ чеков. В результате время обнаружения проблемы не превышает часа.

В рамках еще одной инициативы был осуществлен переход с инструмента расчета объема промо-товаров, реализованного в SAP BW, на собственное решение. При этом точность прогноза относительно старого решения в ряде случаев выросла до 40%, на AB-тестах подтвержден значительной рост товарооборота и маржи, а также сокращение распродаж после промо-акций.

О реализации этих проектов и их результатах рассказала Елена Фатыхова, руководитель направления поддержки и сопровождения платформы прогнозирования X5 и номинант на премию Data Award 2023.

— Какие задачи решает платформа прогнозирования X5, когда создана, на каких технологиях работает?

Платформа прогнозирования Х5 выросла из продукта «Спрос», команда которой была сформирована в 2019 году. В его рамках был реализован прогноз продаж для логистики и коммерции – нам важно знать, какое количество товара, в каком магазине и в какой день будет продано и обеспечить продажи поставками. Так мы понимаем, сколько товара закупать у поставщика под промо и регулярные продажи. По мере развития этого продукта и добавления новых продуктовых инициатив, стали развиваться общие компоненты, которые переиспользуются и помогают быстрее внедрять новые функции, а также запускать новые продукты. Так и появилась платформа прогнозирования. В стек использованных при ее создании технологий входят Hadoop, Airflow, Kubernetes и Spark.

— Какие направления работы стали наиболее актуальными в последнее время?

На текущий момент наиболее актуальным стало направление долгосрочного прогнозирования. Отдельно стоит сказать про развитие управления товарной представленностью: мы обнаруживаем нежелательные события – факты снижения доступности товара для покупателей, а также анализируем факторы, которые к этому привели.

Кроме того, в начале года мы столкнулись с объективной необходимостью ускоренного перехода на собственные решения. Так, например, в торговой сети «Пятерочка» мы за два месяца перешли с инструмента прогноза промо иностранного вендора на собственное платформенное решение на базе машинного обучения. Это, конечно, обеспечило не только поддержку критичных бизнес-процессов, но и повысило качество инструмента, в том числе точность прогнозов.

— С какими именно нежелательными событиями вы боретесь? Почему они происходят?

У нас есть модель, которая в режиме времени, близком к реальному, определяет, что продажи в магазине по конкретной позиции нетипично отсутствуют. Она отмечает высокую вероятность того, что продажа должна была случиться, однако этого не произошло. В этом случае мы говорим, что произошло какое-то событие, которое помешало покупателю приобрести товар: отсутствие товара на полке, нарушение выкладки, отсутствие ценника. Мы не знаем, что именно произошло, но знаем, что возник фактор снижения доступности товара для покупателя.

— Во сколько оцениваются потери от таких событий, наверняка вы это пытались в каком-то виде оценить?

Довольно сложно произвести такую оценку, ведь ее невозможно валидировать. Мы можем оценить с помощью продвинутых математических методов, какие бы продажи случились, если бы «нежелательные события» не произошли, но качество этой оценки невозможно замерить достоверно. Тем не менее, наши оценки доходят до 20% оборота по отдельным категориям товаров, и экспертная аналитика показывает, что на эти цифры можно ориентироваться, чтобы понимать потенциал создаваемых решений.

— Как боролись с этим до сих пор, что получалось хорошо, а что – не очень?

Есть два подхода к решению этой проблемы. Первый из них – жесткий контроль, но он требует большого человеческого ресурса. Второй вариант – автоматическая проверка данных и выставление заданий на этой базе.

В прошлом компания использовала довольно простые эвристики. Например, по наиболее продаваемому ассортименту у магазина должна быть хотя бы одна продажа в день. Если продажи по какой-то позиции не случалось, то персоналу было необходимо проверить, в чем причина, и устранить ее. Проблема заключается в том, что в этот список так или иначе могли попасть позиции, которые не продавались по другим причинам – например, именно в этом магазине на них просто нет спроса. Сотрудникам добавлялось работы по проверке, которая не всегда была оправданной. Поэтому нам было важно максимально точно идентифицировать случаи, где проблема действительно есть, и не нагружать магазин лишней работой, а наоборот – помогать более точечно находить проблемы и наращивать товарооборот.

— Почему это важно для бизнеса, помимо собственно минимизации упущенных продаж?

Здесь очень много факторов. Во-первых, это лояльность наших покупателей и привлекательность торговой сети. Если покупатели не находят то, зачем пришли, то могут и не вернуться. Для нас важно, чтобы гости находили на полке товар, который им нужен, и возвращались снова и снова.

Во-вторых, устранение таких проблем за счет цифровых решений напрямую влияет на рост продаж. Если с товаром на полке проблема – его не покупают.

В-третьих, если продажа не случилась, то мы не понимаем потенциал продаж и в будущем, исходя из заниженной оценки, прогнозируем более скромные показатели и везем меньше товара в магазин.

Наконец, такая система в конечном счете влияет на сокращение трудозатрат персонала. Сотрудникам не нужно проверять все полки и весь ассортимент, они точечно проходятся по нашим заданиям, а остальное время уделяют гостям, приемке и множеству других своих задач. Упростить работу сотрудников магазинов, помочь им достигать свои цели по показателям – для нас это очень важно.

— Какие варианты решения проблемы рассматривались? В чем их плюсы и минусы?

Решение на базе чековых данных, если честно, довольно очевидное. К тому же анализировать чековые данные нам все равно нужно, и восстанавливать продажи – тоже нужно, так что это естественное развитие системы прогнозирования для переиспользования наработок в других функциях. Мы в целом стараемся смотреть на вещи широко и думать, где еще могут быть полезны наши решения, ведь синергия между функциями и бизнесами – в приоритете для X5.

Альтернативный способ решения вопроса – видеоаналитика. Я бы не сказала, что он конкурирующий: если бы видеоаналитика была, мы бы могли использовать их разметку для обучения моделей. Да и в целом решения могли бы дополнять друг друга. Но проблема видеоаналитики в том, что у нас очень много магазинов, а оборудование для аналитики довольно дорогостоящее и оборудовать все магазины было бы просто нецелесообразно. К тому же у нас широкая ассортиментная матрица, и задача по распознаванию товаров на полке тоже становится довольно объемной. Поэтому использование подхода с чековыми данными стало рациональным решением проблемы с точки зрения бюджета, качества и сроков.

— Вероятно, аналитикой чеков в X5 занимаются уже давно. Какие задачи уже удавалось эффективно решить?

Данные по чекам используются в разных продуктах – например, в подразделении, занимающемся управлением потребительской ценностью (Customer Value Management, CVM), команды используют их для создания таргетированных маркетинговых акций.

— Чеки появляются, когда клиент уже покинул магазин. Как на основе чеков можно оперативно выявить проблему на полке?

Чек появляется, как только он был пробит. Да, могут быть некоторые временные задержки, но у нас чек оказывается не позднее чем через полчаса после того, как он был сформирован на кассе. Разумеется, мы уже не успеем предложить этому покупателю товар, который он не смог найти, но мы узнаем о проблеме и устраним ее для наших следующих гостей. Мы видим, как после наших сигналов продажи возобновляются, и это отличный эффект. Ведь лучше исправить обнаруженную проблему, чем продолжать упускать продажи.

— В чем суть проекта, что было сделано?

В течение дня мы каждый час формируем сигналы и отправляем их в магазины. Их получают директора и администраторы. На старте проекта для пилота мы разработали телеграм-бота, где зарегистрировался персонал. Сотрудники получали оповещения и шли их отрабатывать. На каждый сигнал по своему магазину они в ответ указывали нам, что действительно есть проблема и называли причину, либо отвечали, что все в порядке и система ошиблась. На основе этой обратной связи мы оценивали качество модели и работали над тем, чтобы повысить точность сигналов. Когда точность показалась достаточной, мы запустили AB-тест. В пилотной группе было 300 магазинов, которые получали сигналы, а в контрольной – 300 магазинов, которые сигналы не получали. По результатам теста мы произвели точечную оценку прироста товарооборота. Мы увидели хороший прирост при том, что уведомления рассылались ограниченно, а не по всем позициям, так как мы не могли перегружать сотрудников. Так мы убедились, что действительно приносим финансовый эффект, а не просто добавили работы сотрудникам.

Далее мы интегрировали нашу платформу со стандартными системами магазина и отказались от телеграм-бота. Теперь сотрудники отрабатывают наши задания в своих привычных инструментах. При этом если задание отработано в одном инструменте, то и в другом оно отмечается как сделанное. Нам очень важно, чтобы решением было удобно пользоваться.

— Что представляет собой созданное решение? Как выглядят его сигналы?

По сути само решение не имеет интерфейса, мы взаимодействуем с существующими в компании системами. Там в стандартной для сотрудников форме появляется задание от нашей системы наряду с другими. Указывается время срабатывания уведомления, наименование и код товара, также есть возможность ответить на сигнал: указать корректный он или нет, а если проблема подтверждается – выбрать причину.

— Сколько времени проходит между появлением проблемы и первыми сигналами о том, что «что-то не так»?

От получаса до часа, не более.

— А сколько времени детектирование проблем занимало раньше? То есть какого сокращения времени устранения проблем удалось достичь?

Это очень хороший вопрос. Конечно, сотрудник мог проходить между полками и заметить, что есть проблема нехватки товара. Но может быть и так, что сотрудник не увидел товар на складе и не выложил его. Или может быть, что в системе на остатке числится товар, а по факту его нет. В этом случае система пополнения думает, что продажи обеспечены, и товар в магазин не везут. Здесь до момента, пока проблему обнаружат, может проходить более суток.

— Как эти результаты оцениваются в деньгах, ведь невозможность взять с полки товар – это прямые потери магазина?

Мы называем это упущенными продажами. Результат мы оцениваем на базе АВ-теста, это самый достоверный способ сказать, что изменение продаж произошло именно за счет воздействия нашего инструмента, а не каких-то других факторов. Кроме того, мы оцениваем потенциал по упущенным продажам на базе восстановленных продаж, эта цифра получается из анализа динамики продаж в определенном временном периоде и на соседних объектах. Условно, если мы в среднем продаем 9 штук, а сегодня продали 2, то 7 штук мы восстановим. Логика модели сложнее и учитывает множество факторов, но в целом можно описать это так.

— Каковы направления развития этого проекта?

Мы продолжаем развивать модель в сторону повышения точности детектирования проблем, а также большой упор делаем на определение их причин. Ведь снижение доступности происходит не только из-за нарушения процессов в магазине. Сотрудник может повлиять на это, если товар числится в остатках. Ровно такая проверка стоит перед отправкой уведомления: нет смысла отдавать задание в магазин, если у них нет остатка.

Но в целом по цепочке может быть много причин: нарушение уровня сервиса поставщика, некорректные параметры в системе и т.п. Мы активно движемся в сторону их идентификации и развиваем инструменты для этих функций.

— В начале года SAP уведомил вас об отключении своего облака. Каков был масштаб проблем: насколько сильным был этот удар и каких систем коснулся?

Да, в марте нас предупредили о том, что мы больше не сможем пользоваться облаком SAP. Штаб импортозамещения нашей компании начал активно прорабатывать вопрос: каких процессов это касается, какие альтернативы есть, что необходимо предпринять. По большей части это коснулось отчетности, так как в SAP BW реализуется именно отчетность. Но также там был реализован функционал прогноза промо-продаж. К этому моменту у нас уже год функционировало собственное решение для торговой сети «Перекресток» на базе платформы прогнозирования и, конечно же, у нас были планы перевести на него и торговую сеть «Пятерочка». Но в «Пятерочке» существенно больше пользователей, и переход планировался в течение года. В новой ситуации не было сомнений, что переезжать нужно именно на наше решение: оно уже было готово, но пришлось ускориться.

— В чем была задача прежнего решения для расчета объема промо? Кто его использовал и какие результаты получал?

Прошлый «промо-калькулятор» имел очень простую логику. Пользователь самостоятельно выбирал аналогичный период промо-акции или товар-аналог и его период промо. Далее на базе прошлых продаж составлялся прогноз будущих продаж.

Инструмент использовали категорийные менеджеры, они получали прогноз продаж на выбранные магазины и позиции по дням. Никакие особенности SAP BW не использовались, просто исторически инструмент реализовали в этой системе, так как в BW содержались все нужные для расчетов данные. Это было задолго до того, как в компании появились другие технологии по работе с данными.

— Почему уже заранее началась разработка замещающего решения? Что не нравилось в старом, что хотелось улучшить?

Как я уже сказала, подходы к прогнозированию были довольно тривиальные и не учитывали ничего, кроме факта продаж в одной исторической точке. Новые подходы позволяли учитывать различные факторы: цену, сезон, расположение товара в каталоге и его предложение на кассе, фактор предпраздничных дней. Кроме того, мы учитываем динамику продаж и историю с 2018 года! Из этих данных можно получить очень много ценной информации для повышения точности прогноза.

— Что собой представляет новое решение, каков принцип его работы?

Новое решение представляет из себя сервис с пользовательским интерфейсом. Пользователь указывает, какие товары в каких магазинах и за какой период он хочет поставить в промо-акцию, а также его параметры – например, цену. Далее сервис готовит расчет по этим параметрам и возвращает пользователю прогнозы объемов продаж. Расчет реализуется с помощью модели машинного обучения, которая уже обучена на исторических данных.

— За счет чего решение дает лучшие результаты по сравнению с предыдущим?

Основной эффект мы получаем за счет более продвинутых математических подходов относительно прошлого решения.

— Какого эффекта удалось достичь в результате перехода?

Точность прогноза сильно выросла – до 40% по сравнению с предыдущим решением, подтвержден значительной рост товарооборота и маржи, сокращено количество распродаж после промо-акций. Что касается финансового эффекта, то мы не раскрываем конкретные цифры, но это значимые показатели.

— Разработанное решение дает синергию с прогнозом регулярных продаж. За счет чего она происходит?

Синергия заключается в том, что при прогнозировании регулярных продаж система знает, какие промо-акции и какие планы по продажам будут реализованы. Таким образом, мы учитываем каннибализацию промо-продажами регулярных позиций и привозим ровно столько товара, сколько нужно. Это приводит к снижению списаний и избыточных товарных запасов.

— Каковы планы по развитию этого решения и его расширению на другие области?

В данном решении мы еще не достигли предела по качеству и планируем развивать подходы к математическому моделированию для повышения эффективности. Кроме того, для нас актуально долгосрочное прогнозирование, и мы будем расширять горизонт прогноза с текущих 16 недель до горизонта планирования со стороны категорийных менеджеров и закупок. Также сервис для прогноза промо позволяет осуществлять анализ what-if – проводить оценку сценариев по прогнозу продаж в зависимости от различных параметров: позиции, цены, наличия рекламы на ТВ и другое. Данный инструмент планируется развивать и для других направлений – например, регулярных продаж и плана поставок.

В 2019 году «Северсталь» начала внедрять машинное обучение в листопрокатном цехе производства трубного проката в Колпине. Сейчас цех можно назвать цифровым: его главный агрегат – листопрокатный стан 5000 – управляется с помощью комплекса моделей на новых скоростях. Проект стал уникальным в металлургии и оказал значительное влияние на повышение эффективности производства. О реализации этого проекта рассказал Борис Воскресенский, директор «Северсталь Диджитал».

— Что стало причиной начала проекта и каким образом была поставлена задача?

«Северсталь» цифровизирует производство и внедрила ряд собственных решений, которые доказали свою эффективность. Конкретно в данном случае мы хотели увеличить производство листопрокатного цеха с помощью цифровых технологий, без значительных капитальных вложений.

Ранее управление главным агрегатом промплощадки – широкополосным прокатным станом 5000 – осуществлялось вручную, и в нем заметно присутствовал человеческий фактор. Операторам приходилось одновременно следить за проходом и качеством металла во избежание дефектов, причем они могли опираться только на свой опыт и измерения, полученные после проката. При определении скорости прокатки не всегда учитывались сортамент продукции и цикличность проката, поэтому показатели были занижены и стан работал не на полную мощность.

Задачей проекта стала автоматизация функций управления проката и интенсификация скорости проката, исходя из энергосиловых возможностей агрегатов. Для листопрокатного стана 5000 был разработан комплекс моделей на базе машинного обучения. Модели управляют участком нагревательных печей (управление нагревом слябов) и клетью кварто (управление скоростью проката), на транспортировочной линии цифровой советчик выдает рекомендации по управлению выдачей слябов.

— Какие проблемы потребовалось решить в ходе этого проекта? Что было самым сложным?

С технической точки зрения – это отличие природы исторических данных от потоковых. После создания решения на исторических данных необходима существенная доработка, связанная с отличием исторических данных от потоковых. Когда вы подключаетесь к потоковым данным и начинаете управлять агрегатом напрямую, приходится реконструировать по факту всё, что происходит в реальном времени, и очень быстро делать корректировки для обеспечения эффективности производства. На исторических данных строится модель, но потоковые данные приходят с разными небольшими запозданиями, и их приходится агрегировать «на лету».

С точки же зрения подхода к моделированию мы вышли за рамки классического подхода обучения с учителем. Если сильно упрощать, то стандартные модели машинного обучения ищут похожие события в прошлом и подбирают хорошие исторические аналоги с довольно слабой способностью к экстраполяции. Мы же добавили сюда causal inference подход: сначала обучили стандартную модель машинного обучения, а потом уже с помощью выявленной причинно-следственной связи на данных искали возможности для ускорения производства: результат получился очень хороший – максимальные скорости агрегата выросли с 3,2 м/с до 4,5 м/с.

— Что сделано в рамках проекта, какие решения использовались?

В ходе проекта автоматизированы функции управления прокатом, максимально интенсифицирована скорость проката, исходя из энергосиловых возможностей агрегатов.

Решение для управления скоростью проката базируется на комплексе моделей машинного обучения. Это градиентный бустинг на решающих деревьях – он используется для предсказания максимальных токов двигателей, приводящих в движение прокатные валки стана 5000; метод ближайших соседей – для оценки начального приближения скорости проката на основе исторических данных по аналогичным типам проката; ряд моделей линейной регрессии с применением подхода causal inference – для определения влияния скорости на максимальный ток.

Управление интенсивностью нагрева печей основано на анализе текущего состояния печей и условий их наиболее эффективной работы, определенных в результате анализа исторических данных. Для синхронизации работы печей со станом 5000 разработаны модели на основе линейной регрессии, предсказывающие время прокатки текущей группы слябов.

С точки зрения платформ использовались собственные разработки, а также OPC UA, Docker, Kubernetes, Apache Kafka, InfluxDB, Apache NiFi, Gitlab, Hadoop, Graylog, Grafana.

— Сразу ли была поставлена задача не ограничиваться рекомендательной системой, а пойти дальше? Или аппетит пришел во время еды?

На короткий период решение работало как рекомендательная система: люди могли переключать тумблеры в соответствии с рекомендациями. Но довольно быстро стало понятно, что это не очень удобно, так как каждый проход сляба занимает несколько секунд, и каждые несколько секунд крутить тумблер в зависимости от рекомендации модели – не слишком эффективно.

Мы убедились в том, что при четком следовании рекомендациям модели наблюдается значительный рост производства. Когда производство сказало: «Давайте переходить в автоматический режим», у нас к этому уже все было готово.

— Откуда брали «источник мудрости» и на чем обучали модели?

Данные датчиков собирали напрямую с агрегата. Мы подключались к уровню производства трубного проката через безопасное соединение, собирали необходимые данные в Kafka, далее выводили их в озеро данных, и на этих данных и строили наши модели. Дополнительно использовали экспертное мнение технологов, в частности, оно нам очень хорошо помогало понять, на что именно стоит обратить внимание. Иногда экспертное мнение подтверждается, иногда нет. В любом случае, с помощью валидации этих знаний на данных и вытаскиванием из данных чего-то нового, о чем технологи могли даже и не знать, получается модель, которая может управлять агрегатом лучше, чем человек.

— Какими силами реализован проект?

Проект реализован силами внутренней экспертизы «Северстали» — командой «Северсталь Диджитал» в партнерстве с производством. Работы проводились с мая 2019 года по третий квартал 2021 года.

— Почему так долго? Или это не долго для такого проекта?

Это вполне стандартный срок: исходя из нашей практики, необходимо от шести до девяти месяцев на разработку решения, которое управляет агрегатом. В данном случае было несколько проектов, направленных на одну и ту же цель. Мы работали над ними последовательно, и таким образом создали полностью цифровой цех.

— Каковы были ожидания от результатов, как они соотносятся с реальностью?

Реальность оказалась лучше, чем ожидания. Мы ожидали увеличения производства на 2-3%, а в итоге получилось более 5% – мы достигли рекордных проказателей по производительности. Более того, ожидается рост на дополнительные 1,5%. За 2020 год средняя скорость проката возросла с 2,3 м/с до 3 м/с, а максимальные скорости проката выросли с 3,5 до 4,5 м/с – операторы в ручном режиме никогда не достигали таких показателей. При этом среднее время ожидания новой прокатной группы уменьшилось с 62 с до 40 с незначительными отклонениями.

— Какие экономические результаты достигнуты?

За три квартала 2021 года эффект от комплекса моделей составил более 20 тыс. тонн дополнительной готовой продукции, что составляет около 1 млрд руб. в ценах 2021 года.

— В чем роль проекта для бизнеса компании?

«Цифровому цеху» в Колпине практически нет аналогов в мировой металлургии: решения работают круглосуточно и управляют одним из крупнейших агрегатов «Северстали». Сотни тысяч тонн продукции в год производятся под управлением нашего комплекса решений.

Металлопрокат из этого цеха используется для производства труб большого диаметра на Ижорском трубном заводе, который поставлял трубы для строительства «Силы Сибири», газопровода «Ухта-Торжок» и других проектов.

— Проект уникален. Может ли его реализация оказать влияние на развитие отрасли?

Мы взяли современные научные принципы и подходы, которые развиваются ведущими ИТ-компаниями, и использовали их для управления промышленными агрегатами.

Считаю, что проект может оказать влияние на развитие отрасли – за подобными подходами будущее. Если раньше мы делали решения, которые были полностью основаны на физике процесса: зашивали логику и формулы для управления в автоматизированную систему, – то сейчас мы всё ближе к созданию «искусственного оператора». В мировой металлургии довольно активно используются советчики и рекомендательные системы, но решения, которые напрямую в реальном времени управляют агрегатами с помощью подходов data science, пока еще довольно редки.

В нашей компании такой подход уже масштабирован на существенную часть агрегатов, и аналогичный подход начали использовать в нашем сырьевом производстве. Наши модели уже стали неотъемлемой частью производственного процесса «Северстали», и я уверен, что за данным подходом будущее.

Внедрение «Платформы данных и глубокой аналитики» для групп «Уралхим» и «Уралкалий» является одним из этапов стратегии цифровой трансформации. Цель этого проекта — создание экосистемы данных, которая обеспечивает их сбор, обработку и хранение с целью поддержания бизнес-инициатив в части цифровизации, создания цифровых двойников и прогнозной аналитики для процессов и активов компании. О реализации проекта рассказывает Дмитрий Шведов, заместитель руководителя департамента цифровизации компании «Уралхим» и номинант на премию Data Award.

— Когда и почему был начат проект «Платформа данных и глубокой аналитики»?

«Уралхим» — большая производственная структура, где специалисты из множества подразделений постоянно занимаются расчетами и анализом информации. Каждый день коллегам поступают просьбы предоставить текущие данные по произведенной продукции, маржинальности, издержкам, подготовить финансовые сводки по проектам, ключевым финансовым показателям и пр. Именно поэтому было принято решение внедрить платформу данных и глубокой аналитики — чтобы снизить участие человека в процессе, сократить время коммуникации, необходимое для процесса «вопрос — обработка — ответ», и предоставить необходимую информацию в нужное время.

— Какие цели преследовало создание платформы? Какие проблемы были самыми острыми?

В первую очередь проект позволяет обеспечить получение данных из информационных систем благодаря их накоплению в корпоративном хранилище. Создание единой платформы снижает стоимость владения данными за счет того, что теперь их могут «переиспользовать» потребители из разных бизнес-направлений. С помощью компонентов платформы мы решаем задачу учета данных в компании, обеспечиваем их безопасность и защиту. Кроме того, решаем острые проблемы в части управления качеством данных, улучшаем их сопоставимость на базе НСИ, предоставляем корпоративную (интегрируемую) информацию за счет мастер-данных; обеспечиваем качественными корпоративными данными процессы интеграции между информационными системами. Также мы формируем витрины данных для сотрудников компании (для проведения аналитики) и предоставляем наборы данных для создания и обучения цифровых моделей.

— Как вы выбирали подходы? Каким принципам пытались следовать?

Для реализации проекта «Платформа данных и глубокой аналитики» был выбран подход на основе гибридного размещения компонентов платформы данных. Для каждой из подсистем сервисы могут размещаться как в облачной, так и в локальной инфраструктуре, что обеспечивает гибкость при распределении нагрузки и предоставлении сервисов по обработке и хранению данных. При создании платформы мы руководствовались несколькими ключевыми принципами. Например: принцип единого управления данными — реализация сквозного процесса в рамках всех операционных процессов компании; принцип вовлеченности — разработка и внедрение соглашений о качестве данных совместно с владельцами данных. Не менее важен принцип непрерывности: управление данными — это непрерывный процесс, нельзя допускать деградации моделей и структуры данных.

— Какие составляющие включает в себя платформа?

Платформа данных включает в себя подсистему сбора данных на основе экосистемы Apache, подсистему управления и описания данных на основе решений Informatica Axon и Atlassian, подсистему хранения на основе продуктов Microsoft, PostgreSQL и облачных сервисов Sbercloud, а также лабораторию ИИ — Jupyter и Sbercloud ML Space. При выборе решений в первую очередь учитывалась универсальность самих инструментов (возможность использовать их для различных типов и объемов данных) и, конечно, стоимость владения и поддержки инструментов и компонентов платформы. Важно, что компоненты платформы позволили обеспечить самостоятельную работу «гражданских» аналитиков из бизнес-функций. После прохождения обучения в школе аналитики данных они самостоятельно могут подготавливать данные с помощью пользовательских ETL-инструментов и разрабатывать аналитические приложения без участия ИТ-специалистов. А для «продвинутых» бизнес-аналитиков платформа дает возможность обучить простые прогнозные модели на основе накопленных наборов данных.

— Платформа сочетает «традиционную» и облачную части. В чем роль каждой из них, как они взаимодействуют?

Действительно, платформа данных строится на основе тесного взаимодействия облачных сервисов и локальной инфраструктуры. Локальные компоненты отвечают за сбор данных из внутренних информационных систем компании, обеспечивают хранение наиболее чувствительных данных и участвуют в интеграционных процессах компании. Облачные же компоненты позволяют гибко регулировать потребление вычислительных мощностей и использовать сервисы для сложных расчетов больших объемов данных, а также для разработки и обучения цифровых моделей. Кроме того, в облачной инфраструктуре оптимально размещать «холодное» хранилище и исторические данные компании.

— В чем роль этого проекта для компании?

Важно, что в ходе проекта не только создается инфраструктурная часть, но и формируются data-продукты — цифровые модели, такие как прогноз валютного риска, дебиторской и кредиторской задолженностей, роста цен на основании внешних факторов, объема запаса ТМЦ на складах, а также выполняется предиктивная аналитика по валковому прессу и производится автоматическое распределение заявок пользователей на первой линии поддержки. Отдельно можно выделить возможность построения цифровых двойников оборудования на основе исторических данных, что позволит заблаговременно обнаруживать проблемы в работе и оповещать о вероятности поломок оборудования.

— Насколько близко удалось подойти к созданию цифровых двойников? Каковы успехи в этом направлении?

В 2021 году мы подготовили и протестировали девять цифровых моделей, и некоторые из них уже в начале 2022 года были переведены в промышленную эксплуатацию. В 2022 году мы планируем реализовать более 20 пилотов по ключевым бизнес-направлениям «Уралхима».

— Приведите несколько показательных примеров, когда, благодаря построенной платформе данных, был достигнут заметный бизнес-эффект.

Например, благодаря качественным данным из платформы, бизнес-эксперты выявили некорректные данные, поступающие через интеграционную шину информационных систем. Теперь бизнес-функции полностью доверяют данным, накопленным в платформе, и используют ее как независимого «эксперта». При подготовке аналитических записок руководству бизнес-эксперты отмечают быстроту получения необходимой информации из платформы, что ускорило подготовку документов в разы.

— В каком направлении будет развиваться платформа?

В 2022 году мы продолжим работу над аналитическими показателями и постараемся вовлечь в нее еще больше коллег. Кроме того, сосредоточимся на развитии процессов проверки качества данных в корпоративном хранилище данных, а также на разработке прогнозных моделей по нашим ключевым показателям.

Спутниковые снимки Земли являются ценнейшим источником информации. Применять ее для всеобщей пользы призван комплекс «Цифровая Земля — сервисы», реализуемый по заказу госкорпорации «Роскосмос» компанией «Терра Тех» (оператор по геотехнологиям «Роскосмоса», дочернее предприятие АО «Российские космические системы»). «Цифровая Земля» — это фабрика для обработки и анализа космических снимков с использованием искусственного интеллекта. Благодаря ее возможностям, контролирующие органы и бизнес на всех уровнях теперь могут получать аналитику на основе космической съемки в разы быстрее и удобнее, чем когда-либо до этого. Использование нейросетевых технологий дает существенное преимущество в плане быстроты и качества распознавания снимков, позволяет идентифицировать и классифицировать различные объекты и изменения на местности, вовремя уведомлять пользователей о критичных событиях на объектах мониторинга.

О реализации проекта рассказывают номинанты премии Data Award Андрей Абросимов, заместитель генерального директора «Терра Тех» по науке, и Алексей Беленов, заместитель генерального директора «Терра Тех» по производству.

- Немного об истории этого проекта. Когда и почему он был начат?

Алексей Беленов: Нужно начать с нескольких фундаментальных задач, которые госкорпорация «Роскосмос» взялась решить по поручению президента России, инициировав проект «Цифровая Земля» в рамках национальной программы «Цифровая экономика». Первая группа задач связана с модернизацией технологий. Было очевидно, что настало время качественно улучшить механизм поставки данных с российских аппаратов дистанционного зондирования Земли (ДЗЗ) из космоса и повысить качество их обработки. Эту часть взяли на себя наши коллеги из АО «Российские космические системы» (входит в Госкорпорацию «Роскосмос»): они создали и внедрили на базе современного комплекса вычислительных ресурсов технологию автоматической потоковой обработки спутниковых данных, благодаря которой высококачественная информация со спутников в максимально сжатые сроки может пополнять информационные системы заказчиков и потребителей данных ДЗЗ. Мы работаем с коллегами в тесном контакте, но сами фокусируемся на высокоуровневой обработке, анализе и применении космических данных.

Андрей Абросимов: Наша задача — разрабатывать и использовать технологии, направленные на отраслевое применение материалов космической съемки. У многих потребителей нет достаточной подготовки и квалификации, чтобы самостоятельно интерпретировать снимки со спутника. Поэтому родилась идея создать комплекс сервисов, способный обрабатывать и анализировать снимки и сразу формировать цифровые тематические карты, отчеты и инфографику.

- Какие задачи требовалось решить?

А.А.: Дальше мы будем говорить только о сервисах «Цифровой Земли», но хотелось бы обратить внимание на то, что вся эта работа была бы практически невозможна без технологий потоковой обработки снимков. А если говорить о сервисах, то у нас было довольно ясное видение того, какие задачи можно решать, используя снимки, и что для этого нужно. В России многие компании делают разного рода ГИС-порталы и создают средства обработки как на региональном, так и на федеральном уровне. Но для нас было важно сформировать универсальный набор продуктов, способный по максимуму закрыть потребности государственных организаций в масштабах всей страны, коммерческих заказчиков, а в будущем — и наших граждан.

- Какие этапы проходил проект? Что было самым сложным?

А.Б.: Мы начали с анализа потребностей потребителей по продуктам и составу информации. Уже до эскизного проектирования стало очевидно, что делать такие продукты классическими методами в больших объемах будет непросто. Встал вопрос автоматизации такой работы. Мы начали экспериментировать с алгоритмами искусственного интеллекта (ИИ), поскольку другие подходы не обеспечивали ни достаточной скорости, ни качества обработки. Потребовалось включить в команду специалистов в области data science, ИИ, облачных вычислений и нарастить соответствующие компетенции, чтобы результаты работы алгоритмов соответствовали заданным техническим заданием требованиям.

А.А.: Это верно. Я, например, первоначально не был доволен качеством результатов обработки, но, по мере увеличения обучающих выборок для различных регионов РФ, качество начало резко повышаться. Мы разработали 27 типовых продуктов по 7 основным направлениям народного хозяйства (деятельность в этих отраслях можно отслеживать из космоса). Есть отдельные продукты, формирование которых все же требует экспертного анализа, доработки оператором результатов первичной автоматической аналитики, однако многие продукты уже сейчас формируются без экспертного анализа.

- Что на данный момент представляет собой платформа? Из каких частей она состоит?

А.Б.: В комплекс «Цифровая Земля — сервисы» входят 7 геосервисов с 27 информационными базовыми и мониторинговыми продуктами. Сервисы интегрированы с другими подсистемами создаваемой «Цифровой Земли» и опираются на них в части вычислительных ресурсов и исходных данных, которые поступают напрямую из Федерального фонда данных ДЗЗ и других источников. Структура комплекса сервисов включает: подсистему ввода информации; подсистему обработки информации, включающую модуль искусственного интеллекта (ИИ); подсистему представления информации, включающую модули личных кабинетов, формирования отчетов, десктопный и мобильный интерфейсы. Разработан API (программный интерфейс приложения), позволяющий передавать результаты анализа непосредственно в сторонние информационные системы.

А.А.: Авторизация происходит по единой учетной записи доступа к ресурсам «Роскосмоса». Существует несколько групп пользователей с разными правами. Пользователь размещает заказ на определенный тип продукта, уточняет параметры подбора: область на карте, по которой нужно получить аналитическую информацию; период дат, которые интересуют; уровень детализации и т. д. Затем заявка попадает в электронную очередь, где проверяется на корректность. Если что-то не так, мы связываемся с потребителем для уточнения. Далее происходит подбор космической съемки, удовлетворяющей заданным критериям, и после этого производится ее автоматическая обработка в модуле ИИ. Пользователь получает уведомления по мере прохождения этапов обработки и анализа. Все результаты доступны для просмотра и скачивания в интерфейсе пользователя.

- На каких платформах реализована система?

А.Б.: В основе лежат облачные технологии. Для хранения, обработки, визуализации, управления данными используются протоколы AWS, докер-контейнеры, средства PostgresSQL, REST API, MongoDB, WMS, Flask, Nginx, uWSGI. Для работы с нейросетевыми технологиями применяются фреймоворки сверточных нейронных сетей Tensorflow, Keras, Pytorch.

- В чьих интересах система работает? Как осуществляется взаимодействие между заинтересованными сторонами?

А.Б.: «Цифровая Земля» — это сложный проект с множеством составных частей, не все из которых пока готовы. Одна из составных частей — комплекс геосервисов — сейчас работает для пилотных регионов и ряда федеральных органов власти. У нас очень активное сотрудничество с федеральными органами, поскольку мы проводим взаимную интеграцию информационных систем. Например, с НИИ «Восход» мы интегрировались для выявления объектов капитального строительства, требующих проверки в части постановки на кадастровый учет. Их система ТОР КНД получает из «Цифровой Земли» информацию о вновь выявленных на снимках объектах капитального строительства в муниципальном образовании и выдает сигнал надзорным органам, если информация в реестре и на снимке разная.

А.А.: Кроме того, мы плодотворно сотрудничаем с ФГБУ «Рослесинфорг», подведомственным учреждением Рослесхоза. Они проводят квалифицированную оценку результатов выделения вырубок на снимках и формируют требования по модернизации алгоритмов искусственного интеллекта. Совместными усилиями нам удалось повысить точность выделения лесоизменений более чем на 10% даже при использовании разносезонных снимков и данных с облачностью и снегом. Перспективной выглядит возможность предоставлять организациям Рослесхоза интерактивные инструменты для дальнейшего дообучения алгоритмов нейросетей на большом массиве лесных данных. В рамках промышленной эксплуатации геосервисов «Цифровой Земли» запланированы работы по массовой выдаче типовых тематических продуктов. В ходе этого процесса мы будем собирать обратную связь и планировать дальнейшую модернизацию системы. Сейчас «Роскосмос» рассматривает расширение охвата субъектов РФ.

- Как проходила отработка сервисов? Исходя из чего выбирались тестовые регионы и сервисы?

А.А.: В числе пилотных регионов у нас было 8 субъектов. Отработка сервисов проводилась в Республике Татарстан, в Самарской, Нижегородской, Тверской, Кемеровской и Свердловской областях, в Республике Крым и Красноярском крае. Суммарно в ходе пилотной эксплуатации комплекса «Цифровая Земля» представители профильных министерств и ведомств субъектов РФ отработали 1552 кейса по объектам интереса общей площадью более 3 млн кв. км. На территории всех этих субъектов были выполнены масштабные полевые работы для сбора информации о наземных эталонах распознаваемых объектов и проверки результатов автоматической аналитики. Поскольку в продуктах применяются технологии ИИ, очень важно правильно подбирать обучающие выборки. У нас очень большая страна с различными климатическими поясами, разнообразными природными ресурсами и большим количеством территориальных активов, поэтому мы очень хотели, чтобы эти субъекты были максимально разнообразными. Понятно, что 8 эталонных субъектов — это пока маловато для репрезентативной обработки всей территории РФ, но прелесть технологии как раз в том, что чем больше ее применяешь, тем лучше становятся результаты, потому что нейросети дообучаются по мере увеличения объемов «скормленных» им космических снимков.

- Приведите самые интересные и показательные примеры использования геосервисов.

А.А.: Сегодня очень большое внимание уделяется лесу и экологии. Буквально на днях (11 февраля 2022 года) «Терра Тех» посетили вице-премьеры Правительства РФ Виктория Абрамченко и Юрий Борисов вместе с генеральным директором «Роскосмоса» Дмитрием Рогозиным. По итогам рабочего совещания было принято решение провести в 2022 году силами Рослесхоза и «Роскосмоса» пилотный проект в двух субъектах — Иркутской и Архангельской областях — по применению геотехнологий в целях повышения скорости получения и точности информации о вырубке лесов на основе анализа материалов космической съемки с использованием нейросетей. Также мы провели много работ по выявлению и мониторингу карьеров добычи общераспространенных полезных ископаемых, мониторингу промышленного и жилого строительства, определению степени зарастания сельскохозяйственных земель. У «Цифровой Земли» здесь чисто информационная и аналитическая функция. Наша задача — выполнить идентификацию, подготовить отчет и предоставить информацию соответствующим надзорным органам, а дальше именно они решают, было или нет нарушение, и проводят необходимые контрольные мероприятия. Фактически шок-эффект произвел кейс с пожарами в Якутии и Иркутской области прошлым летом, когда нейросети за несколько часов с очень высокой точностью обработали миллионы квадратных километров территории, затронутой бедствием.

- Какое направление геосервисов приносит наибольшую пользу уже сейчас?

А.А.: В последнее время мы обращали особое внимание на вырубки — здесь наиболее очевидная польза. О результатах пока говорить преждевременно, но мы готовы предоставить Рослесхозу имеющиеся у нас технологии и решения для цифровизации лесного хозяйства страны. Тут важно повышать частоту выявления рубок, а это зависит от доступности данных, количества спутников и их характеристик. Но даже с теми данными, что имеются сейчас, можно многого добиться. Космические инструменты нужны и коммерческим предприятиям, которые ведут лесозаготовку и инвестируют в лесопромышленный комплекс страны. Например, по данным из космоса можно выявлять наиболее перспективные лесные участки на основе знаний о породном и возрастном составе. Большим спросом пользуется контроль соблюдения темпов строительства — особенно для масштабных проектов строительства линейной инфраструктуры, а также когда у заказчика одновременно строится множество объектов в разных концах страны и нужно отслеживать их все одновременно.

- Нацелен ли проект на окупаемость? И вообще, насколько эти сервисы могут быть востребованы бизнесом?

А.Б.: Прямой эффект от внедрения технологий ДЗЗ оценить непросто. Это уже много лет пытаются делать ведущие консалтинговые агентства мира. Можно посчитать хотя бы число нарушений и объем штрафов, которые будут выставлены на основе космической аналитики. Данные ДЗЗ применяются, когда рассчитывается объем причиненного экономического и экологического ущерба (например, почвам). В этих случаях всего нескольких крупных экологических взысканий хватит, чтобы окупить разработку. Конечно, помимо этого, есть еще вся инфраструктура, ее содержание, спутники и т. д. В то же время нельзя забывать о том, что один снимок можно использовать сразу для целого комплекса задач и не один раз — например, у нас 27 продуктов (не все делаются по одинаковым данным). Вот и консалтинговые агентства согласны с тем, что, хотя прямой эффект оценить сложно, польза очевидна на всех уровнях и на всех рынках для широкого спектра задач.

Тем не менее можно отметить, что «Роскосмос» нацелен на развитие коммерческого применения данных и сервисов. Поэтому проект изначально создавался для обеспечения государственных потребителей с планами потенциального масштабирования и на бизнес, польза для которого от такой системы тоже неоспорима. К нам регулярно поступают запросы от коммерческих компаний, которые тоже хотят использовать возможности системы. Однако тут есть ряд нюансов — как нормативно-правовых, так и технологических. Для бизнеса нужны несколько другие продукты, хотя изначальный состав информации может быть похожим. А над решением нормативно-правовых вопросов сейчас работают специалисты «Роскосмоса», чтобы иметь возможность предоставить к системе коммерческий доступ, когда она будет готова к масштабированию. Поэтому сейчас бизнесу мы оказываем услуги на базе наших коммерческих разработок, не связанных с «Цифровой Землей».

- Каковы направления развития платформы?

А.Б.: Прежде всего требуется повышать автоматизацию. Ближайшие месяцы покажут, какие направления приоритетны. Перейти с 8 регионов на 20 и далее на 85 — это большой вызов. Здесь нужно понимать, что космические снимки — это очень объемная информация, для обработки которой необходимы достаточно большие мощности, соответствующие инфраструктуре. Поэтому мы не исключаем, что придется дорабатывать систему оптимизации ресурсов.

А.А.: Кроме того, алгоритмы прошли обучение не для всех регионов РФ — нужно увеличивать объем выборки. Будем дообучать имеющиеся и разрабатывать новые нейросети. У нас даже есть специальный инструмент, который автоматизирует сам процесс обучения. А дальше будем расширять номенклатуру геосервисов, делать их доступными для коммерческих потребителей, работать над повышением гибкости системы для пользователя. В итоге хотелось бы сделать возможным прямой доступ пользователей различной квалификации к облачному «конструктору» алгоритмов и продуктов.

Почему у медицинских данных длинный «хвост», с какими неожиданностями столкнулись разработчики медицинского искусственного интеллекта, какую роль сыграл в жизни молодой питерской компании эксперимент «Радиологии Москвы» и о каком дата-сете пока можно только мечтать, рассказал номинант на премию Data Award 2022 Евгений Никитин, начальник департамента ML-разработки компании «Цельс». На основе машинного обучения в «Цельсе» разрабатывают системы анализа медицинских изображений, помогающие рентгенологам, которых сейчас катастрофически не хватает в российских регионах, работать быстрее и пропускать меньше патологий на снимках.

- Как вы пришли в data science?

С детства хотел заниматься математикой, но не теоретической, а прикладной. Поэтому сначала получил образование по специальности «математические методы в экономике» в Санкт-Петербургском университете экономики и финансов. Затем в магистратуре в Англии занимался математическим моделированием человеческой памяти и внимания, потом в аспирантуре в США — машинным обучением для анализа политического поведения людей в социальных медиа. Параллельно занялся бизнесом — разрабатывал модели кредитного скоринга для финансовых организаций.

- Как же родилась идея работы с медицинскими данными? С чего начался проект «Цельс»?

Звезды так сложились. Мы с партнером познакомились с ребятами из калужской ИТ-компании, которым была очень интересна тема MedTech, но у них не было компетенций в сфере машинного обучения. На стыке их возможностей и наших компетенций осенью 2018 года попробовали сделать минимально жизнеспособный продукт (minimum viable product, MVP). Сначала задача была поставлена очень абстрактно: сделать то, что поможет обнаруживать рак молочной железы. Помимо пары публичных дата-сетов по маммографии для обучения модели, у нас была только выборка снимков, по которым уже был известен диагноз, поставленный пациенту. Результаты, полученные на тот момент, показались удивительными врачам, которым мы их показали. Это всех обнадежило. Мы поняли, что можем сделать нечто полезное, и решили развивать продукт дальше.

- Какими были следующие главные вехи проекта?

Мы открыли офис в Санкт-Петербурге и вскоре запустили разработку второго продукта «Флюорография / Рентген легких», а также пилотные проекты, что важно для получения обратной связи.

Очень большой поддержкой для нас оказалась работа, которую проводил в Москве Сергей Павлович Морозов, директор Центра диагностики и телемедицины («Радиология Москвы»). Действительно серьезной вехой стал эксперимент mosmed.ai, в котором прошедшие тестирование компании — разработчики ИИ-решений могут подключаться к клиникам через ЕРИС ЕМИАС, обрабатывать поток исследований реальных пациентов и получать обратную связь. К настоящему моменту три наши системы прошли так называемое калибровочное тестирование в этом проекте и работают полноценно: «Маммография», «Флюорография / Рентген легких» и «Covid-19». Другая наша система, выявляющая рак по КT легких, готова к внедрению, и еще одна, определяющая по КТ кровоизлияние в головном мозге, находится на стадии апробации.

- В этом проекте клиники голосуют, выбирая на определенный период продукт, с которым предпочитают работать. Сколько клиник выбрало ваш продукт?

Всего 102 клиники, больше всего выбрали «Маммографию» — примерно 50–60. Огромная выгода московского проекта — финансирование и одновременно развитие конкурентной среды: многие компании просто не выжили бы без такой поддержки. Второй крайне важный момент: организаторы понимали, что все системы далеко не идеальны, и принимали это. Когда мы приходили в регионы, то чаще всего слышали: «Ребята, это еще сыровато, надо допилить». А тут ставились три цели: во-первых, определить задачи, которые целесообразно и логично решать с помощью машинного обучения; во-вторых, отобрать лучшие решения; и, в-третьих, помочь разработчикам улучшить свои системы. Все эти цели достигнуты, и это очень здорово!

Результаты эксперимента теперь позволяют нам внедрять ML-системы и вне Москвы. В мае 2021 года мы получили регистрационное удостоверение на медицинское изделие, и в ближайшее время наши системы официально начнут работать на уровне нескольких российских регионов. Кроме того, большой проект идет в Узбекистане.

- Что было самым интересным в процессе создания медицинского ИИ?

Разметить изображение, чтобы определить, есть у пациента патология или нет. Поначалу мы не отдавали себе отчета в том, какое количество расхождений будет, если дать один и тот же снимок двум врачам. А ведь это влияет не только на обучение модели, но и на ее оценку. Как доказать, что модель качественная, если существуют пять разных мнений по тому, как размечен снимок?

Начинали, по сути, тыкаясь вслепую, но в итоге построили четкий пайплайн по разметке. Это очень сложный процесс, начиная с того, что врачей надо выбрать по каким-то формальным характеристикам. Оказалось, что квалификация и опыт — не всегда очень хорошие предикторы качественной разметки. Важны и дополнительные характеристики — например, усидчивость и внимательность. В числе факторов, часто и сильно влияющих на качество разметки, — обычная усталость и отсутствие большого монитора с высоким разрешением.

Поэтому сейчас мы много внимания уделяем отбору врачей, которые хотят с нами работать, их обучению и регулярной проверке их работы. В процесс разметки встроен автоматический контроль качества с использованием специального набора снимков и эвристик.

Второе, чему мы научились, — итерационное написание инструкций. Каждый раз, запуская новый проект, сначала пишем первую версию инструкции и просим врачей разметить снимки в соответствии с ней. Затем смотрим, какие есть расхождения и почему они возникают. Например, один специалист отмечает на маммографическом снимке злокачественные кальцинаты, а другой может их не отметить или разметить иначе, не заметив, выбрав другой класс или неаккуратно обозначив контур. Далеко не всегда расхождения означают разные мнения, иногда врачи по-разному интерпретировали инструкцию! То есть большую часть противоречий между оценками врачей можно устранить с помощью качественной инструкции по разметке.

- Какую цель вы ставили перед собой на уровне данных?

Максимально эффективно получить дата-сеты, которые нужны для создания качественных продуктов.

Сначала нам был нужен качественно размеченный набор данных достаточного объема. Теперь, для дальнейшего повышения качества, к дата-сетам предъявляем все больше требований — например, по наличию разных видов и форм рака молочной железы. Сейчас наша задача — пополнять и обновлять дата-сеты, экономя при этом деньги.

Как выяснилось, жизненно необходимо так называемое активное обучение. Специфика медицинских данных в том, что у них очень длинный «хвост». То есть большая часть пациентов здоровы, и лишь в снимках оставшихся 5% встречаются редкие патологии, которые мы очень хотим выявить. Если размечать все подряд, то большую часть времени мы будем делать бесполезную работу: нейросеть уже выучила здоровых пациентов и пациентов с легко детектируемыми патологиями, а мы просто сжигаем деньги, размечая бесполезные для модели снимки.

Поэтому мы сделали «умные» инструменты, которые позволяют отбирать данные на разметку. Когда поступает информация, что врачи освободились, для них в полуавтоматическом режиме по разработанным нами алгоритмам отбирается пул исследований, разметка которых принесет наибольшую пользу.

То есть мы внедрили подходы, позволяющие улучшать готовые продукты, ведь повышать их качество становится все труднее и труднее.

- Какие источники данных использовали?

В некоторых проектах использовали публичные дата-сеты: мы берем по максимуму все, что можно использовать в коммерческих целях. Как правило, это зарубежные наборы данных, но сейчас при поддержке Минздрава РФ идет подготовка публичных дата-сетов для отечественных разработчиков, и мы в ней тоже участвуем.

Второй источник — прямые контакты с медучреждениями и научными центрами. Это выгрузка анонимизированных данных: либо платная из зарубежных институтов, либо (что бывает чаще) в обмен на бесплатное использование нашего продукта в пилотном проекте. И третий крупный источник — поток данных, поступающих в рамках московского эксперимента через радиологический сервис ЕРИС ЕМИАС.

- К вам попадают уже анонимизированные данные?

Да, в 95% случаев. В московском проекте на стороне организаторов стоит модуль для анонимизации. Изредка к нам попадают неанонимизированные данные, тогда перед началом работы мы производим автоматическую анонимизацию.

- Алгоритмы анализа медицинских изображений сейчас пишут многие. Чем отличается ваш подход?

Конкурирующие решения различаются количественными характеристиками: точностью и скоростью работы, числом систем, c которыми могут интегрироваться. К сожалению, в нашей области пока практически нет обмена знаниями. Мы же стараемся пропагандировать такой обмен.

Наша «машина» по разметке медицинских данных — одна из лучших. Отдельная команда работает непосредственно с врачами, контролирует качество разметки и снабжает команду машинного обучения этими данными.

Еще один важный момент: мы уделяем большое внимание скорости проверки идей. Моя роль в компании — обеспечивать правильную настройку процессов и правильный выбор инструментов, чтобы максимально быстро обучать нейросети, тестировать идеи и продолжать улучшать продукты.

У нас всего 15 дата-сайентистов на пять готовых продуктов плюс три в разработке. Поддерживать такую линейку можно только при максимально эффективном использовании ресурсов — то есть автоматизируя все, что можно, и применяя лучшие практики, как процессные, так и инструментальные.

- Есть мнение, что главный потенциал медицинского ИИ — в анализе интегрированных данных о пациенте, а не отдельных исследований. Есть ли намерение развиваться в этом направлении?

Я всегда верил, что будущее — в мультимодальном подходе, когда в систему интеллектуальной обработки данных попадают данные разного типа из разных источников. Например, рентгеновский снимок плюс история снимков для оценки динамики, информация медкарты плюс информация по результатам приема, которая может быть собрана голосом. Моя давняя мечта — достойный дата-сет с мультимодальными данными. При таком подходе можно достичь по-настоящему крутых результатов. Технологии к этому готовы: есть архитектуры нейросетей, позволяющие работать с мультимодальными данными. Но существуют опасения относительно нарушения приватности: чем больше у нас данных о пациенте, тем выше риск их деанонимизации. Тут явно предстоит большая юридическая работа, и, скорее всего, потребуется согласие пациента на такую обработку данных.

Однако в рамках научного сотрудничества с некоторыми клиниками мы пробуем использовать более широкие массивы данных. Например, не только снимок, но и его описание, где врач может упоминать важные аспекты, сильно повышающие риск онкологии, такие как случаи рака в семье пациента. То есть мы уже работаем на стыке изображения и текстовых данных. Но остается нерешенным ключевой вопрос: как обеспечить безопасный доступ к таким данным?

Кроме того, существует инфраструктурная проблема: не очень много клиник, где можно эффективно выгрузить и связать массивы данных; часто результаты осмотра еще пишут от руки. А у коммерческих клиник обычно с инфраструктурой все отлично, но объем данных недостаточен.

- Какие основные ИТ-инструменты применяете?

Разметка данных проводится на российской платформе Supervisely, для хранения данных и разворачивания моделей используем Yandex.Cloud и Kubernetes. Сама разработка ведется на языке Python во фреймворке Pytorch. Чтобы обеспечить воспроизводимость результатов экспериментов (а это очень важно в науке), для обучения и тестирования моделей пользуемся фреймворками с открытым кодом Clear ML и DVC.

- Какими результатами использования систем «Цельса» можете поделиться?

Применение ИИ в медицине пока носит экспериментальный характер. Если сейчас убрать из медицины все ИИ-системы, краха не случится. Чтобы говорить об ощутимой пользе, надо уметь ее измерить, прежде всего оценить экономически. Посчитать, насколько меньше стали тратить денег в здравоохранении, — непростая задача. Сейчас мы сами тратим большие деньги, чтобы понять, меняется ли что-то с точки зрения финансовой эффективности, если у врача появляется наша система.

Однако в московском эксперименте есть примечательные кейсы — например, по обработке КТ-исследований на ковид. Для рентгенолога несложно увидеть знаменитое «матовое стекло», зато много времени требует оценка объема поражения легких, которая может повлиять на решение о госпитализации пациента. Практика показала, что ИИ-система может справиться с этой рутинной задачей, а врачу достаточно проверить, правильно ли все подсчитано. Время на интерпретацию одного исследования по ковиду сокращается на треть!

Кроме того, точечные свидетельства эффективности мы получаем из обратной связи от врачей — они не только сообщают, как наши системы помогают сэкономить время, но и честно признаются в том, что часть патологий могли бы пропустить, если бы система на них не указала. В пилотных проектах по маммографии в Брянске, Тамбове, Калуге, Калининграде и других городах, после пропускания через систему ретроспективных данных, были случаи, когда система обнаруживала рак, пациента направляли на дополнительное обследование и действительно находили злокачественные изменения.

- Какие направления дальнейшего развития проекта вы видите?

Первое глобальное направление — комплексные сервисы. Сейчас методами машинного обучения обычно ищут один определенный тип патологий, например ковид. Следующий важный этап — научиться находить на снимках одного исследования все возможные типы патологий.

Второе — измерить эффект от использования нашей системы по всем правилам научного исследования.

И третье важное направление — автоматизация рутинных задач, например контроля качества. В большом радиологическом исследовании многое может пойти не так — с оборудованием, с расположением пациента. И мы разрабатываем инструменты, которые помогают контролировать качество исследования прямо в процессе его проведения.

Мне кажется, выживут только те компании, которые, организовав работу небольших команд, смогут обеспечить максимальную скорость проверки идей. А ее можно увеличить благодаря автоматизации.

«Решение» это касается того, каким образом искусственному интеллекту (и функциям машинного обучения, которыми он управляет) следует принимать прогнозные решения, то есть, насколько обширным и сложным должен стать процесс разработки программного обеспечения, лежащего в основе технологий принятия решений, и, что особенно важно, в какой степени автоматизацию машинного обучения следует применять к нему самому, с тем чтобы обучение развивало само себя?

Архитектор операций машинного обучения (MLOps) и DevOps в GitLab Монмаюри Рэй попробовала пояснить, какое влияние машинное обучение оказывает на изменение порядка прогнозирования и принятия решений.

Экономическая модель искусственного интеллекта

Рассматривая все это через призму экономики и бизнеса (а не разработки ПО и системного анализа), она указывает на снижение роли прогнозирования, которое является составной частью экономической модели искусственного интеллекта. К другим параметрам относятся данные, мощь аналитических технологий и вклад человеческого фактора.

Но, несмотря на ясность нарисованной картины, в мире по-прежнему ощущается нехватка работоспособного и доступного прикладного интеллекта машинного обучения.

И хотя все здесь сводится к вопросу реализации рутинной части ИТ-стека, а многим организациям концепция понятна, в применении машинного обучения при решении реальных задач по-прежнему видны пробелы. Технологические гиганты, такие как Google и Tesla, действительно способны эффективно использовать системы машинного обучения, но среднему предприятию еще только предстоит осуществлять переход к масштабному применению соответствующих инноваций.

«Вместе с тем нам есть, чему поучиться у Google и Tesla, поскольку по мере внедрения моделей машинного обучения экономика покупки интеллекта тоже меняется, – указала Рэй. – Нужно понимать, что сегодня за хорошую и плохую модель машинного обучения мы платим одинаковую цену. А какой сорт кофе покупать, если все продукты продаются по одинаковой цене? В этом и заключается экономическая дилемма моделей машинного обучения: поскольку мы платим одинаковую цену как за хорошую, так и за плохую модель, обратная связь и точность становятся ключевыми элементами, фундаментальной основой внедрения и масштабирования передового машинного обучения, которую нельзя ставить под угрозу».

Bing: меняться надо быстрее

По мнению Рэй и ее коллеги из GitLab, утверждение это хорошо иллюстрируется неспособностью Bing конкурировать с поисковыми технологиями Google на любом более или менее существенном уровне. С учетом того, что Microsoft Bing занимает менее 3% мирового поискового рынка, в операционном плане соответствующая технология отличается от технологии Google из-за соответствующих циклов обратной связи и увеличения времени, затрачиваемого на переосмысление рекомендаций Bing, которые, по сути, формируются за счет функций машинного обучения.

«Чтобы повысить точность модели и использовать машинное обучение в качестве службы общего назначения, можно задействовать различные системы, – делает вывод Рэй. – Одна из них должна автоматизировать выполнение повторяющихся задач, связанных с машинным обучением, с тем чтобы сократить продолжительность цикла обратной связи и снизить стоимость прогнозирования и принятия решений».

Это как раз тот момент, когда количество, возможно, переходит в качество. Другими словами, если мы сможем более широко применять автоматизацию и элементы тестирования в моделях машинного обучения, их дополнениях и расширениях, средства машинного обучения можно будет использовать для управления самим процессом машинного обучения.

Но здесь все не так просто. Разработчики программного обеспечения делового назначения сталкиваются с революционным ростом разнообразия оборудования в виде процессоров, облаков, устройств на границах сети и т.д. Каждый из производителей чипов, будь то Nvidia, Intel или другая компания, имеют свои собственные специфичные библиотеки и платформы. Проблема усугубляется тем, что сегодня разработчикам приходится вручную оптимизировать и настраивать модели машинного обучения для каждого из аппаратных лагерей.

Генеральный директор компании OctoML Луис Сезе пытается решать соответствующие задачи совместно с сооснователем компании и ее директором по продуктам Джейсоном Найтом. Оба они активно высказываются на тему того, как использовать машинное обучение для улучшения самого машинного обучения.

Миллиарды вычислений для одного алгоритма

Команда OctoML считает, что цель любого ИТ-директора заключается в максимально быстром и эффективном с точки зрения затрат внедрении инноваций искусственного интеллекта. Но реалии таковы, что 90% приложений искусственного интеллекта и машинного обучения так и не появляются на рынке. Проблема сегодня заключается в том, что средства машинного обучения требуют специального проектирования и серьезных вычислительных ресурсов, что приводит к высоким затратам на облачные сервисы и делает их неподходящими для развертывания на границах сети.

«В условиях, когда машинное обучение становится все более и более популярным (в сферах компьютерного зрения, NLA/NLP, производства контента и т.д.), объем вычислительных мощностей, которые требуются для машинного обучения, непомерно растет, – констатируют Сезе и Найт. – Во многих случаях (возьмем какую-нибудь масштабную модель, например, GPT-3) разработчики выполняют миллиарды и миллиарды вычислений, чтобы получить от алгоритма лишь один ответ».

Созданный на базе Apache TVM проект OctoML предназначен для упрощения производственного запуска моделей машинного обучения за счет автоматического повышения производительности моделей на любом оборудовании в популярных средах машинного обучения Pytorch, TensorFlow и ONNX. Еще раз, речь здесь идет об автоматизации развертывания самой модели машинного обучения.

Тестирование программ и возможности тестирования

Возвращаясь к GitLab, стоит отметить, что свет в конце тоннеля уже виден. Опрос GitLab DevSecOps Survey 2021 свидетельствует о расширении использования программных ботов машинного обучения для создания программного обеспечения на этапе тестирования.

В 2020 году только 16% опрошенных сообщили о наличии у них ботов для автоматического тестирования программного кода и об использовании инструментов искусственного интеллекта и машинного обучения при выполнении процедур тестирования. В этом году их доля выросла до 41%. При этом 25% респондентов используют боты для тестирования программного кода, 16% оценивают код с помощью средств искусственного интеллекта и машинного обучения перед передачей его человеку и 34% изучают возможность применения искусственного интеллекта и машинного обучения, не предпринимая пока практических шагов.

Коль скоро корпоративные модели машинного обучения все чаще тестируются автоматически с помощью самого машинного обучения, запускающего боты для выполнения тестов, механизмы принятия решений в системах искусственного интеллекта верхнего уровня при таком подходе, очевидно, тоже будут разрабатываться быстрее, с меньшими затратами и большей эффективностью.

Пандемия коронавируса дала сильный импульс развитию медицинских информационных технологий, и проблема доступа к большим медицинским данным получила шанс сдвинуться с мертвой точки. Состояние отечественного рынка данных здравоохранения, отраслевые кейсы применения аналитики и технологий искусственного интеллекта, а также ситуацию с доступом к медицинским данным и нормативным регулированием повторного использования обезличенных данных для машинного обучения эксперты обсудили на форуме BIG DATA 2021, проведенном издательством «Открытые системы». Кульминацией тематической сессии стал круглый стол «Качественные медицинские данные для ИИ-решений: где их взять?», организованный при поддержке Ассоциации «Национальная база медицинских знаний».

Сырьевая база

Медицинские данные стали, с одной стороны, отдельным объектом инвестиционного интереса для технологических компаний, а с другой — «топливом» для развития рынка систем искусственного интеллекта. И максимальная вероятность толкового их применения в ближайшем будущем сосредоточена в наиболее привлекательных для инвесторов направлениях: сервисы для пациентов, телемедицина и, конечно, искусственный интеллект.

В числе самых многообещающих областей применения искусственного интеллекта в здравоохранении — предсказательная аналитика, включающая решения по прогнозированию возникновения эпидемий, нехватки лекарств и нежелательных событий в организме конкретного пациента. «Мы научились использовать большие данные для сокращения неэффективных затрат на оказание медицинской помощи», — сообщил директор по развитию проекта Webiomed Александр Гусев, представляя участникам BIG DATA 2021 обзор рынка искусственного интеллекта для здравоохранения. По его мнению, два главных вызова для этого рынка в России — особый правовой статус стартапов в сфере больших данных и искусственного интеллекта, а также развитие национальной платформы, которая позволит собирать медицинские данные, предоставлять доступ к ним доверенным компаниям и осуществлять государственный надзор в этой чувствительной сфере. Планы создания такой отраслевой федеральной платформы искусственного интеллекта, основой которой станет защищенный банк обезличенных медицинских данных, были недавно анонсированы Минздравом. Разработчики рассчитывают, что в процессе реализации этого проекта основные проблемы, связанные с использованием больших данных в медицине, будут решены.

К 2020 году медицинские информационные системы внедрили 82% медицинских организаций России. И хотя 80% информации в электронных медкартах хранится в неструктурированном виде, с ней вполне можно работать с помощью технологий обработки текста на естественном языке (Natural Language Processing, NLP). По мнению Гусева, основные сложности на пути развития российского рынка «умных» решений для медицины создает неурегулированный оборот обезличенных медицинских данных и отсутствие понятной схемы возврата инвестиций в это рискованное направление.

Закон на подходе

Между двумя нежизнеспособными крайностями «данные должны быть доступны всем» и «данные не должны быть доступны никому» лежат компромиссные варианты порядка обращения обезличенных данных, пока еще не оформленные юридически. Медицинские данные выделены в специальную категорию особо чувствительных данных и не могут обрабатываться без согласия субъекта даже в обезличенном виде. Как сообщила Александра Орехович, директор по правовым инициативам ФРИИ, поправки, предусмотренные законопроектом об обезличенных персональных данных, который сейчас готовится ко второму чтению, дают надежду, что вопрос доступа к данным с целью разработки систем искусственного интеллекта вскоре будет урегулирован. Доступ будет предоставляться в определенном порядке определенным категориям организаций, которые соответствуют определенным требованиям. Но никакой конкретики в отношении этого порядка, категорий и требований пока нет — ясность появится только вместе с подзаконными актами. Когда будут выпущены проекты документов с правилами обезличивания данных и правилами доступа к ним, тогда и развернется по-настоящему острая дискуссия на эту тему.

Сегодня, когда одновременно идут процессы усиления защиты данных и полной открытости цифрового следа, настало время поднять вопрос о донации данных, полагает Борис Зингерман, гендиректор ассоциации «Национальная база медицинских знаний». «Сделать донацию данных легче, чем донацию крови, а пользы от нее тоже можно получить немало, — подчеркнул он. — Я с удовольствием поделюсь своими данными для науки, и таких пациентов будет немало».

Три диагноза от искусственного интеллекта

Интересный пример полезного использования данных о первичных приемах пациентов, накопленных в столичной системе здравоохранения, привела первый заместитель начальника Управления заместителя мэра Москвы по вопросам социального развития Юлия Урожаева. Она рассказала о системе поддержки принятия врачебных решений на основе искусственного интеллекта, которая с октября прошлого года работает во всех взрослых поликлиниках города. Для обучения нейросети, которая была разработана и откалибрована при помощи специалистов лаборатории искусственного интеллекта Сбера, использовали уникальную методологию разметки данных, сообщила Урожаева. Около 95% случаев обращения в поликлинику связано с одним из 265 диагнозов. На них и сосредоточились разработчики.

Проанализировав анамнез и введенные врачом жалобы пациента, система подсказывает три наиболее вероятных предварительных диагноза, а затем подбирает стандартные пакеты инструментальных и лабораторных исследований для подтверждения диагноза или его опровержения. К настоящему времени с помощью системы проведено около 4 млн амбулаторных приемов, и в 70% случаев выбор врача совпадает с предложением нейросети. Систему продолжают дорабатывать и обучать, пополняя новыми данными и диагнозами и повышая точность ее работы.

Свое выступление Урожаева завершила приглашением к сотрудничеству. «Очень ждем нестандартно мыслящих людей для разработки следующих продуктов», — обратилась она к участникам форума.

Видеть цель

Поиск качественных медицинских датасетов сродни добыче золота или алмазов, требующей переработки тонн пустой породы. Поиском редких данных в различных источниках и организациях занимаются специальные компании, и эти изыскания не всегда успешны. Качественный датасет получается, когда исследователь четко знает, какие данные и с какой целью собираются. Например, это происходит при написании диссертации. Но создать качественный универсальный датасет для абстрактных целей невозможно, уверен Зингерман.

«При использовании публичных датасетов, которые непонятно как собраны, приходится проводить процедуру кросс-разметки данных нашими врачами», — подтвердил операционный директор компании «Цельс» Никита Николаев. По его словам, качественных медицинских данных на сегодняшний день мало. Однако если качественно отстраивать процедуры разметки данных, можно повысить и точность решений, построенных на их основе. Николаев поделился опытом по оптимизации затрат на разметку медицинских изображений с помощью псевдо- и кросс-разметки, а также результатами эксперимента по привлечению к процедуре разметки маммограм силами сообщества «Яндекс.Толока». Эксперимент показал, что люди, размечающие снимки для обучения ИИ, находили рак не менее точно, чем врачи.

Накопленные к настоящему времени массивы ценнейших медицинских данных очень плохо структурированы, так как при их создании не учитывались цели последующего ретроспективного анализа, отметил Николай Павлов, CDO НПЦ «Радиология Москвы». Но те данные, которые начинают накапливаться сегодня, эти цели уже учитывают.

«Российское здравоохранение находится в двух шагах от того, чтобы перейти к медицинской аналитике на основе первичных данных, — полагает Игорь Башков, коммерческий директор «Нетрика Медицина». — В 2020 году COVID всех к этому подстегнул».

Так, многие регионы организовали автоматическое формирование регистров заболевших коронавирусом и оперативную передачу первичных данных о заболевших на федеральный уровень в структурированном виде. Это лишь одна из множества задач, которые «Нетрика Медицина» помогает решать региональным управленцам, интегрируя данные из 70 медицинских информационных систем различных организаций.

На распутье: NLP или cтруктурированная галлюцинация?

Структурированные или неструктурированные данные — важная развилка на пути дальнейшей цифровизации российского здравоохранения. Как отметил Павел Пугачев, заместитель министра здравоохранения РФ, идти по пути структурированных электронных медицинских документов (СЭМДов), добиваясь перехода всех медицинских организаций на единый формат — правильно, но долго, хотя этот подход прекрасно себя показал в ряде регионов, где интероперабельность и обмен данными с федеральным сегментом Единой государственной информационной системы здравоохранения обеспечивается с помощью СЭМДов. «Мы будем двигаться по этому пути, но нельзя отбрасывать и неструктурированные данные», — подчеркнул он. По мнению Пугачева, сегодня недостаточно проектов, которые работают с неструктурированными текстами и результатами анализов, между тем это направление может стать прорывным. В нем следует создавать заделы и реализовывать сервисы для медработников.

Главное предназначение медицинских данных — обеспечивать оказание медицинской помощи и преемственности лечения. Возможность последующего анализа данных — дополнительный бонус, ради которого далеко не всегда можно заставлять врачей заполнять сложные длинные формы. Иногда это слишком долго и дорого обходится. К тому же опыт показывает, что данные из неструктурированных источников зачастую оказываются даже более качественными.

Гусев поделился историей, когда по настоянию заказчика разработчики сделали форму врачебного осмотра, включавшую почти тысячу полей. Заполнение данных осмотра одного пациента стационара занимало 40 минут. Неудивительно, что врачи сразу переходили в конец формы, меняя лишь несколько полей и оставляя остальные шаблонными. «В итоге на выходе получилась очень качественно подготовленная и прекрасно машино-обрабатываемая… галлюцинация», — констатировал Гусев. Эксперимент подтвердил, что абсолютная формализация в реальной медицинской практике невозможна, и имеет право на жизнь разве что в клинических исследованиях. А в клинической практике более применим подход, сочетающий заполнение текстом крупных блоков структурированных документов, и последующее извлечение информации из них с помощью NLP-технологий.

Чем сложнее экранная форма, тем менее достоверны данные, ее заполняющие, согласен Пугачев. Он, в свою очередь, привел пример неудачной попытки наполнить регистр больных ковидом подробнейшими данными о хронических заболеваниях, в результате которой получили множество пациентов, у которых вообще отсутствовали хронические заболевания. Лишь когда в регистре оставили только группы хронических заболеваний, качество его данных существенно повысилось. Для повышения качества данных также важно использовать данные, поступающие с анализаторов, носимых устройств и предоставляемые самими пациентами. К примеру, при вакцинации заполняемость дневников наблюдения на портале госуслуг оказалась существенно выше ожидаемой, а этот формат дает возможность не только собрать дополнительные сведения, но и разгрузить врачей при сборе анамнеза.

«Нам нужен спрос на датасеты для создания сервисов на основе искусственного интеллекта, чтобы иметь возможность внутренней приоритизации, выстраивания процессов разметки, создания эталонных датасетов и их предоставления вовне, — заявил Пугачев. — Мы хотим поддерживать именно российских разработчиков и готовы выстраивать с ними коммуникации». Удачный опыт НПЦ «Радиология Москвы» по тестированию ИИ-решений, по его мнению, нужно расширять, и не только на анализ медицинских изображений.

Иногда проблемы клиентов могут стать проблемами компании. Это выливается в дополнительные издержки, а в отдельных случаях ведет и к потере клиентов. В «Сибуре» считают, что лучший способ обеспечить лояльность бизнес-партнеров — совместная работа по минимизации числа возникающих инцидентов. С этой целью компания запустила бесплатные проекты по анализу производственных данных клиентов. Результатом становятся рекомендации по оптимизации производственных процессов, способные заметно повысить эффективность работы заказчиков. О том, как компания пришла к такой деятельности, о ее результатах и перспективах рассказывает Алексей Винниченко, руководитель центра аналитики компании «Сибур» и номинант на премию CDO Award 2021.

— Как родилась идея коллаборации с партнерами для улучшения качества продуктов? О том, что совместной работой с общими данными можно добиться большего, говорят многие, но до практики дело обычно не доходит.

В 2018 году в «Сибуре» стартовала масштабная программа цифровой трансформации. Одним из ключевых направлений в ней стала продвинутая аналитика, объединяющая подходы big data и data science. За эти три года мы реализовали много успешных внутренних проектов. В результате у нас выработались определенные методологии и лучшие практики. Удалось создать современную инфраструктуру по работе с данными. Это привело к мысли о том, что если получаются внутренние проекты, то было бы неплохо включить в периметр и клиентов — заводы, производящие продукты из наших полимеров.

У нас есть служба заботы о клиентах — технический сервис, который помогает им решать возникающие проблемы. Но нефтехимия — сложное производство, в нем далеко не все тривиально, и, несмотря на все усилия, у многих клиентов остаются проблемы брака на производстве. Это не всегда связано с нашим сырьем, встречаются проблемы с оборудованием, нарушением технологического режима и рецептуры производства. Наши клиенты — довольно небольшие предприятия, по крайней мере по сравнению с «Сибуром», и у них совершенно точно не хватает внутренних компетенций для проведения углубленной аналитики. Исследование (или даже расследование) проблем стандартными средствами, а также поиск путей их решения и разработка рекомендаций занимали у нас до нескольких лет. Сначала требуется анализ экспертов, натурные эксперименты, затем — модификация оборудования и процессов. Это долго и затратно.

Оборудованием по сбору данных мы оснащены с 2014 года, наши производственные данные копятся уже много лет. Реализуя проекты у себя, мы поняли, что с помощью данных можем увидеть след любой проблемы. И рекомендации по исправлению любой ситуации можно разработать существенно быстрее и с гораздо меньшими затратами.

Мы выбрали наиболее «проблемных» клиентов, показали им результаты своих внутренних проектов и обратились к ним с предложением попробовать «решить проблему по-умному». Так завязались первые контакты, и за прошедший год удалось успешно реализовать два таких проекта. Мы берем клиентские данные, «склеиваем» их с нашими, моделируем всю производственную цепочку, находим проблему и даем рекомендации по ее устранению. В одном из первых же проектов брак удалось свести практически к нулю без какого-либо физического вмешательства.

Таким образом, к идее мы пришли эволюционным путем через успешные эксперименты внутри нашей компании. Теперь мы решаем проблемы клиентов, попутно выявляя и свои — иногда часть причин находится на нашей стороне.

— Сразу ли рассматривался этот сценарий при развитии в «Сибуре» направления работы с данными?

Три года назад такое даже представить было невозможно: мы еще только начинали, и уровень цифровой зрелости был недостаточным. Уже в процессе работы появилось понимание того, что можно расширить охват исследований.

В 2020 году у нас был запущен новый завод «ЗапСибНефтехим» — крупнейший на постсоветском пространстве. Он обеспечил потребности в базовых полимерах внутри страны, что позволило отказаться от их импорта. Теперь начинаем думать о выходе на международные рынки, где уровень конкуренции гораздо выше. Там совершенно недостаточно просто производить хорошую продукцию — нужно думать о сервисе и новых услугах. С этой точки зрения наши действия абсолютно логичны. После выхода из коронавирусного локдауна, который нас заметно притормозил (все командировки и встречи оказались под запретом), мы возобновим работы по развитию клиентских сервисов на базе данных.

— Как относятся бизнес-партнеры к идее делиться своими данными? Вероятно, далеко не все к этому готовы — и психологически, и технологически.

Да, эмоциональный момент очень силен. Такой вопрос всегда возникает, но у нас на него готов ответ. Все-таки мы не банк, и передаются вовсе не персональные или финансовые данные. Мы снимаем с оборудования технологические показатели: температуру, давление, осевые смещения и т. п. Сами по себе они не представляют особой ценности. Единственное, что иногда вызывает сомнение, — возможность через данные раскрыть рецептуру того или иного продукта. Но обычно удается прийти к взаимопониманию. Кроме того, со многими клиентами уже сложились отношения, в которых достигнут определенный уровень доверия: гипотетические риски не воспринимаются ими как серьезные.

Что касается технологической возможности выгрузки данных, то этот вопрос действительно является ключевым. Далеко не у всех клиентов оборудование достаточно современное, и это проблема. Примерно с 2010 года производственные линии оснащаются модулями по выгрузке данных, а вот если оборудование более старое, сделать ничего нельзя.

Но недостаточно иметь физическую возможность выгрузить данные. Иногда требуется приобретать специальную лицензию на такой функционал. Мы столкнулись с этим на первом же проекте. Пришлось проводить переговоры с крупным немецким производителем оборудования. Нам удалось договориться о том, что для таких проектов в ряде случаев возможность выгрузки данных предоставляется бесплатно. Сейчас пытаемся добиться похожих соглашений с другими производителями. Я думаю, что мы договоримся.

Это выгодно всем, в том числе и производителям оборудования, которым клиенты присылают массу рекламаций по поводу некорректной работы агрегатов. В подавляющем большинстве случаев оказывается, что проблема не в железе, а в неумелых действиях персонала, однако сил на разбирательства тратится много. Наша работа с клиентами по поиску причин инцидентов может снизить поток претензий.

— Что первично: заинтересованность клиентов в таких дата-сервисах или «создание спроса» — демонстрация готовности их предоставить?

Любой клиент заинтересован в повышении своей эффективности: он стремится производить больше продукции в единицу времени, используя меньше ресурсов. А если он повышает свою эффективность, то сможет купить у нас больше полимеров. Именно поэтому наш сервис бесплатен: мы тоже заинтересованы в решении проблем клиентов.

К сожалению, не все заказчики знают такие слова, как data science и machine learning, — приходится проводить много образовательной работы. Но все понимают, что мы нацелены на обоюдовыгодный результат, поэтому вопросов бывает немного.

— Существуют ли на рынке аналогичные сервисы?

В российской нефтехимии подобных сервисов точно нет. И в Европе мы об этом тоже не слышали, по крайней мере как о массовой истории. Но чем больше индустрия будет продвигаться в модернизации оборудования, тем больше будет появляться возможностей для анализа данных. В будущем это может стать необходимым минимумом уровня клиентского сервиса.

— Какие проблемы возникают при реализации таких проектов? Как вы их решаете?

Большая часть проблем — это, конечно, организационные вопросы. Искать лиц, принимающих решения, объяснять, договариваться, заключать дополнительные соглашения... Сейчас средний срок реализации проекта составляет шесть месяцев, и из них лишь два месяца требуются на сбор и анализ данных, а остальное время уходит на решение организационных моментов.

Это всегда итеративная работа, требующая создания совместных команд. Начинается все с генерации гипотез о сути наблюдаемых проблем. Впоследствии мы пытаемся их проверить с помощью анализа данных. Две трети гипотез обычно оказываются несостоятельными, с остальными работаем плотнее. Сразу после выяснения причин проблемы мы можем выработать достаточно достоверные рекомендации. Затем проводим натурные испытания, где проверяем их «в бою». Если эффект стабилен, то проблема считается решенной.

— Когда фактически были начаты работы и что за это время удалось сделать?

Первый проект был задуман и начат в четвертом квартале 2019 года, и к концу первого квартала 2020 года его удалось завершить. Затем был реализован еще один проект. К сожалению, из-за пандемии все ограничилось этими двумя проектами. Однако мы можем говорить о том, что эффективность наших решений подтверждена последующим мониторингом.

Еще для одного клиента в Европе мы провели предварительную исследовательскую работу. Там нам пришлось столкнуться с устаревшим оборудованием. Мы выдали свои рекомендации, и заказчик начал модернизацию производственной линии, которая должна завершиться в августе нынешнего года. Мы к этому проекту обязательно вернемся.

— Какие эффекты были достигнуты? За счет чего?

Например, у первого клиента были проблемы с браком: происходили частые обрывы пленки. В установку загружается полиэтилен, который от нас приходит в виде гранул, расплавляется, растягивается в тонкую пленку и сматывается в рулон с огромной скоростью. Эта пленка довольно часто рвалась, а в случае обрыва агрегат останавливается и весь рулон бракуется — потери очевидны. Нам удалось снизить обрывность пленки в 8–10 раз. Общий экономический эффект этого проекта составил около 2 млн долл. в год. При этом мы сохранили клиента и увеличили ему поставки сырья.

— Приведите пример рекомендаций, которые могут выдаваться производителю и имеют очевидную ценность для него.

Разумеется, они имеют весьма технический вид. Например: держать дисперсию по температуре в реакторах полимеризации в определенных рамках.

Можно привести любопытный пример из другого проекта. Полимер, подаваемый на вход установки, обладает определенными характеристиками. Одна из них — длина молекул, которая должна находиться в пределах допустимого диапазона. Мы выяснили, что если этот показатель у всей партии сырья близок к одной из границ диапазона, то проблем не наблюдается. Но если смешиваются «длинные» и «короткие» молекулы, то на производстве возникают проблемы. Мы стали за этим более пристально следить и отправляем данному заказчику только те партии, где разброс по длине молекул именно тот, при котором переработка идет наилучшим образом. То есть иногда нам приходится делать персонализированный продукт под конкретного клиента.

Такие истории уникальны для каждого конкретного клиента. По большому счету не важно, почему именно так происходит, — возможны нюансы оборудования или особенности климата. Главное — определить, как избежать проблем, и следовать этим правилам.

— На каких продуктах построена цифровая платформа «Сибура»?

Главной ее частью является инфраструктура озера данных, в которой есть множество инструментов, в том числе data governance и data quality. Это дает нам уверенность в том, что используется только нужная и корректная информация, а не «мусор». Мы внимательно следим за качеством данных. Для сырых данных используется стек Hadoop, в качестве реляционной базы данных — Vertica. В большинстве случаев мы склоняемся к решениям open source, но в определенных ситуациях можем использовать и проприетарные системы.

Следующий слой — ML Framework. Это наша собственная разработка — платформа, позволяющая управлять жизненным циклом моделей машинного обучения. Такой «DevOps для моделей» позволяет радикально сократить процессы разработки и снизить издержки на интеграцию с другими системами и на внедрение в промышленную эксплуатацию. По всем моделям, запущенным в промышленную эксплуатацию, происходит мониторинг метрик качества в режиме реального времени, что позволяет нам доверять результатам работы наших моделей.

Наконец, важно отметить методологическую часть, аккумулирующую накопленный опыт реализации подобных проектов. Несмотря на различие индустрий, производственные проекты схожи друг с другом: сначала идут эксперименты, затем, найдя рациональное зерно, исследователи начинают копать глубже и т. п. Наработанные практики позволяют в начале проекта не раскачиваться слишком долго, а сразу идти по оптимальному маршруту.

В качестве инструмента визуализации и отчетности используем Tableau или, при необходимости более сложного пользовательского инструмента, разрабатываем UI с помощью библиотеки компонент SiburKit — собственной разработки на базе React.

— При анализе данных клиентов каждый раз приходится решать специфические задачи. Как минимизировать время и силы на их решение?

Это тоже часть нашей методологии. Мы используем слегка модифицированный Scrum и сразу создаем команду, в которую включены все необходимые представители заказчика, в том числе со стороны производства. Туда же входят дата-сайентисты, скрам-мастер и владелец продукта. Это позволяет, во-первых, исключить этап, когда все пишут друг для друга технические задания, которые обязательно будут неправильно поняты, а во-вторых, дает возможность двигаться короткими этапами и получать быструю обратную связь. Принцип fail fast позволяет сокращать издержки на погружение в процесс и быстро отбраковывать несостоятельные гипотезы. Участие заказчика в команде позволяет повысить вовлеченность и понизить затраты на коммуникацию.

При этом к концу проекта наши аналитики разбираются в производственных процессах не хуже технологов, несмотря на отсутствие опыта и специального образования. Через данные можно довольно глубоко погрузиться в процессы, а плотное взаимодействие с производственниками позволяет ответить на возникающие в ходе этого вопросы.

— Сейчас среднее время проекта оценивается в полгода. А что в планах? Каковы целевые показатели?

В идеале это три месяца, то есть наш показатель time to market должен сократиться вдвое. Если сейчас из шести месяцев проекта аналитическая работа занимает лишь два, то это вполне достижимо. С опытом у нас, несомненно, появятся лучшие практики по минимизации всех организационных проблем, что позволит значительно «схлопнуть» срок проекта. Разумеется, это не касается случаев, когда заказчику потребуется дополнительно оснащать производственные линии.

— Какова конечная цель этого проекта: возможность продавать более качественную продукцию по более высокой цене или что-то иное?

Скорее, это возможность выйти на высококонкурентные зарубежные рынки и закрепиться на них. Конечно, нас там никто не ждет с распростертыми объятиями. У предприятий уже существуют сложившиеся связи. И когда на рынок выходит новый игрок, ему приходится тяжело. Придется либо демпинговать, что неправильно, либо предлагать более качественный продукт и хороший сервис.

В целом мы фокусируем внимание на клиентоориентированности. Проведена очень большая работа, и мы хотим приблизиться к мировым эталонам в нашей индустрии. Те, кто не соответствует ожиданиям заказчиков, будут вынуждены постепенно уходить с рынка.

— В каком направлении будет развиваться этот проект? Платформой для каких новых сервисов он может стать?

Сейчас мы планируем масштабироваться экстенсивно, расширяя круг клиентов. Ближайший год, видимо, будет посвящен именно этому. Начали с «пленочников», а как только снимут ограничения, перейдем на «трубников» и «шинников». Накопив статистику и лучшие практики, сможем подумать и об интенсивном пути развития.

В будущем, вероятно, речь пойдет о предоставлении сервисов: рекомендательная модель будет работать на инфраструктуре «Сибура», а клиент просто получит к ней доступ и в режиме реального времени будет видеть дашборд со своими метриками и рекомендациями. Этот сервис вполне можно «завернуть» в цифровой продукт нового поколения.