Data Award

В феврале 2021 года вышел Указ Президента РФ № 68 «Об оценке эффективности деятельности высших должностных лиц субъектов Российской Федерации и деятельности органов исполнительной власти субъектов Российской Федерации». Согласно Указу, деятельность глав регионов и органов исполнительной власти субъектов будут оценивать по 20 пунктам, среди которых доверие к власти и другие социально-экономические показатели, а также качество городской и окружающей среды и «цифровая зрелость» органов власти. Для выполнения указа требуется обеспечить высших должностных лиц субъектов необходимой инфраструктурой и данными. Однако либо таких данных у регионов нет, либо требуется организовать их сбор, очистку и анализ. В числе прочего этим занимается АНО «Лаборатория Цифровой Трансформации», учрежденная Международным Союзом неправительственных организаций «Ассамблея народов Евразии». О ее создании было объявлено на ПМЭФ в июне 2021 года.

О построении системы сбора государственных и коммерческих отраслевых данных и о работе по созданию математических моделей на их основе рассказал Павел Басин, и. о. директора АНО «Лаборатория Цифровой Трансформации», ставший номинантом на премию Data Award 2022. Одна из главных задач организации — обеспечить готовность регионов к обмену информацией, готовыми моделями и процессами через «цифровые мосты», что позволит создать достоверную базу знаний, компетенций и наборов данных.

- «Лаборатория Цифровой Трансформации» появилась летом 2021 года. Каковы ее цели и задачи?

Идея ее создания родилась в 2019 году, когда Минцифры проводило проект по цифровизации контрольно-надзорной деятельности. Мы работали по соглашению с одним из банков и хотели определить, какого эффекта для государства и бизнеса можно достичь, анализируя весь поток данных, которым оперируют контрольно-надзорные органы в своей работе. Появилось видение структуры организации и проектов, которые можно реализовать через государственно-частное партнерство, концессию или контракты жизненного цикла. Например, стало ясно, что инфраструктура для сбора данных сама по себе может окупаться, однако, для того чтобы обосновать регионам необходимость создания таких систем, в любом случае потребуются расчеты эффективности, основанные на данных. Мы оценили разные отраслевые направления и увидели, что данных хватает далеко не везде и можно создать новый рынок по их «добыче», очистке и анализу.

После переговоров с одним из фондов появилась задача сформировать рабочую повестку с точки зрения расчета индексов инвестиционной привлекательности регионов. Такую же задачу мы рассматривали, организуя консалтинг по автоматизации госуправления на международных рынках в 2015–2016 гг. Позже она стала еще более актуальной с появлением «зеленого рейтинга» ESG (Environmental, Social and Corporate Governance). Затем коллеги из Минцифры добавили к нашим проектам и исследованиям искусственный интеллект, и мы поняли, что имеет смысл создавать тот самый рынок данных — не «открытых данных», о которых сейчас часто приходится слышать, а достоверных данных, пригодных и для расчета необходимых показателей, и для прямой монетизации. Данные и модели на их основе нужны рынку.

Изучая рынок и его игроков, мы поняли, что нужно фокусироваться не на самих данных, а на эффективных моделях, которые можно на них построить. Таким образом, речь идет о формировании реестра моделей эффективности в разных отраслях на основе данных, полученных в регионах. Многие из них как раз и используются для расчета ESG. На данный момент мы находимся в процессе его развития и формируем требования к данным.

Стартовав, мы сфокусировались на расчетах 20 показателей эффективности высших должностных лиц. Сейчас мы планируем в экспериментальном режиме обеспечивать точными цифрами и достоверными показателями ситуационные центры губернаторов.

- В ходе своей работы вы создаете СП с регионами. Почему был выбран такой формат?

Действуем исходя из реалий. Мы изучили опыт работы одного из АНО — оператора цифрового диалога между властью и обществом, для нас это важный пример. Кроме того, как некоммерческая организация, не имеющая допуска к гостайне, мы не можем работать с некоторыми данными, собираемыми регионом. Поэтому подписываем соглашение о создании совместной структуры с его правительством в лице руководителя цифровой трансформации (РЦТ).

В нескольких регионах наши эксперты, и я в том числе, уже входим в рабочие группы исполнения региональной стратегии цифровой трансформации. Изучая регион, мы наполняем дорожную карту и формируем план мероприятий по достижению показателей эффективности его руководства. Например, сейчас проходит эксперимент в Калужской области, связанный с учетом водоснабжения и водоотведения в магистралях водоканалов и контролем качества воды. Совместно с РЦТ региона и Минцифры создана межведомственная рабочая группа по формированию требований к показателям, которые нужно собирать через сигнальную сеть и передавать в Роспотребнадзор и в другие органы исполнительной власти.

- Вероятно, реализуемые проекты будут недешевыми…

К примеру, 2,5 тыс. датчиков с 10-летним обслуживанием для одного из заказчиков могут обойтись в 1 млрд руб. Но применение такого автоматизированного учета ресурсов позволит государственному предприятию сократить убытки в два раза, что выгодно для бюджета. На примере аналогичного проекта мы подтвердили, что модели, построенные на основе достоверной информации, эффективны.

- В рамках работы СП создается инфраструктура «добычи» данных, их нормализации и создания межрегиональной базы компетенций и обмена данными. Что она должна собой представлять?

Уже работает подсистема сбора данных ТОР КНД, оператором которой является Министерство цифрового развития, связи и массовых коммуникаций России. Недавно мы подписали с ним соглашение об использовании функционала этой подсистемы. Имея доступ к ее функционалу и совместно определяя требования к сайзингу, можно наполнять ее инфраструктуру. Вместе с тем мы понимаем, что далеко не каждый субъект готов увеличивать свои мощности по объему хранения и обработки данных, поэтому сформировали дополнительные требования к инфраструктуре.

Что касается базы компетенций, то, например, в ходе реализации проекта в Калужской области появилось понятие «цифровой мост». Регионы начали подписывать межрегиональные соглашения для обмена компетенциями, создавая их единую базу. Скажем, если в той же Калужской, Пензенской или Белгородской области наработаны эффективные компетенции по расчету определенных показателей, то через свою структуру совместных предприятий мы можем распространять эту модель.

- Что входит в спектр государственных данных? Какие данные уже не проблема, а какие еще предстоит «добывать»?

Государственные данные — это особые данные, территория происхождения которых принадлежит государству, как и в случае с недрами. Рынок необходимо научить создавать качественные продукты на основе таких данных и применять их эффективно. Очевидно, что такие продукты могут быть использованы как для изучения истории, следа исходных данных, прогнозирования или планирования, так и для оперативного принятия решений.

Чтобы сэкономить время коллег в регионах, мы собрали с них по три задачи, связанные с актуальными проблемами госуправления. Кому-то важнее демография, кому-то — транспорт и ЖКХ, многие заинтересованы в коронавирусной тематике. Именно исходя из этого, мы выбирали источники данных для формирования моделей. Если в каком-то регионе нужных данных нет, то через рабочую группу стратегии цифровой трансформации предлагается внести в план мероприятий создание инфраструктуры для их «добычи».

Можно констатировать, что достоверных данных в большинстве регионов недостаточно. Нам предстоит очень большая работа.

- Вы создаете реестр моделей с решениями актуальных задач регионального госуправления. Как появляются такие модели и как определяются наиболее удачные из них?

В начале 2022 года мы проведем соревнования — Всероссийский чемпионат по дата-моделированию. На нем будут представлены как раз те самые реальные задачи от органов государственной власти регионов. Сейчас мы консолидируем региональные данные, которые будут использоваться в этих задачах. Решения-победители будут распространены по лицензионной схеме во всех регионах для применения уже на «боевых» данных. Это будет серия чемпионатов при поддержке Минцифры и Минстроя.

Мы понимаем, какие данные у нас есть, а каких нет. В случае отсутствия какой-либо информации придется использовать полусинтетическую замену. Например, в регионе может не быть датчиков качества воды для постоянного мониторинга — проводятся только отдельные лабораторные исследования. Однако регион все равно хочет спрогнозировать закупку химии для очистки воды, потому что существует федеральная программа «Чистая вода» и есть платформа обратной связи, в которой обращения граждан по воде стабильно находятся в верхней пятерке. Конечно, чтобы в будущем определить источник проблем, потребуется оснастить систему водоснабжения соответствующими датчиками.

Уже есть модели, созданные на открытых данных, которые апробированы и предложены нам для применения. С их помощью мы можем считать показатели верхнего уровня, но не можем лицензировать такие модели, так как не считаем использованные данные достоверными.

- Вы планируете довольно динамичное наполнение реестра моделями — несколько десятков моделей ежеквартально. Почему выбран именно такой темп? И каким ожидается целевой объем реестра?

В первую очередь мы должны выполнять устав — то, о чем договорились с Минцифры: 20 показателей регионального руководства из Указа № 68. Динамика наполнения зависит от объемов данных, которые нам в данный момент готовы предоставлять регионы. И именно таким нам представляется цикл отработки моделей на реальных данных. Кроме того, надо учитывать готовность региональных кадров.

Что касается итогового количества моделей, то его сейчас трудно прогнозировать. Как известно, нет предела совершенству.

- Культура управления на основе данных постепенно прививается в коммерческих структурах. А как с этим в госсекторе?

По опыту работы с регионами я понял, что они готовы делиться компетенциями между собой. На самом деле региональное сообщество оказалось довольно слаженным, особенно это касается РЦТ. На региональных круглых столах удается встречаться со многими из них, узнавать об их ожиданиях (и даже требованиях) в отношении нашей работы и слышать их мнения: об обеспечении расчета индекса инвестиционной привлекательности, об оперативности принятия решений на уровне губернатора, о финансовых вопросах. Все без исключения говорят о важности качества данных, используемых для госуправления. Любой госструктуре важно обосновать принятие решений, получить возможность планировать свои действия. И еще важнее — достигать необходимых показателей, спускаемых для них через федеральные программы как по социальным показателям, так и по экономическим.

Сейчас пожелания РЦТ трансформируются в требования к предоставлению данных, их качеству и защите. Нужна не просто «большая куча информации», а каталогизированные данные с требованиями и описанием — для чего добываются, как используются.

- Госструктуры всегда были консервативными. Насколько быстро можно сломать старую, «аналоговую» модель управления и создать цифровую?

Прошло время, когда отраслевые специалисты «просили» айтишников не мешать им работать. Сейчас всем требуются новые идеи и инструменты, а технологии получают отраслевую направленность. Эффективность используемых решений легко подтверждается.

Важно, что мы создаем запрос на отраслевых специалистов, формирующих требования к инфраструктуре и данным. Это означает, что создаваемые системы будут востребованы.

Наконец, в октябре вышло Распоряжение правительства № 2998-р о создании единой системы сбора, учета и анализа социально-экономических показателей, в котором фактически говорится об оцифровке Госплана, а в ноябре был опубликован Указ Президента РФ № 633 «Об утверждении Основ государственной политики в сфере стратегического планирования в Российской Федерации». Для решения поставленных задач нужны достоверные данные, требования к получению информации и ее обработке. Мы занимаемся именно такой работой, и надеюсь, у нас это получится — необходимую поддержку мы имеем.

- Что даст создание реестра качественных моделей данных и алгоритмов прогнозирования в госуправлении? Какими могут быть эффекты для органов власти и граждан?

Приведу несколько примеров задач, которые будут представлены на чемпионате по моделированию. Предсказание увеличения нагрузки на социальную инфраструктуру, а также расчет объема дополнительных социальных выплат при текущем уровне миграционного потока. Определение предприятий, загрязняющих атмосферный воздух выбросами, превышающими ПДК. Электронная модель тепло-, водоснабжения и водоотведения. Оптимизация графика движения общественного транспорта. Снижение уровня смертности с помощью прогнозирования заболеваемости. Прогноз увеличения доли детей и молодежи, у которых выявлены выдающиеся способности и таланты на основе анализа проводимых конкурсных мероприятий.

Здравоохранение, транспорт, ЖКХ — определяющие направления социальной сферы. Во многом ситуация в них показывает реальную эффективность руководства региона. А для обычных граждан это означает рост качества жизни. Вероятно, в ряде случаев появится возможность не только своевременно выявлять проблемы и оперативно их решать, но и действовать проактивно, не дожидаясь обращений людей. А оперативные ответы на запросы повысят лояльность граждан властям.

- А по каким показателям будет измеряться эффективность работы «Лаборатории Цифровой Трансформации»?

Наш главный KPI — способность рассчитать и предоставить государству и бизнесу все необходимое для качественного планирования. Другие измеримые показатели – значительный список эффективных моделей в реестре, перечень сильных и технологичных участников и получаемый доход.

Конечно, лучше всего эффективность нашей работы будет демонстрировать реальное использование регионами цифровых моделей и их развитие. Если у вас есть бюджет для поддержания и развития в регионах необходимой инфраструктуры и кадрового потенциала, важно создать экосистему, чтобы созданный механизм работал.

- Каких реальных результатов уже удалось достичь?

Важно было отработать с регионами подход, который будет им понятен, и это пока нам удается. В субъектах разные типы административного управления: где-то с нами работает правительство, где-то — губернатор и его замы, где-то — отдельные министерства.

Сейчас на работу в рамках нашей программы подписано 7 субъектов РФ, с ними создаются СП. Мы уже подготовили и защитили серверную часть инфраструктуры. Собрано 30 региональных задач, которые будут преобразованы в реальные цифровые модели через чемпионат, в дальнейшем они будут отработаны на «боевых» данных. В нескольких регионах мы вошли в рабочие группы и составили план мероприятий по работе в нашей региональной сети.

В Калужской области проводится эксперимент по созданию системы учета водных ресурсов, реализованы два его этапа. Удалось увеличить доходность — эффективность очевидна. По итогам доклада руководства области Правительству РФ вышло распоряжение вице-премьера Дмитрия Чернышенко о тиражировании опыта в других регионах. Помимо прочего, на базе этого проекта отрабатывается межведомственное взаимодействие с применением межотраслевых моделей данных.

- В каком направлении будет развиваться деятельность «Лаборатории Цифровой Трансформации»? На чем будут сфокусированы усилия?

На первых этапах работы нам важно охватить большинство регионов, создать базу компетенций и наладить добычу данных и обмен, создать «рынок данных», удовлетворяющий конкретным требованиям. Это позволит обеспечить работу задуманных механизмов.

Некоммерческий сектор экономики в большинстве своем непрозрачен, что порождает низкий уровень общественного доверия к таким организациям. Достоверные и оперативные данные для учета НКО и оценки их благонадежности отсутствуют либо недостаточно доступны.

Решить эту проблему призвана цифровая платформа «Атлас НКО» — агрегатор открытых данных о деятельности некоммерческих организаций. Решение создали в Ростовской области, а затем тиражировали на всю Россию. Это веб-портал, обеспечивающий открытый и бесплатный пользовательский доступ к данным о деятельности НКО. Он содержит обобщенные данные о некоммерческих организациях из официальных источников: федеральных служб, ведомств и организаций. Об истории проекта и достигнутых результатах рассказывает Анна Белан, директор АНО Центр инноваций социальной сферы «Атлас некоммерческих организаций», ставшая номинантом на премию Data Award 2022 .

— В чем заключалась проблема, для решения которой создали «Атлас НКО»?

Сама идея создания платформы родилась еще в 2018 году, когда Общественная палата Ростовской области приняла решение проанализировать состояние некоммерческого сектора в регионе. НКО — «мягкая третья сила», которая способна решать различные социальные проблемы, до которых государство или не дотягивается вовсе, или задействовано в их урегулировании не в полной мере. Каких-либо инструментов, позволяющих проанализировать, насколько эффективно работает некоммерческий сектор, просто не было. Соответственно, не было и возможности отделить «живые» организации от существующих лишь на бумаге. Какие-либо оперативные данные о деятельности НКО, позволяющие оценить их благонадежность, также отсутствовали. Источники информации об этом объемны и сложны в обработке.

Такие барьеры осложняли контрольно-надзорную деятельность и принятие управленческих решений, касающихся НКО (финансирование, взаимодействие, вовлечение в социальные преобразования). Это стало отправной точкой для создания цифровой платформы «Атлас НКО», которая позволяла бы вести прозрачный учет НКО и обеспечивать мониторинг их активности на территории каждого муниципалитета.

— Как работала ваша организация до запуска цифровой платформы, что она собой представляла и какие задачи решала?

Изначально «Атлас НКО» создавался как оператор цифровой платформы, хотя, конечно же, ее появления пришлось ждать довольно долго.

В декабре нам исполнилось три года, и сейчас наш функционал существенно расширился: мы стали ресурсным центром, обеспечивающим инфраструктурную поддержку некоммерческому сектору — от регистрации, бухгалтерского и юридического сопровождения до проведения различных образовательных мероприятий. Кроме того, мы помогаем привлекать грантовое финансирование, участвуя в подготовке заявок на различные конкурсы. Можем взять на себя существенную часть бумажной работы, чтобы НКО могли, не отвлекаясь на рутину, делать то, ради чего создаются, — нести добро. Разумеется, речь идет лишь о тех организациях, которые в этом заинтересованы, — принудительно «причинять добро» мы не собираемся и работаем с теми, кто готов сотрудничать.

Отдельным направлением нашей деятельности является аналитика: мы исследуем состояние отрасли с помощью анализа больших данных.

— Как родилась идея создания агрегатора данных об НКО?

Инициатором стала Общественная палата Ростовской области. Когда она решила проанализировать состояние некоммерческого сектора в регионе, то сразу стало ясно, что для этого нет ни достаточных данных, ни инструментов. К сожалению, в подавляющем большинстве случаев деятельность некоммерческих организаций непрозрачна и малопонятна для общества в целом. НКО не очень хотят делиться информацией о себе, и как-то проанализировать их работу было сложно.

Достоверные и оперативные данные для учета, оценки благонадежности некоммерческих организаций также отсутствовали либо были доступны не полностью. На существующих порталах проверки контрагентов часть важной информации можно получить только по платной подписке. Источники информации очень разрозненны, она объемна и сложна в обработке.

Был необходим цифровой инструмент, позволяющий агрегировать все доступные данные. Требовалось создать решение, предоставляющее верифицированную информацию и работающее на бесплатной основе для всех.

— Какие варианты решения этой задачи рассматривались?

Нам был важен взгляд со стороны, поэтому мы приняли решение участвовать в конкурсе World AI&Data Challenge. Требовалась менторская поддержка экспертов: одно дело — придумать задачу, и совсем другое — услышать мнение потенциальных пользователей платформы. Кроме того, Агентство стратегических инициатив обеспечило хорошую информационную поддержку этому проекту и помогло транслировать его в другие регионы.

— Как была сформулирована задача для конкурса? Отличалась ли она от того, что получилось в итоге?

Платформа задумывалась именно в нынешнем варианте. Основная идея заключалась в том, чтобы выявить «живые», реально работающие НКО, отобразить их на интерактивной карте и визуализировать насыщенность ими крупных городов и муниципальных районов. То есть показать, насколько таких организаций достаточно для решения тех или иных социальных проблем.

Что такое «живые» НКО, каковы критерии их «живости»? На практике если организация не сдает обязательные отчеты в Министерство юстиции более трех лет, то ее ликвидируют по инициативе уполномоченного органа. Поэтому мы определили такой критерий, как статус организации: она должна быть действующей и сдавать отчеты о своей работе на протяжении трех лет.

Всю собранную информацию поместили на интерактивную карту — теперь можно отфильтровать организации по территориальному признаку и понять, сколько НКО в каждом населенном пункте. С этой задачей удалось справиться.

Единственное, что поменялось: созданная карта стала частью цифровой платформы «Атлас НКО». Она расширила созданное решение и хорошо туда вписалась.

— Какие данные использовались и откуда добывались?

Мы берем данные из открытых официальных источников — с сайтов Министерства юстиции, ФНС, Росстата, Минэкономразвития, крупных грантооператоров. Все они агрегированы на нашей платформе.

У нас есть несколько «пауков-грабберов», собирающих информацию с сайтов в автоматическом режиме. Собранные данные проходят через наш конвейер и проверяются. Как правило, в источниках присутствует много ошибок. Многие атрибуты организаций могут быть незаполненными или заполненными неверно, их число измеряется десятками тысяч. С помощью сопоставления разных источников и уже накопленной нами информации данные дополняются и верифицируются. В дальнейшем сведения загружаются в базу ElasticSearch.

Бэкенд платформы создан на Django, а фронтенд — с помощью библиотеки React и фреймворка Next.js.

Также мы компенсируем недостающие данные о НКО с помощью алгоритмов искусственного интеллекта (CNN и LSTM). В частности, цифровая платформа позволяет структурировать весь некоммерческий сектор и определить, какого типа организации присутствуют в конкретных населенных пунктах.

Поскольку у многих некоммерческих организаций в качестве основного ОКВЭД указан 94.99 (деятельность прочих общественных организаций, не включенных в другие группировки), идентифицировать, чем именно занимается организация, практически невозможно. Лишь у 38% можно увидеть что-то осмысленное, то есть область деятельности более половины организаций неочевидна для внешнего взгляда. Внедренная в цифровую платформу нейросеть распознает, какими направлениями деятельности занимается организация, опираясь не только на ОКВЭД, но и на ее название. Для обучения нейросетевой модели использовались открытая база данных о проектах Фонда президентских грантов и база информации о некоммерческих организациях, размещенных на цифровой платформе. В итоге мы можем получить представление о том, как устроен сектор НКО, не просто собирая и накапливая информацию о тысячах некоммерческих организаций, но и сегментируя его по направлениям деятельности — начиная от макроуровня и заканчивая географическими регионами.

Оценка отрасли по видам деятельности организаций позволяет выявить востребованные направления, а также те, что находятся на стадии освоения.

— Что в итоге представляет собой созданное решение?

«Атлас НКО» — цифровая платформа, которая агрегирует все доступные открытые данные о деятельности всех некоммерческих организаций в России и дополняет недостающие данные с помощью алгоритмов искусственного интеллекта. По сути, это веб-портал, обеспечивающий интерактивный, открытый и бесплатный пользовательский доступ к данным о деятельности некоммерческих организаций всей страны.

По набору данных наша платформа является уникальной. Ни в одном другом источнике вы не найдете подобного набора информации, которая была бы собрана в одном месте. Поскольку все данные объединены, это значительно уменьшает собственные затраты на обработку информации. Время поиска обобщенной информации о некоммерческих организациях занимает не более 10 секунд.

— Что еще вы считаете основными «фишками» созданной платформы?

Можно выделить систему рейтингов, которая действует на платформе. По-моему, такого нет ни у кого: найдя себя, организация может увидеть место, которое занимает по России, в федеральном округе и в своем регионе.

На основе полученных верифицированных и взаимообогащенных данных мы отобрали организации, имеющие по данным Министерства юстиции России статус «Зарегистрирована» и включенные Министерством экономического развития РФ в первый или второй реестр НКО — им положены дополнительные меры государственной поддержки. Использование реестров позволяет рассматривать организации, которые ведут активную деятельность и чья работа была проанализирована внешними экспертами (региональными органами исполнительной власти, Минюстом, ФНС, Фондом президентских грантов, региональными комиссиями конкурсов регсубсидий).

Организации, соответствующие требованиям, отсортировываются по общему объему привлеченных средств — естественно, те, кто привлек большее финансирование, получают большее количество баллов в общей системе рейтинга.

У бизнеса такой рейтинг крупнейших компаний существует давно, а НКО были незаслуженно обделены. «Некоммерческий» не означает «бесплатный», иногда организации могут привлекать неплохое финансирование.

— В чем заключалась самая большая проблема при внедрении решения?

Далеко не все данные, которые должны быть открытыми, в реальности являются таковыми. Конечно, мы бы хотели, чтобы на платформе размещались и данные о региональных мерах поддержки НКО. Но, к сожалению, не все регионы обнародуют информацию о том, сколько выдано региональных субсидий или кто являлся участником подобных конкурсов. В этом у нас пока информационный провал. Отсутствие таких сведений не мешает работе платформы, но для самих регионов важно получать объективную картину.

Пока нам не удалось автоматизировать часть процессов по сбору контактов организаций. Если с физическими адресами и телефонами проблем нет, то адреса сайтов и аккаунты в соцсетях приходится собирать вручную. Иногда это происходит уже в процессе повседневной работы с ними.

Кроме того, существуют проблемы с качеством данных. Для открытых данных есть стандарты, но мало кто их придерживается.

— Кто является основными пользователями созданного решения? Это власти, контролирующие органы, кто-то еще?

Изначально цифровая платформа задумывалась как инструмент контрольно-надзорной деятельности за работой НКО. Но практика показала, что круг пользователей гораздо шире: это и сами НКО, и бизнес, реализующий программы корпоративной социальной ответственности, и благополучатели — люди, заинтересованные в различных видах помощи.

Например, граждане, которые планируют открыть свою НКО (скажем, приют для животных), могут проанализировать, сколько приютов уже есть в городе, и решить, будет ли еще один конкурентоспособным. Мама особенного ребенка, не имеющая возможности водить его на платные коррекционные занятия, может найти соответствующую организацию, проводящую обучающие и развивающие занятия с такими детьми на бесплатной основе. Для самих НКО это возможность найти партнеров. А если организация пишет заявку на грант или письмо бизнесмену-жертвователю, но не знает, как подтвердить свою надежность, она может скопировать ссылку на карточку своей организации и вставить ее в текст письма или заявку на грант в разделе «социальные сети».

И конечно, и гражданам, и бизнесу, и органам власти важно взаимодействовать с благонадежными НКО. С помощью платформы мы можем это оценить и принять решение, работать с ними или нет.

— Были ли в результате запуска платформы какие-то «вау-эффекты» или что-то неожиданное, на что изначально не рассчитывали?

Для нас стало полнейшей неожиданностью то, что в официальных данных о НКО было столько ошибок. При обработке информации выявили и исправили более 52 тыс. ошибочных данных (неполнота в виде частично отсутствующей информации по некоторым организациям, наличие полных дубликатов записей, дублирование по ОГРН организации, в то время как остальные данные по ней различны). Например, в реестре НКО Минюста доля недостоверной информации составляет 10%. Мы даже обращались к ним, предлагая свою помощь, но наше обращение осталось без ответа. В Минэкономразвития, напротив, нашу помощь в верификации реестров НКО, которым положены дополнительные меры государственной поддержки, с благодарностью приняли.

— Решение изначально создавалось для Ростовской области, однако было развернуто на все регионы РФ. Как этот процесс проходил, в чем заключался?

Решение разрабатывалось в ходе World AI&Data Challenge и с менторской поддержкой АСИ, пилотный проект был запущен в декабре 2020 года. Изначально цифровая платформа включала организации Южного и Северо-Кавказского ФО, а карта «Живые НКО» охватывала только Ростовскую область.

Когда с помощью АСИ мы стали рассказывать о себе в других регионах, выяснилось, что такое решение интересно многим. Регионы стали выражать готовность добавлять свои данные на нашу платформу, появился шорт-лист наиболее активных. С кем-то заключалось партнерское соглашение об обмене информацией, с кем-то работали на основе устных договоренностей. В июле 2021 года платформой были охвачены НКО всей страны. В настоящее время цифровая платформа включает данные о более чем 455 тыс. некоммерческих организаций и готова к применению в любых регионах Российской Федерации.

— Какие результаты от запуска платформы «Атлас НКО» вы можете отметить?

Во-первых, это автоматизация контрольно-надзорной деятельности. Раньше для получения данных об одной НКО приходилось просматривать массу источников — это занимало около двух часов! Сейчас время поиска сокращено до 10 секунд. Другой важнейший фактор — достоверность предоставляемых нами сведений. Данные проходят верификацию, что исключает ошибки, допущенные в официальных источниках.

Мы считаем, что использование нашей платформы, с учетом достигнутых масштабов и введения рейтинговой системы, способствует повышению прозрачности НКО и росту общественного доверия к ним.

Мы замеряли количество пользователей цифровой платформы с момента ее появления — оно составило 21,4 тыс. человек (в среднем 5–7 тыс. уникальных пользователей в месяц). Людям это нужно.

— Есть ли возможность развития созданной платформы? В каком направлении?

Мы постоянно работаем над развитием платформы, совершенствуем ее. Мы сами являемся ее активными пользователями и видим, что нужно дорабатывать. Кроме того, регулярно получаем обратную связь от других пользователей и стараемся прислушиваться к пожеланиям: например, улучшаем систему поиска, добавляем фильтры.

Сейчас появилась идея создать встроенный в платформу сервис, который позволял бы проверять заявки НКО на грантовые конкурсы перед подачей. Разумеется, речь идет не только о выявлении грамматических ошибок, а о соответствии формальным условиям участия в конкурсе. Например, могут быть требования к названию проекта, к целевой аудитории, к количеству знаков в заявке. При загрузке заявки на платформу будут выделены все проблемные места.

Если удастся реализовать такую оценку, сервис будет очень востребован. Он будет полезен для всех НКО — участников конкурсов на получение грантов. А для ресурсных центров поддержки НКО, которые помогают в подготовке грантовых заявок, такой сервис станет просто бесценным.

Почему у медицинских данных длинный «хвост», с какими неожиданностями столкнулись разработчики медицинского искусственного интеллекта, какую роль сыграл в жизни молодой питерской компании эксперимент «Радиологии Москвы» и о каком дата-сете пока можно только мечтать, рассказал номинант на премию Data Award 2022 Евгений Никитин, начальник департамента ML-разработки компании «Цельс». На основе машинного обучения в «Цельсе» разрабатывают системы анализа медицинских изображений, помогающие рентгенологам, которых сейчас катастрофически не хватает в российских регионах, работать быстрее и пропускать меньше патологий на снимках.

- Как вы пришли в data science?

С детства хотел заниматься математикой, но не теоретической, а прикладной. Поэтому сначала получил образование по специальности «математические методы в экономике» в Санкт-Петербургском университете экономики и финансов. Затем в магистратуре в Англии занимался математическим моделированием человеческой памяти и внимания, потом в аспирантуре в США — машинным обучением для анализа политического поведения людей в социальных медиа. Параллельно занялся бизнесом — разрабатывал модели кредитного скоринга для финансовых организаций.

- Как же родилась идея работы с медицинскими данными? С чего начался проект «Цельс»?

Звезды так сложились. Мы с партнером познакомились с ребятами из калужской ИТ-компании, которым была очень интересна тема MedTech, но у них не было компетенций в сфере машинного обучения. На стыке их возможностей и наших компетенций осенью 2018 года попробовали сделать минимально жизнеспособный продукт (minimum viable product, MVP). Сначала задача была поставлена очень абстрактно: сделать то, что поможет обнаруживать рак молочной железы. Помимо пары публичных дата-сетов по маммографии для обучения модели, у нас была только выборка снимков, по которым уже был известен диагноз, поставленный пациенту. Результаты, полученные на тот момент, показались удивительными врачам, которым мы их показали. Это всех обнадежило. Мы поняли, что можем сделать нечто полезное, и решили развивать продукт дальше.

- Какими были следующие главные вехи проекта?

Мы открыли офис в Санкт-Петербурге и вскоре запустили разработку второго продукта «Флюорография / Рентген легких», а также пилотные проекты, что важно для получения обратной связи.

Очень большой поддержкой для нас оказалась работа, которую проводил в Москве Сергей Павлович Морозов, директор Центра диагностики и телемедицины («Радиология Москвы»). Действительно серьезной вехой стал эксперимент mosmed.ai, в котором прошедшие тестирование компании — разработчики ИИ-решений могут подключаться к клиникам через ЕРИС ЕМИАС, обрабатывать поток исследований реальных пациентов и получать обратную связь. К настоящему моменту три наши системы прошли так называемое калибровочное тестирование в этом проекте и работают полноценно: «Маммография», «Флюорография / Рентген легких» и «Covid-19». Другая наша система, выявляющая рак по КT легких, готова к внедрению, и еще одна, определяющая по КТ кровоизлияние в головном мозге, находится на стадии апробации.

- В этом проекте клиники голосуют, выбирая на определенный период продукт, с которым предпочитают работать. Сколько клиник выбрало ваш продукт?

Всего 102 клиники, больше всего выбрали «Маммографию» — примерно 50–60. Огромная выгода московского проекта — финансирование и одновременно развитие конкурентной среды: многие компании просто не выжили бы без такой поддержки. Второй крайне важный момент: организаторы понимали, что все системы далеко не идеальны, и принимали это. Когда мы приходили в регионы, то чаще всего слышали: «Ребята, это еще сыровато, надо допилить». А тут ставились три цели: во-первых, определить задачи, которые целесообразно и логично решать с помощью машинного обучения; во-вторых, отобрать лучшие решения; и, в-третьих, помочь разработчикам улучшить свои системы. Все эти цели достигнуты, и это очень здорово!

Результаты эксперимента теперь позволяют нам внедрять ML-системы и вне Москвы. В мае 2021 года мы получили регистрационное удостоверение на медицинское изделие, и в ближайшее время наши системы официально начнут работать на уровне нескольких российских регионов. Кроме того, большой проект идет в Узбекистане.

- Что было самым интересным в процессе создания медицинского ИИ?

Разметить изображение, чтобы определить, есть у пациента патология или нет. Поначалу мы не отдавали себе отчета в том, какое количество расхождений будет, если дать один и тот же снимок двум врачам. А ведь это влияет не только на обучение модели, но и на ее оценку. Как доказать, что модель качественная, если существуют пять разных мнений по тому, как размечен снимок?

Начинали, по сути, тыкаясь вслепую, но в итоге построили четкий пайплайн по разметке. Это очень сложный процесс, начиная с того, что врачей надо выбрать по каким-то формальным характеристикам. Оказалось, что квалификация и опыт — не всегда очень хорошие предикторы качественной разметки. Важны и дополнительные характеристики — например, усидчивость и внимательность. В числе факторов, часто и сильно влияющих на качество разметки, — обычная усталость и отсутствие большого монитора с высоким разрешением.

Поэтому сейчас мы много внимания уделяем отбору врачей, которые хотят с нами работать, их обучению и регулярной проверке их работы. В процесс разметки встроен автоматический контроль качества с использованием специального набора снимков и эвристик.

Второе, чему мы научились, — итерационное написание инструкций. Каждый раз, запуская новый проект, сначала пишем первую версию инструкции и просим врачей разметить снимки в соответствии с ней. Затем смотрим, какие есть расхождения и почему они возникают. Например, один специалист отмечает на маммографическом снимке злокачественные кальцинаты, а другой может их не отметить или разметить иначе, не заметив, выбрав другой класс или неаккуратно обозначив контур. Далеко не всегда расхождения означают разные мнения, иногда врачи по-разному интерпретировали инструкцию! То есть большую часть противоречий между оценками врачей можно устранить с помощью качественной инструкции по разметке.

- Какую цель вы ставили перед собой на уровне данных?

Максимально эффективно получить дата-сеты, которые нужны для создания качественных продуктов.

Сначала нам был нужен качественно размеченный набор данных достаточного объема. Теперь, для дальнейшего повышения качества, к дата-сетам предъявляем все больше требований — например, по наличию разных видов и форм рака молочной железы. Сейчас наша задача — пополнять и обновлять дата-сеты, экономя при этом деньги.

Как выяснилось, жизненно необходимо так называемое активное обучение. Специфика медицинских данных в том, что у них очень длинный «хвост». То есть большая часть пациентов здоровы, и лишь в снимках оставшихся 5% встречаются редкие патологии, которые мы очень хотим выявить. Если размечать все подряд, то большую часть времени мы будем делать бесполезную работу: нейросеть уже выучила здоровых пациентов и пациентов с легко детектируемыми патологиями, а мы просто сжигаем деньги, размечая бесполезные для модели снимки.

Поэтому мы сделали «умные» инструменты, которые позволяют отбирать данные на разметку. Когда поступает информация, что врачи освободились, для них в полуавтоматическом режиме по разработанным нами алгоритмам отбирается пул исследований, разметка которых принесет наибольшую пользу.

То есть мы внедрили подходы, позволяющие улучшать готовые продукты, ведь повышать их качество становится все труднее и труднее.

- Какие источники данных использовали?

В некоторых проектах использовали публичные дата-сеты: мы берем по максимуму все, что можно использовать в коммерческих целях. Как правило, это зарубежные наборы данных, но сейчас при поддержке Минздрава РФ идет подготовка публичных дата-сетов для отечественных разработчиков, и мы в ней тоже участвуем.

Второй источник — прямые контакты с медучреждениями и научными центрами. Это выгрузка анонимизированных данных: либо платная из зарубежных институтов, либо (что бывает чаще) в обмен на бесплатное использование нашего продукта в пилотном проекте. И третий крупный источник — поток данных, поступающих в рамках московского эксперимента через радиологический сервис ЕРИС ЕМИАС.

- К вам попадают уже анонимизированные данные?

Да, в 95% случаев. В московском проекте на стороне организаторов стоит модуль для анонимизации. Изредка к нам попадают неанонимизированные данные, тогда перед началом работы мы производим автоматическую анонимизацию.

- Алгоритмы анализа медицинских изображений сейчас пишут многие. Чем отличается ваш подход?

Конкурирующие решения различаются количественными характеристиками: точностью и скоростью работы, числом систем, c которыми могут интегрироваться. К сожалению, в нашей области пока практически нет обмена знаниями. Мы же стараемся пропагандировать такой обмен.

Наша «машина» по разметке медицинских данных — одна из лучших. Отдельная команда работает непосредственно с врачами, контролирует качество разметки и снабжает команду машинного обучения этими данными.

Еще один важный момент: мы уделяем большое внимание скорости проверки идей. Моя роль в компании — обеспечивать правильную настройку процессов и правильный выбор инструментов, чтобы максимально быстро обучать нейросети, тестировать идеи и продолжать улучшать продукты.

У нас всего 15 дата-сайентистов на пять готовых продуктов плюс три в разработке. Поддерживать такую линейку можно только при максимально эффективном использовании ресурсов — то есть автоматизируя все, что можно, и применяя лучшие практики, как процессные, так и инструментальные.

- Есть мнение, что главный потенциал медицинского ИИ — в анализе интегрированных данных о пациенте, а не отдельных исследований. Есть ли намерение развиваться в этом направлении?

Я всегда верил, что будущее — в мультимодальном подходе, когда в систему интеллектуальной обработки данных попадают данные разного типа из разных источников. Например, рентгеновский снимок плюс история снимков для оценки динамики, информация медкарты плюс информация по результатам приема, которая может быть собрана голосом. Моя давняя мечта — достойный дата-сет с мультимодальными данными. При таком подходе можно достичь по-настоящему крутых результатов. Технологии к этому готовы: есть архитектуры нейросетей, позволяющие работать с мультимодальными данными. Но существуют опасения относительно нарушения приватности: чем больше у нас данных о пациенте, тем выше риск их деанонимизации. Тут явно предстоит большая юридическая работа, и, скорее всего, потребуется согласие пациента на такую обработку данных.

Однако в рамках научного сотрудничества с некоторыми клиниками мы пробуем использовать более широкие массивы данных. Например, не только снимок, но и его описание, где врач может упоминать важные аспекты, сильно повышающие риск онкологии, такие как случаи рака в семье пациента. То есть мы уже работаем на стыке изображения и текстовых данных. Но остается нерешенным ключевой вопрос: как обеспечить безопасный доступ к таким данным?

Кроме того, существует инфраструктурная проблема: не очень много клиник, где можно эффективно выгрузить и связать массивы данных; часто результаты осмотра еще пишут от руки. А у коммерческих клиник обычно с инфраструктурой все отлично, но объем данных недостаточен.

- Какие основные ИТ-инструменты применяете?

Разметка данных проводится на российской платформе Supervisely, для хранения данных и разворачивания моделей используем Yandex.Cloud и Kubernetes. Сама разработка ведется на языке Python во фреймворке Pytorch. Чтобы обеспечить воспроизводимость результатов экспериментов (а это очень важно в науке), для обучения и тестирования моделей пользуемся фреймворками с открытым кодом Clear ML и DVC.

- Какими результатами использования систем «Цельса» можете поделиться?

Применение ИИ в медицине пока носит экспериментальный характер. Если сейчас убрать из медицины все ИИ-системы, краха не случится. Чтобы говорить об ощутимой пользе, надо уметь ее измерить, прежде всего оценить экономически. Посчитать, насколько меньше стали тратить денег в здравоохранении, — непростая задача. Сейчас мы сами тратим большие деньги, чтобы понять, меняется ли что-то с точки зрения финансовой эффективности, если у врача появляется наша система.

Однако в московском эксперименте есть примечательные кейсы — например, по обработке КТ-исследований на ковид. Для рентгенолога несложно увидеть знаменитое «матовое стекло», зато много времени требует оценка объема поражения легких, которая может повлиять на решение о госпитализации пациента. Практика показала, что ИИ-система может справиться с этой рутинной задачей, а врачу достаточно проверить, правильно ли все подсчитано. Время на интерпретацию одного исследования по ковиду сокращается на треть!

Кроме того, точечные свидетельства эффективности мы получаем из обратной связи от врачей — они не только сообщают, как наши системы помогают сэкономить время, но и честно признаются в том, что часть патологий могли бы пропустить, если бы система на них не указала. В пилотных проектах по маммографии в Брянске, Тамбове, Калуге, Калининграде и других городах, после пропускания через систему ретроспективных данных, были случаи, когда система обнаруживала рак, пациента направляли на дополнительное обследование и действительно находили злокачественные изменения.

- Какие направления дальнейшего развития проекта вы видите?

Первое глобальное направление — комплексные сервисы. Сейчас методами машинного обучения обычно ищут один определенный тип патологий, например ковид. Следующий важный этап — научиться находить на снимках одного исследования все возможные типы патологий.

Второе — измерить эффект от использования нашей системы по всем правилам научного исследования.

И третье важное направление — автоматизация рутинных задач, например контроля качества. В большом радиологическом исследовании многое может пойти не так — с оборудованием, с расположением пациента. И мы разрабатываем инструменты, которые помогают контролировать качество исследования прямо в процессе его проведения.

Мне кажется, выживут только те компании, которые, организовав работу небольших команд, смогут обеспечить максимальную скорость проверки идей. А ее можно увеличить благодаря автоматизации.

В ноябре 2021 года восемь транспортных судов застряли во льдах на Северном морском пути, из ледового плена их выводил атомный ледокол «Вайгач». Такое случалось и раньше, но в последнее время происходит почти ежегодно. За последние двадцать лет количество опасных стихийных явлений выросло вдвое, и ущерб от них продолжает увеличиваться.

Евгений Вязилов — заведующий лабораторией Центра океанографических данных во Всероссийском научно-исследовательском институте гидрометеорологической информации — Мировом центре данных (ВНИИГМИ-МЦД). Это один из трех мировых центров данных по океанографии. Институт является головной организацией Федеральной службы по гидрометеорологии и мониторингу окружающей среды и определяет ее политику в области ИТ. Здесь собираются все данные, получаемые в государственной наблюдательной сети Росгидромета.

Когда в 1968–1971 годах Вязилов начинал свою работу в Росгидромете в качестве наблюдателя, ему приходилось зимовать на полярных станциях Остров Диксон, Бухта Солнечная и Мыс Челюскина, вести океанографические наблюдения на научно-исследовательском судне «Вяндра», измерять толщину льда перед навигацией во время экспедиции на вездеходах в Енисейском заливе.

Впоследствии он посвятил многие годы созданию базы данных по возможным воздействиям опасных явлений на промышленные предприятия и население. Теперь на ее основе создается прототип системы, которая в критических ситуациях поможет быстро находить ответ на самый острый вопрос: что делать? Что делать руководителю конкретного предприятия, когда прогноз сулит ураганный ветер, неурочные заморозки, наводнение или оттепель, а также в случае ожидаемых изменений климата.

- Когда и как у вас зародился интерес к созданию системы поддержки принятия решений?

Наш центр еще в 70-х годах проводил климатические обобщения по открытому океану на основе данных, занесенных на перфокарты и магнитные ленты. При этом я удивлялся: считаем множество статистических характеристик для десятка наблюденных и десятка вычисленных параметров, а как их использовать при принятии решений — никто не знает. Фактически использовались только средние и экстремумы для небольшого числа параметров. Меня заинтересовала эта проблема, и в конце 90-х я защитил докторскую диссертацию на тему «Повышение эффективности использования гидрометеорологической информации при принятии решений», где впервые обосновал идею создания системы поддержки принятия решений при гидрометеорологическом обслуживании предприятий и населения.

- В чем суть этой идеи?

Зная гидрометеорологические условия, можно не только заранее предсказать перечень воздействий на предприятия и население, но и составить рекомендации для принятия решения. Необходимо собрать список воздействий и формализовать рекомендации для каждого стихийного явления, и сделать это нужно с учетом уровня опасности и типа используемых данных (наблюдения, прогноз, климат).

Опыт показывает, что ущерб от стихийных явлений часто связан с неинформированностью и недостаточным учетом всей имеющейся информации, что приводит или к бездействию, или к слишком позднему осознанию возможных воздействий — когда уже ничего невозможно предотвратить. В разнообразных инструкциях на предприятиях нет детальных алгоритмов действий во время стихийных бедствий. Между тем, чтобы вовремя провести превентивные мероприятия, руководитель должен четко понимать, что именно может быть источником опасности и насколько вероятно наступление той или иной ситуации. Однако из-за большого объема информации, разбросанной по лоциям, атласам, справочникам и предоставляемой в виде множества экранных форм, руководители зачастую не в состоянии достаточно быстро отреагировать на изменения условий среды. Поэтому они, с одной стороны, часто не учитывают критически важную информацию при принятии решений, а с другой — оправдывают неудачные решения плохими условиями окружающей среды.

- Что же делать?

Для эффективной поддержки принятия решений необходимо значительно уменьшить объем доставляемых руководителям сведений о состоянии окружающей среды. До руководителя должны доводиться лишь те из них, которые он будет использовать для анализа и принятия решений — в виде небольшой таблицы, карты и графика.

На каждом предприятии должен быть паспорт безопасности, где указано, какие стихийные явления могут быть в районе предприятия, как они могут повлиять на его работу, а также что надо делать до, во время и после события. Например, если предприятие находится далеко от реки, моря и на определенной высоте, то наводнение можно не учитывать. А вот если температура воздуха опустится ниже нуля, то продукцию, на которую это может отрицательно повлиять, нужно укрыть или перенести в крытые ангары. Да, многие рекомендации тривиальны. Но при приближении опасности человек находится в состоянии сильного эмоционального напряжения, и, чтобы принять решение быстро, ему требуется мгновенная оценка динамики ситуации с анализом причин и прогнозом последствий ее развития.

- Откуда берутся данные для такого анализа?

В России работают около 6,5 тыс. метеорологических станций и постов. Через час после наблюдения полученная от них информация уже занесена в базу данных. Кроме того, со спутников мы получаем данные об облачности, температуре воды и других показателях по всему земному шару. В открытом океане используются примерно 90 судов добровольных наблюдений плюс около 70 научно-исследовательских судов Росгидромета и Академии наук. Однако очень плохо обстоит дело с автоматическими буями: в российских морях их единицы — дорого.

Результаты статистической обработки всех этих данных собираются в нашем институте. У нас много лет создавалась база не только наблюденных значений, но и обобщенных — среднемесячных, среднегодовых и т. п. Иногда расчеты ведутся на основе эмпирических формул: например, пожароопасность оценивается по отклонению от климатических значений температуры воздуха и влажности в течение продолжительного периода.

Чтобы быстро получать информацию в режиме онлайн и интегрировать разнородные и распределенные данные, в 2014 году в нашем институте запустили Единую государственную систему информации об обстановке в Мировом океане (ЕСИМО). Несмотря на название, это универсальная система, которая интегрирует не только метеорологические и гидрологические данные, но и сведения о промышленных объектах, социально-экономическую информацию.

На основе интегрированных данных можно автоматически определять уровень опасности стихийных явлений в поступающих потоках оперативных данных, сравнивая их с локальными пороговыми значениями уровней опасности (желтый, оранжевый, красный), которые должны устанавливаться для каждого предприятия.

- Кто является потребителем этой информации?

Данными ЕСИМО пользуются промышленные предприятия и органы государственной власти, которые отвечают за предупреждение населения о стихийных бедствиях, — в первую очередь федеральные ведомства: Минтранс, Минобороны, МЧС и др. Гидрометеорологическая информация учитывается при обеспечении безопасности авиапассажиров, при выборе маршрута движения судов в пункт назначения, для поддержания стабильности работы ветроустановок и для сохранности скоропортящихся продуктов. Авиакомпании применяют наблюденные данные о скорости и направлении ветра для экономии топлива и обеспечения точного прибытия авиалайнеров по расписанию.

Мы рассчитываем на то, что в результате перехода от самообслуживания к персонализированному обслуживанию на основе локальных пороговых значений у нас появится больше заказчиков, оплачивающих подписку на цифровые сервисы.

- В чем заключается персонализация обслуживания?

При одном и том же значении показателя на него следует реагировать по-разному в зависимости от того, где находится объект: в средних широтах или в Арктике, где производство и население уже адаптировались к постоянному воздействию опасных явлений малой интенсивности.

Сейчас все руководители получают общую информацию или же их помощники сами ищут ее на портале ЕСИМО и на сайтах организаций Росгидромета. Мы же предлагаем новую модель: чтобы руководитель получал только то, что ему нужно для конкретного бизнес-процесса. Например, руководителю жилищно-коммунального хозяйства следует увеличить нагрузку на тепловую систему, когда температура опускается ниже -25°С.

Мы движемся к режиму, когда не пользователь является инициатором доступа к системе, а сама система автоматически выявляет опасные ситуации и запускает триггеры доставки сведений о них, что существенно ускоряет доведение до руководителей информации об уровне опасности. Раньше если синоптик видел опасность, угрожающую промышленному объекту, то в прогнозе погоды дописывал текст — к примеру: «возможен смыв груза, находящегося на пирсе». Сейчас система может автоматически формировать прогноз воздействий и передавать руководителю перечень рекомендаций для исполнения, чтобы предотвратить или уменьшить ущерб, а в некоторых случаях и повысить эффективность предприятия. Так, при планировании северного завоза точный прогноз не только повышает безопасность, но и сокращает время морской перевозки грузов с запада на восток.

Фактически предполагается реализовать конвейер автоматической сквозной обработки потока данных от наблюдения до принятия решений. Это экономически целесообразно, технически реализуемо и соответствует запросам целевой аудитории.

- Что было сделано для реализации новой модели обслуживания? Какие продукты созданы?

Проанализировав огромный объем материалов, где встречались описания произошедших опасных явлений и их воздействий на промышленные объекты, мы создали базу данных о воздействиях для 100 опасных явлений. Для каждого из них сформировали рекомендации руководителям различного уровня управления: перед событием — на основе климатических и прогностических данных; во время него — на основе наблюденных данных; и после него — с использованием фактических данных. Разработали средства автоматической идентификации опасных явлений на основе локальных пороговых значений показателей, которые определяются при настройке системы на конкретное предприятие. База данных дает возможность выдать сведения о воздействиях в нужном объеме и рекомендации, адекватные индивидуальным особенностям объекта. То есть по каждой ситуации для предприятия динамически готовится решение, учитывающее уровень управления, виды деятельности и локальные пороговые значения уровня опасности для каждого вида деятельности.

Способ доставки тоже имеет значение. Чтобы руководитель как можно быстрее узнавал об опасности, информацию нужно доставлять на его смартфон.

Мобильное приложение «МетеоАгент», работающее на Android-устройствах, с помощью SMS автоматически оповещает руководителей о возникших опасных явлениях, выдает сведения о возможных воздействиях окружающей среды на хозяйственные объекты и рекомендации для принятия решений. Еще одно приложение — «МетеоМонитор» — помогает правильно оценивать ситуацию, показывая на информационной панели в виде гидрометеорологических приборов значения показателей с цветовой индикацией уровня опасности в виде «светофора». Для каждого показателя строится график изменения значений за последнюю неделю и прогноз на ближайшие дни. С подсказками системы руководитель сможет работать гораздо плодотворнее — ведь ему не придется рыться в общих инструкциях (чаще рассчитанных на население, а не на предприятие) или вспоминать их.

- Какие основные ИТ-инструменты применяете?

Мы используем СУБД PostgreSQL, ориентируемся на кросс-платформенный язык Java. До сих пор работали с линейкой серверов приложений JBoss, но сейчас планируем перейти на другую линейку свободного ПО, исследуем популярную систему Elastic Search применительно к нашим условиям.

- Как решаете вопрос качества данных?

Когда мы переписали базу данных с перфокарт на магнитные ленты, было очень много нареканий. Мы потратили пять лет, чтобы привести наши данные в порядок. За это время методы контроля улучшились, мы обменялись алгоритмами контроля качества с партнерами по панъевропейскому проекту, позаимствовали у них методы контроля гидрохимических параметров и показателей загрязнения. На входе и выходе данные проверяются как минимум на общие предельные значения, а также по связи между физическими параметрами.

- В чем заключалась самая большая проблема в вашей работе?

Главная проблема сегодня — обеспечение надежности работы инфраструктуры портала ЕСИМО и связанных с ней приложений. В системе 31 поставщик данных, и большинство из них работают на уровне надежности 99,9%. В то же время отдельные поставщики данных могут работать на 80% и даже 70%, поэтому общий уровень надежности сразу падает.

- Какие наиболее значимые изменения произошли в работе с данными за последнее время?

Долгое время мы не обращали внимания на технологии искусственного интеллекта, сейчас изучаем возможности применения нейросетей и глубинного обучения. Все управления Росгидромета на своих ресурсах предоставляют пользователям доступ к информации по своему региону ответственности. Но когда каждое управление само решает отдельные задачи в области автоматизации, то результат невозможно масштабировать. Наш подход — создавать цифровую платформу на основе ЕСИМО. Рассматриваем возможность использования микросервисной архитектуры, чтобы повысить мобильность цифровых продуктов, создаваемых разными подразделениями, и исключить дублирование.

- Какие результаты своей деятельности вы считаете ключевыми?

Собранный материал по прогнозу воздействия и выдаче рекомендаций, оформленный в базу знаний, — это колоссальный труд на стыке предметной области и области ИТ.

- Каким вы видите дальнейшее развитие этого проекта?

В прошлом году мы обновили серверное оборудование, сейчас готовимся перенести ЕСИМО в государственное облако. Мы каждый год подаем заявки на развитие ЕСИМО, но Минфин их режет. Поэтому, в отсутствие масштабного финансирования, пока имеем опытные экземпляры системы поддержки принятия решений и экспериментальные результаты ее эксплуатации. Следующая задача — подключить модели расчета экономического ущерба. Надеюсь, что предложенная идея автоматизации поддержки решений найдет своих потребителей и будет широко использоваться.

Выставить на полку товары, которые пользуются спросом и могут привлечь потенциальных покупателей, а также по максимуму удовлетворяют разнообразные потребности, — не такая уж тривиальная задача, если ваш ассортимент не относится к ежедневному спросу, а магазинов у вас около 1,2 тыс. в 300 городах по всей России.

М.Видео-Эльдорадо уже несколько лет использует аналитику данных для реализации многих бизнес-процессов и персонализации покупательского опыта. С 2019 года компания начала активно развивать дата-продукты сразу для целого ряда направлений, таких как товарное наполнение магазинов, планирование промоактивностей, ценообразование.

Уже сейчас большая часть ассортимента магазинов «М.Видео» и «Эльдорадо» формируется на основе машинных рекомендаций. Данные, полученные онлайн, позволяют кластеризовать товары и построить дерево клиентских потребностей. На его основе алгоритм формирует рекомендации по наполнению товарной полки, учитывая множество факторов: поставленные бизнес-цели по обороту, размер маржи, особенности спроса в каждом из магазинов, уникальность товара, количество чеков и пр. По результатам пилотного проекта рост продаж по некоторым товарным категориям достиг 3,5% оборота. Автоматизация повышает эффективность планирования ассортимента и дает возможность менеджерам сосредоточиться на стратегическом развитии товарных категорий. Ну а клиенты без проблем находят на полках необходимый им товар.

Ретейлер поставил перед собой цель повысить прозрачность сбора и использования данных, обеспечить легкий и понятный доступ к нужной информации всем командам, работающим над клиентскими и бизнес-продуктами, — то есть, по сути, решил стать data-driven-компанией.

Проводя интервью в рамках конкурса на присуждение премии Data Award 2022 , мы поговорили с CDO М.Видео-Эльдорадо Данилой Наумовым и руководителем по управлению продуктом «Ассортиментное планирование» Максимом Николаевым о пути компании к data-driven-организации, о стирании границ между ИТ и бизнесом и о созданном решении для автоматического управления ассортиментом.

— Считает ли М.Видео-Эльдорадо себя data-driven-компанией? Если да, то как зарождался data-driven-подход? Как появился интерес к работе с данными?

Данила Наумов: Для начала давайте определимся, что такое data-driven-компания. Если это организация, принимающая решения на основании данных, то в наши дни такими могут считаться чуть ли не все. Но на мой взгляд, правильнее относить к категории data-driven компании, получающие конкурентные преимущества благодаря использованию данных. И мы однозначно находимся на пути к этому состоянию.

Еще в 2019 году первыми победами офиса данных стали решения из области клиентской аналитики и целевого маркетинга. Затем мы расширили область применения и создали полноценный центр компетенций по анализу данных и использованию алгоритмов машинного обучения. Сейчас у нас реализовано несколько продуктов для коммерческой дирекции: ценообразование, ассортимент, промопланирование. Отдельный сервис — чат-бот, который помогает нам отвечать на обращения клиентов. И конечно, наша гордость — видеоаналитика в рознице. Этот продукт, созданный внутри компании, позволяет решать большое количество задач по распознаванию очередей, детектированию одиноких покупателей, созданию тепловых карт. Сотрудники офиса данных задействованы более чем в 20 продуктовых командах.

— Как давно у вас появилась стратегия в области управления данными? Каковы ее основные положения и приоритеты?

Д.Н.: Важно, что наша стратегия неотрывна от стратегии компании. М.Видео-Эльдорадо планирует удвоить оборот до 1 трлн руб. к 2025 году за счет расширения ассортимента и создания лучшего персонализированного покупательского опыта на мобильной платформе OneRetail. Благодаря взаимодействию двух приложений — продавца и покупателя — OneRetail стирает границы между онлайном и офлайном, обеспечивая клиентам возможность бесшовно перемещаться из одного пространства в другое и в любом месте в любое время получать полный доступ ко всем товарам, сервисам и рекомендациям на основе данных. Персонализацию для клиентов и эффективность для бизнеса как раз и обеспечивают дата-сервисы.

Цель дата-офиса — создать условия для извлечения конкурентного преимущества из данных. И у группы М.Видео-Эльдорадо есть несколько продуктов, позволяющих создать для этого все условия.

Первое — это платформа данных: доступное, гибкое, логически связанное решение для хранения и анализа данных. Второе — набор практик ML-Ops для «операционализации» моделей машинного обучения и встраивания их в бизнес-продукты. И наконец, Data Governance — корпоративная функция управления данными как активом.

OneRetail — чисто интеграционная концепция, основанная на переиспользовании данных во множестве сценариев. Для ее успешной реализации необходимо обеспечить простое и быстрое получение данных от разных подразделений и их продуктов. Кроме того, не должно быть проблем с интерпретацией данных: источники и методики расчета показателей должны быть прозрачными. Если у подразделений будет возможность оперативно делиться данными, станут доступны процессы data discovery и тестирование гипотез по развитию продуктов, распространится практика внедрения алгоритмов машинного обучения в бизнес-процессы.

Либерализация доступа к данным — базовый принцип, который лежит в основе нашей стратегии. Все данные, которые генерируются в компании, должны быть доступны широкому кругу пользователей с учетом их роли. И чтобы эти данные стали доступными, кто-то их должен опубликовать. Этот кто-то — их владелец. Не ИТ и не офис данных, а руководитель команды или функции, в чьем периметре появляются эти данные. На него возлагаются обязательства по обслуживанию этого актива. Идея создания института владельцев данных — именно то, что ложится в основу нашей функции Data Governance (управление данными как активом).

— Но ведь офис данных существовал и до вашего прихода в компанию… Его стратегия как-то изменилась?

Д.Н.: Да, компания и раньше встраивала аналитику в отдельные бизнес-процессы, и сейчас мы пытаемся масштабировать такой подход. Для этого необходимо, чтобы работа с данными стала более массовой, не ограничивалась несколькими продуктами. Важно поднять общий уровень компетенций по работе с данными в рамках целой компании. Тогда у всех команд, работающих над развитием продуктов, появится возможность использовать машинное обучение в своих процессах.

— Какие ИТ-платформы применяются для работы с данными и почему именно они?

Д.Н.: Раньше в компании использовали хранилище данных SAP BW и BI-систему Microstrategy, преимущественно для формирования отчетности. Нам потребовался продукт, с которым можно было бы применять инструменты машинного обучения, — так у нас появилось аналитическое хранилище на платформе Greenplum. В качестве основного инструмента используются Python и AirFlow. Среди других ИТ-решений можно выделить React, PostgreSQL, Yandex.Cloud и GitLab CI/CD. Для создания ряда аналитических продуктов используем Tableau.

Сейчас мы готовимся к внедрению специализированных инструментов управления данными: бизнес-глоссарий, логическая модель данных, концептуальная модель данных, управление качеством данных. Кроме того, оцениваем возможность виртуализации данных: хотим создать слой доступа, на котором будет реализован каталог данных — к нему станут обращаться бизнес-пользователи. Их работа не должна зависеть от того, где конкретно находятся нужные им данные.

К типичным ошибкам, которые делают компании, можно отнести то, что часто они сразу приобретают понравившийся продукт и начинают его внедрять. Но эти продукты поддерживают лишь определенные процессы и спустя некоторое время способны стать «бутылочным горлышком» для развития систем. Мало у кого хватает мужества признать ошибку, и тогда вокруг продукта начинает развиваться экосистема «костылей», превращающаяся в монстра.

Первичными должны быть процессы. Вначале мы провели оценку зрелости процессов управления данными (Data Management Maturity) по методологии Университета Карнеги — Меллона. Затем определились с тем, что хотим предоставлять сервисы по продуктовому подходу, который у нас очень развит. Соответственно, мы должны разобраться с задачами и потребностями подразделений, узнать об их проблемах и трудностях, понять, какие преимущества и эффекты они ожидают получить. И уже с учетом этих факторов мы предлагаем набор продуктов и сервисов, прорабатываем под них процессы. Лишь разобравшись с процессами, мы можем сформировать требования к ПО, которое их автоматизирует.

К концу года мы планируем выйти на этап детальной проработки и пилотирования архитектуры системы Data Governance.

— Какие направления data-проектов получают наибольший приоритет и активнее всего развиваются?

Д.Н.: Сегодня специалисты центра компетенций по работе с данными задействованы более чем в 20 продуктовых командах. Помимо нескольких важнейших проектов, которые я уже упоминал (ценообразование, ассортимент, промопланирование, целевой маркетинг, чат-бот и видеоаналитика), мы работаем над платформами обратной связи, платформой клиентских данных (customer hub), прогнозированием спроса и оптимизацией товарных запасов, логистическим моделированием, несколькими HR-продуктами.

Очень важная особенность, о которой следует сказать, — матричная структура. В нашей компании происходит цифровая трансформация, и это не просто громкие слова: мы действительно стираем границы между ИТ и бизнесом, у нас нет отношений «заказчик — исполнитель». Продуктовые команды берут ресурсы из центров компетенций, которые находятся в ИТ и дата-офисе. У наших сотрудников, выделенных для продуктовых команд, в качестве KPI стоят бизнес-показатели тех продуктов, в интересах которых они работают. Такой подход позволяет разделить полномочия. Руководитель офиса данных не занимается функционалом в разработанных системах — это дело руководителей продуктов.

— Недавно компания М.Видео-Эльдорадо запустила решение для автоматического формирования ассортимента на полках. Как появился этот проект?

Максим Николаев: Текущее развитие рынка электроники характеризуется большим ассортиментом и высокой скоростью обновления линейки товаров, и поэтому все более актуальной становится работа с различными коммерческими метриками эффективности. На этапе органического роста индустрии было достаточно просто поставить побольше товара на полку — он замечательно продавался. Сейчас такой период прошел. Наступило время конкурентной борьбы: мы боремся за внимание клиента и долю его корзины. Находясь в фазе скорее интенсивного, а не экстенсивного роста, мы должны очень тонко настраивать уровень дистрибуции, управлять ценой, формировать ассортимент. Есть несколько подходов к решению этих задач. Традиционный путь заключается в том, чтобы нанимать все больше людей для управления растущим ассортиментом. Однако скорость развития рынка все увеличивается, учащаются ценовые стрессы, меняются предпочтения покупателей. Поэтому более эффективен альтернативный путь — data-driven-подход: с помощью углубленного анализа данных давать рекомендации по назначению управленческих атрибутов. Проще говоря, мы хотим создавать продукты, создающие рекомендации для менеджеров, на основе которых они могли бы принимать решения.

У нас много источников данных, как внутренних, так и внешних. И во всем этом множестве важно находить неочевидные взаимосвязи между метриками. Например, когда доступный ассортимент превышает 200 тыс. наименований, человеку тяжело понять, какие товары будут набирать популярность, а какие уже залежались на полке и не дают ожидаемого роста продаж.

С учетом скорости изменения рынка выигрывает тот, кто раньше принял правильное решение. Именно поэтому мы берем бизнес-процессы, находящиеся в коммерческом контуре, и насыщаем их цифровыми продуктами, которые помогают участникам процесса принимать решения на основе рекомендаций.

— Когда началась работа по проекту и на какой стадии вы находитесь сейчас?

М.Н.: Активная фаза проекта началась в январе 2021 года. К марту уже был готов MVP и проведены пилоты. Требовалось убедиться в том, что созданные модели действительно приносят дополнительные деньги. И лишь после этого мы начали постепенное масштабирование: процесс перехода должен быть максимально мягким и бесшовным. Сейчас мы находимся в точке, когда бизнес полностью переводит один из ключевых процессов на работу в новом продукте.

— Что собой представляет созданное решение?

М.Н.: Мы не хотели подвергать пользователей излишнему стрессу. На данном этапе все-таки человек принимает конечное решение, а подсказка машины воспринимается как «второе мнение». Поэтому мы попытались воспроизвести продукт в привычной для пользователя форме, чуть изменив дизайн того решения, которое использовалось до сих пор. Оно выглядит как веб-интерфейс, в котором у категорийного менеджера есть личный кабинет. В рамках своих товарных категорий он получает рекомендации, решает, принимать их полностью или частично, и осуществляет управление всеми атрибутами.

— В чем заключались самые большие проблемы в ходе проекта?

М.Н.: Путь был непростой. Так как мы говорим о цифровой трансформации, то институциональный аспект был особенно важен: недостаточно просто нашпиговать бизнес цифровыми продуктами. Как известно, организм часто отторгает плохой имплант. Поэтому было важно научить продуктовую команду и коммерсантов говорить на общем языке. Во многом это задача самой продуктовой команды — понимать потребности бизнеса, но нельзя забывать о необходимости взаимного движения. Бизнесу нужно научиться понимать ритм, в котором работают продуктовые команды, и принципы взаимодействия с ними.

Другой сложный момент — доказательство ценности продукта. Часто приходится слышать: «А вы, вообще, зачем?» В ответ надо «показать деньги», и если этого сделать не удается, то очевидный ответ — «Незачем». Мы демонстрировали ценность с помощью пилотов, чтобы подтвердить, что выдаваемые рекомендации действительно влияют на коммерческие показатели.

— Каких результатов удалось добиться?

М.Н.: Мы только начали. По сути, еще находимся на стадии MVP. Искусственный интеллект и люди работают вместе. Мы совершенствуем продукт, чтобы он рекомендовал продуктовые матрицы более точно, учитывал внешние факторы, на которые обычно обращает внимание только человек. Это помогает увеличить автоматизацию процесса, улучшить проникновение цифровых продуктов в бизнес. В результате высвобождается ресурс коммерческих менеджеров для стратегического развития категорий, для глубинного анализа рынка и зарождающихся трендов.

По результатам пилотов есть и чисто коммерческий эффект: благодаря использованию рекомендованных машиной продуктовых матриц, мы получили средний прирост до 3,5%. При объемах продаж в десятки и сотни миллиардов рублей для отдельных категорий, это весьма заметный эффект.

— Сейчас окончательное решение все-таки принимают люди. Реально ли формировать ассортимент полностью автоматически? Что для этого нужно?

М.Н.: В своих продуктах мы используем огромный объем ретроданных, в том числе из внешних источников, чтобы «заглянуть в завтрашний день». Поэтому одно из направлений развития — повышение доверия к рекомендациям, особенно для категорий, не требующих ежедневных корректировок. Для этого надо учесть как можно больше факторов, влияющих на изменение продуктовой матрицы. В теории это возможно, но на практике очень трудоемко. Когда мы рассматриваем вопрос полного доверия к машинной рекомендации, то уходим на более сложный уровень моделей, учитывающих специфику каждой конкретной категории. Выстроить по кирпичикам доверие человека к машинным рекомендациям — наш следующий шаг.

— Есть ли у этого проекта перспективы развития?

М.Н.: Глобально я вижу два вектора развития. Первый — учитывать как можно больше параметров, влияющих на изменение потребительского спроса. Мы рекомендуем товары, которые будут предлагаться клиентам в обозримом будущем, поэтому важно наращивать возможности в области прогнозирования. Особенно с использованием внешних источников. Скажем, для сезонных товаров (например, климатической техники) мы можем использовать прогноз погоды, а для товаров, предварительный выбор которых начинают онлайн, — поисковые запросы. Наша задача — сделать модели как можно более чувствительными к клиентским метрикам.

Второй вектор — покрытие продуктом всего бизнес-процесса. Так, мы хотим интегрировать данные от поставщиков, чтобы система «знала», что конкретный товар снимают с производства или будет сбой его поставки, и не рекомендовала для него широкую дистрибуцию. Таким образом, во-первых, мы будем рекомендовать тот продукт, который обернётся в дополнительные продажи, а во-вторых, повысим уровень доверия к формируемым рекомендациям.

— Какие еще data-продукты были созданы в последнее время? Приведите несколько показательных примеров.

Д.Н.: Например, очень важным продуктом стал клиентский чат-бот Алёна, который отвечает на обращения клиентов на сайте, в приложении и мессенджерах. В нем реализованы 23 сценария симуляции живого общения. В рамках этого продукта реализованы модели по классификации намерений, тональности, извлечению и распознаванию сущностей, построению оптимального диалогового сценария подбора товаров. Из наиболее сложных и интересных проблем в рамках этого проекта можно выделить модели автоматического построения графов знаний (knowledge graph) по товарным категориям, которые позволяют связать пользовательский словарь терминов с товарными характеристиками. Бот распознает до 98% запросов и самостоятельно обрабатывает порядка 40% обращений.

Еще один продукт, которым можно гордиться, — машинное зрение. Это решение мы реализовали собственными силами. Оно минимально в затратах, использует уже установленные в магазинах камеры. Разработаны модели идентификации клиентов, классификации «клиент — консультант», используются уведомления об одиноких покупателях и очередях на кассах. Для офлайн-аналитики и мерчандайзинга формируются тепловые карты движения наших покупателей. Начав пилотирование с пяти магазинов, к концу нынешнего года мы охватим еще 25.

— Многие отмечают, что для реализации data-driven-подходов необходимо изменение культуры работы с данными. Действительно ли это так и каковы действия компании в этой области?

Д.Н.: Да, это так. Каждый продукт можно очень долго развивать, используя лишь данные, генерируемые внутри подразделения. Но в какой-то момент для его дальнейшего развития потребуются данные извне. Это похоже на принцип работы торрент-трекеров: чтобы получить чужие данные, нужно самому что-то раздавать. Важно приучить пользователей к тому, что необходимо отдавать свои данные, инвестируя их в развитие соседних продуктов. Только если все одновременно так поступят, эта концепция будет работать.

Первый шаг, который мы делаем, — выделяем роли владельцев данных. Мы классифицируем данные на домены, анализируя, в чьем контуре рождается информация, и создаем новую роль. Это должны быть менеджеры достаточно высокого уровня, у которых не будет возникать вопрос: а зачем мне это? Они будут мыслить в масштабах компании, а не своих локальных задач, и поэтому смогут договориться между собой.

— В каком направлении будут развиваться инструменты для работы с данными в обозримом будущем? Какие цели для компании наиболее важны?

Д.Н.: Мы идем в сторону либерализации данных. Хотим выбрать инструменты, посредством которых подразделения смогут получить доступ ко всем данным компании и реализовать самостоятельную работу с ними. Главное, что требуется сделать, — построить каталог данных, с которым бизнес-пользователи могут работать, не вникая в технические вопросы. Мы создаем инструменты, которые смогут максимально упростить наши процессы и повысить их эффективность.