Искусственный интеллект

Webiomed стала первой российской системой искусственного интеллекта для здравоохранения, которая успешно прошла независимые клинические испытания и была зарегистрирована Росздравнадзором. Она может использоваться и врачами как система поддержки принятия врачебных решений, и руководителями для принятия управленческих решений в области управления здоровьем. Это дает увеличение потенциала профилактической медицины и сокращения предотвратимой заболеваемости. Историей создания платформы и ее нынешними успехами делится Александр Гусев, директор по развитию системы Webiomed.

— Что стало причиной появления платформы Webiomed?

Идея попробовать свои силы на новом для нас рынке искусственного интеллекта пришла к нам в 2017 году. В то время все наши усилия были посвящены работе в компании «Комплексные медицинские информационные системы» (К-МИС), которая к тому времени стала одним из лидеров рынка информатизации медицинских организаций. Несмотря на то, что наша команда развивала собственный стек самых разных программных продуктов для здравоохранения, мы стали понимать, что рынок информатизации России в целом сформирован, идет его консолидация и поэтому возможности дальнейшего развития бизнеса стали выглядеть не очень перспективными. Стало ясно, что с точки зрения технологий и интересов государства целесообразно поддерживать развитие только самых крупных разработчиков и переходить к централизованному продвижению продуктов на этом рынке.

Мы стали искать новую нишу и идею, которая потенциально могла бы открывать возможность для выхода на рынки других стран и пробовать применять новые технологии. Мы около года потратили на анализ различной аналитики, изучение глобальных рыночных тенденций и обсуждения возможных идей. На одном из таких обсуждений нам порекомендовали подумать над рынком искусственного интеллекта, который как раз стал заметно расти в США. Нам эта идея понравилась, и мы стали углубленно исследовать эту тему. Почти сразу мы отказались от идеи выхода в сектор анализа медицинских изображений, потому что уже тогда в мире было много сильных продуктов и конкуренция казалась слишком сложной. Мы нащупали идею прогнозирования возможных негативных проблем со здоровьем у пациентов. Именно в решении прогнозных задач алгоритмы машинного обучения показывали большие перспективы, а вариантов применения их было гораздо больше, чем у анализа изображений. Так и появилась идея создать сервис, который мог бы анализировать электронную медицинскую карту, извлекать из нее с помощью технологий обработки естественного языка (natural language processing, NLP) важную клиническую информацию и затем строить индивидуальные прогнозы возможного появления серьезных проблем со здоровьем в ближайшем будущем. Мы предположили, что такая предиктивная аналитика может быть полезна широкому кругу заказчиков, включая руководителей в области здравоохранения, страховые компании и конечно врачей.

— Каковы возможности решения?

Система умеет анализировать разнообразные данные о состоянии здоровья пациента с помощью интеллектуальных методов обработки больших данных. Она включает систему поддержки принятия врачебных решений, а также аналитическую систему для работы руководителей в области профилактики и управления здоровьем.

В настоящий момент система поддерживает 14 заболеваний в части оценки рисков их развития или ухудшения, 40 подозрений на наличие заболеваний. Основные нозологии: сердечно-сосудистые заболевания, сахарный диабет, хроническая болезнь почек, заболевания органов дыхания, патология при беременности, инфекционные заболевания (в том числе COVID-19), орфанные заболевания.

Webiomed – первая российская система искусственного интеллекта для здравоохранения, которая успешно прошла независимые клинические испытания и зарегистрирована Росздравнадзором как программное медицинское изделие. И мы стали первой ИИ-системой, получившей официальную регистрацию в качестве так называемой «Иной информационной системы», что дает нам правовые основания для взаимодействия с Единой государственной информационной системой здравоохранения (ЕГИСЗ).

— Что собой представляет бизнес компании? Кто основные заказчики?

За время реализации проекта мы несколько раз пересматривали стратегию и фокусировку проекта, поскольку шла проверка выдвигаемых командой гипотез и анализ обратной связи с рынка на предлагаемые нами идеи. Так была найдена текущая схема, согласно которой мы развиваем платформу, на которой одновременно могут работать врачи и руководители медицинских организаций. Применение этих продуктов позволяет платформе накапливать большие объемы обезличенных медицинских данных. Используя технологии NLP и ряд других возможностей, мы извлекаем и формируем большие массивы очищенных структурированных данных, на основе которых можем проводить исследования реальной клинической практики, заказные разработки алгоритмов и моделей машинного обучения и другие научно-исследовательские работы. Заказчиками таких услуг выступают научно-исследовательские организации, контрактно-исследовательские фирмы, а также фармацевтические компании.

— Какими вы видите перспективы рынка, какова ваша стратегия на нем?

Объективно российский рынок искусственного интеллекта для медицины недостаточно динамично развивается, выручка компаний невелика, мы пока не вносим ощутимую долю в ВВП. У многих компаний длительный цикл разработки продуктов. Отсюда и отставание от других стран, и сложности с решением финансовых проблем, и с поиском заказчиков и ростом инвестиций.

В 2020 году мы решили трансформировать проект Webiomed: вместо используемой в то время модели SaaS сосредоточиться на научно-исследовательских работах на базе обезличенных медицинских данных. Для этого разработали стратегию продвижения платформы на основе fremium. Мы предлагаем медицинским организациям и субъектам РФ подключение к платформе Webiomed бесплатно в обмен на право собирать обезличенные данные и выполнять коммерческие заказы от научных и исследовательских организаций на анализ данных, проведение научных исследований и т.д.

Следуя такому подходу, мы сумели накопить большое количество очищенных данных, пригодных для формирования датасетов и работы моделей машинного обучения.

— Каких результатов удалось достичь?

В настоящее время в платформе Webiomed содержатся обезличенные медицинские данные свыше 3 млн пациентов, свыше 130 млн медицинских протоколов, из которых извлечено больше 500 млн различных признаков. Эти данные можно использовать для автоматического выявления и анализа самых разных показателей, характеризующих население России, а также проводить исследования рутинной клинической практики для фармацевтических компаний, научных и образовательных организаций.

Результатами внедрения платформы в региональных медицинских организациях стало сокращение в 10 раз затраченного времени и трудоемкости обработки врачом медицинских данных пациента при диагностике, повышение до семи раз выявляемости пациентов высокого риска.

— Можете ли поделиться финансовыми результатами?

В прошлом году нам удалось увеличить свою выручку в 6,8 раза, что стало мощным драйвером для развития проекта. Минувший 2021 год также закончился существенным ростом – выручка проекта увеличилась в пять раз. Для технологического стартапа существенный рост основных показателей – таких как выручка и интеллектуальная собственность – являются жизненно важными. Они демонстрируют, что команда не просто способна создать интересный продукт, но и то, что этот продукт востребован рынком, а команда реально способна на активное продвижение на новых рынках.

— Что вы сами считаете главным эффектом использования Webiomed?

Самый главный результат, который мы пытаемся дать здравоохранению – это увеличение реального использования и потенциала профилактической медицины, сокращения предотвратимой заболеваемости, а значит – и сокращение неэффективных затрат. Анализируя электронные медицинские карты и развивая алгоритмы прогнозной аналитики, мы постоянно учим систему более точно выявлять пациентов высокого риска и обращать внимание врачей и руководителей на этих пациентов. Это очень важно, поскольку очень часто таким пациентам можно назначить точечное дополнительное обследование и эффективное лечение, которое будет предотвращать тяжелые осложнения: инфаркты, инсульты, госпитализации, а в итоге – и фатальные исходы.

— В чем роль проекта и его социальная значимость?

Платформа помогает врачам лучше понимать возможные негативные события со здоровьем пациента в будущем и обнаруживать заболевания на ранней стадии. Это дает возможность оказывать профилактическую медицинскую помощь, а также эффективно организовать профилактику хронических заболеваний и снижать уровень смертности от них.

Использование системы как «второго мнения» позволяет выявить факторы риска и высокую вероятность развития некоторых опасных заболеваний у 45% пациентов.

В целом, внедрение автоматизированных систем мониторинга пациентов позволит вести персональную профилактику, эпидемиологический мониторинг и принимать своевременные управленческие решения по сокращению заболеваемости и затрат на оказание медицинской помощи.

— Каковы направления развития платформы?

Мы видим, что в целом нашли эффективную схему монетизации, основанную на сборе и обработке больших данных с помощью технологий искусственного интеллекта и прогнозной аналитики. Результаты такого накопления и обработки позволяют нам предлагать все новые услуги и идеи, которые мы продолжим продвигать на рынке и проверять спрос и рентабельность масштабирования бизнеса компании на их основе.

Одним из самых перспективных направлений, которое мы выбрали для отработки в 2022 году, является привлечение пациентов к использованию результатов работы наших ИИ-алгоритмов. Мы хотим выпустить пациентское приложение, которое усилит эффективность инвестиций наших заказчиков в профилактику заболеваний. Не секрет, что именно вовлечение пациентов в собственную заботу о здоровье, повышение их осведомленности об имеющихся проблемах и рисках здоровья, а также улучшение приверженности подобранного врачами лечения – это ключевой вызов перед профилактической медициной сегодняшнего дня. С другой стороны, обогащение накапливаемых нами цифровых профилей пациентов их собственными данными, включая данные о соблюдении врачебных рекомендаций, приеме лекарств, достижении целевых уровней модифицируемых факторов – это крайней перспективное направление в повышении ценности самой платформы. Именно на проработке этой стратегии в данное время сосредоточена команда.

Спутниковые снимки Земли являются ценнейшим источником информации. Применять ее для всеобщей пользы призван комплекс «Цифровая Земля — сервисы», реализуемый по заказу госкорпорации «Роскосмос» компанией «Терра Тех» (оператор по геотехнологиям «Роскосмоса», дочернее предприятие АО «Российские космические системы»). «Цифровая Земля» — это фабрика для обработки и анализа космических снимков с использованием искусственного интеллекта. Благодаря ее возможностям, контролирующие органы и бизнес на всех уровнях теперь могут получать аналитику на основе космической съемки в разы быстрее и удобнее, чем когда-либо до этого. Использование нейросетевых технологий дает существенное преимущество в плане быстроты и качества распознавания снимков, позволяет идентифицировать и классифицировать различные объекты и изменения на местности, вовремя уведомлять пользователей о критичных событиях на объектах мониторинга.

О реализации проекта рассказывают номинанты премии Data Award Андрей Абросимов, заместитель генерального директора «Терра Тех» по науке, и Алексей Беленов, заместитель генерального директора «Терра Тех» по производству.

- Немного об истории этого проекта. Когда и почему он был начат?

Алексей Беленов: Нужно начать с нескольких фундаментальных задач, которые госкорпорация «Роскосмос» взялась решить по поручению президента России, инициировав проект «Цифровая Земля» в рамках национальной программы «Цифровая экономика». Первая группа задач связана с модернизацией технологий. Было очевидно, что настало время качественно улучшить механизм поставки данных с российских аппаратов дистанционного зондирования Земли (ДЗЗ) из космоса и повысить качество их обработки. Эту часть взяли на себя наши коллеги из АО «Российские космические системы» (входит в Госкорпорацию «Роскосмос»): они создали и внедрили на базе современного комплекса вычислительных ресурсов технологию автоматической потоковой обработки спутниковых данных, благодаря которой высококачественная информация со спутников в максимально сжатые сроки может пополнять информационные системы заказчиков и потребителей данных ДЗЗ. Мы работаем с коллегами в тесном контакте, но сами фокусируемся на высокоуровневой обработке, анализе и применении космических данных.

Андрей Абросимов: Наша задача — разрабатывать и использовать технологии, направленные на отраслевое применение материалов космической съемки. У многих потребителей нет достаточной подготовки и квалификации, чтобы самостоятельно интерпретировать снимки со спутника. Поэтому родилась идея создать комплекс сервисов, способный обрабатывать и анализировать снимки и сразу формировать цифровые тематические карты, отчеты и инфографику.

- Какие задачи требовалось решить?

А.А.: Дальше мы будем говорить только о сервисах «Цифровой Земли», но хотелось бы обратить внимание на то, что вся эта работа была бы практически невозможна без технологий потоковой обработки снимков. А если говорить о сервисах, то у нас было довольно ясное видение того, какие задачи можно решать, используя снимки, и что для этого нужно. В России многие компании делают разного рода ГИС-порталы и создают средства обработки как на региональном, так и на федеральном уровне. Но для нас было важно сформировать универсальный набор продуктов, способный по максимуму закрыть потребности государственных организаций в масштабах всей страны, коммерческих заказчиков, а в будущем — и наших граждан.

- Какие этапы проходил проект? Что было самым сложным?

А.Б.: Мы начали с анализа потребностей потребителей по продуктам и составу информации. Уже до эскизного проектирования стало очевидно, что делать такие продукты классическими методами в больших объемах будет непросто. Встал вопрос автоматизации такой работы. Мы начали экспериментировать с алгоритмами искусственного интеллекта (ИИ), поскольку другие подходы не обеспечивали ни достаточной скорости, ни качества обработки. Потребовалось включить в команду специалистов в области data science, ИИ, облачных вычислений и нарастить соответствующие компетенции, чтобы результаты работы алгоритмов соответствовали заданным техническим заданием требованиям.

А.А.: Это верно. Я, например, первоначально не был доволен качеством результатов обработки, но, по мере увеличения обучающих выборок для различных регионов РФ, качество начало резко повышаться. Мы разработали 27 типовых продуктов по 7 основным направлениям народного хозяйства (деятельность в этих отраслях можно отслеживать из космоса). Есть отдельные продукты, формирование которых все же требует экспертного анализа, доработки оператором результатов первичной автоматической аналитики, однако многие продукты уже сейчас формируются без экспертного анализа.

- Что на данный момент представляет собой платформа? Из каких частей она состоит?

А.Б.: В комплекс «Цифровая Земля — сервисы» входят 7 геосервисов с 27 информационными базовыми и мониторинговыми продуктами. Сервисы интегрированы с другими подсистемами создаваемой «Цифровой Земли» и опираются на них в части вычислительных ресурсов и исходных данных, которые поступают напрямую из Федерального фонда данных ДЗЗ и других источников. Структура комплекса сервисов включает: подсистему ввода информации; подсистему обработки информации, включающую модуль искусственного интеллекта (ИИ); подсистему представления информации, включающую модули личных кабинетов, формирования отчетов, десктопный и мобильный интерфейсы. Разработан API (программный интерфейс приложения), позволяющий передавать результаты анализа непосредственно в сторонние информационные системы.

А.А.: Авторизация происходит по единой учетной записи доступа к ресурсам «Роскосмоса». Существует несколько групп пользователей с разными правами. Пользователь размещает заказ на определенный тип продукта, уточняет параметры подбора: область на карте, по которой нужно получить аналитическую информацию; период дат, которые интересуют; уровень детализации и т. д. Затем заявка попадает в электронную очередь, где проверяется на корректность. Если что-то не так, мы связываемся с потребителем для уточнения. Далее происходит подбор космической съемки, удовлетворяющей заданным критериям, и после этого производится ее автоматическая обработка в модуле ИИ. Пользователь получает уведомления по мере прохождения этапов обработки и анализа. Все результаты доступны для просмотра и скачивания в интерфейсе пользователя.

- На каких платформах реализована система?

А.Б.: В основе лежат облачные технологии. Для хранения, обработки, визуализации, управления данными используются протоколы AWS, докер-контейнеры, средства PostgresSQL, REST API, MongoDB, WMS, Flask, Nginx, uWSGI. Для работы с нейросетевыми технологиями применяются фреймоворки сверточных нейронных сетей Tensorflow, Keras, Pytorch.

- В чьих интересах система работает? Как осуществляется взаимодействие между заинтересованными сторонами?

А.Б.: «Цифровая Земля» — это сложный проект с множеством составных частей, не все из которых пока готовы. Одна из составных частей — комплекс геосервисов — сейчас работает для пилотных регионов и ряда федеральных органов власти. У нас очень активное сотрудничество с федеральными органами, поскольку мы проводим взаимную интеграцию информационных систем. Например, с НИИ «Восход» мы интегрировались для выявления объектов капитального строительства, требующих проверки в части постановки на кадастровый учет. Их система ТОР КНД получает из «Цифровой Земли» информацию о вновь выявленных на снимках объектах капитального строительства в муниципальном образовании и выдает сигнал надзорным органам, если информация в реестре и на снимке разная.

А.А.: Кроме того, мы плодотворно сотрудничаем с ФГБУ «Рослесинфорг», подведомственным учреждением Рослесхоза. Они проводят квалифицированную оценку результатов выделения вырубок на снимках и формируют требования по модернизации алгоритмов искусственного интеллекта. Совместными усилиями нам удалось повысить точность выделения лесоизменений более чем на 10% даже при использовании разносезонных снимков и данных с облачностью и снегом. Перспективной выглядит возможность предоставлять организациям Рослесхоза интерактивные инструменты для дальнейшего дообучения алгоритмов нейросетей на большом массиве лесных данных. В рамках промышленной эксплуатации геосервисов «Цифровой Земли» запланированы работы по массовой выдаче типовых тематических продуктов. В ходе этого процесса мы будем собирать обратную связь и планировать дальнейшую модернизацию системы. Сейчас «Роскосмос» рассматривает расширение охвата субъектов РФ.

- Как проходила отработка сервисов? Исходя из чего выбирались тестовые регионы и сервисы?

А.А.: В числе пилотных регионов у нас было 8 субъектов. Отработка сервисов проводилась в Республике Татарстан, в Самарской, Нижегородской, Тверской, Кемеровской и Свердловской областях, в Республике Крым и Красноярском крае. Суммарно в ходе пилотной эксплуатации комплекса «Цифровая Земля» представители профильных министерств и ведомств субъектов РФ отработали 1552 кейса по объектам интереса общей площадью более 3 млн кв. км. На территории всех этих субъектов были выполнены масштабные полевые работы для сбора информации о наземных эталонах распознаваемых объектов и проверки результатов автоматической аналитики. Поскольку в продуктах применяются технологии ИИ, очень важно правильно подбирать обучающие выборки. У нас очень большая страна с различными климатическими поясами, разнообразными природными ресурсами и большим количеством территориальных активов, поэтому мы очень хотели, чтобы эти субъекты были максимально разнообразными. Понятно, что 8 эталонных субъектов — это пока маловато для репрезентативной обработки всей территории РФ, но прелесть технологии как раз в том, что чем больше ее применяешь, тем лучше становятся результаты, потому что нейросети дообучаются по мере увеличения объемов «скормленных» им космических снимков.

- Приведите самые интересные и показательные примеры использования геосервисов.

А.А.: Сегодня очень большое внимание уделяется лесу и экологии. Буквально на днях (11 февраля 2022 года) «Терра Тех» посетили вице-премьеры Правительства РФ Виктория Абрамченко и Юрий Борисов вместе с генеральным директором «Роскосмоса» Дмитрием Рогозиным. По итогам рабочего совещания было принято решение провести в 2022 году силами Рослесхоза и «Роскосмоса» пилотный проект в двух субъектах — Иркутской и Архангельской областях — по применению геотехнологий в целях повышения скорости получения и точности информации о вырубке лесов на основе анализа материалов космической съемки с использованием нейросетей. Также мы провели много работ по выявлению и мониторингу карьеров добычи общераспространенных полезных ископаемых, мониторингу промышленного и жилого строительства, определению степени зарастания сельскохозяйственных земель. У «Цифровой Земли» здесь чисто информационная и аналитическая функция. Наша задача — выполнить идентификацию, подготовить отчет и предоставить информацию соответствующим надзорным органам, а дальше именно они решают, было или нет нарушение, и проводят необходимые контрольные мероприятия. Фактически шок-эффект произвел кейс с пожарами в Якутии и Иркутской области прошлым летом, когда нейросети за несколько часов с очень высокой точностью обработали миллионы квадратных километров территории, затронутой бедствием.

- Какое направление геосервисов приносит наибольшую пользу уже сейчас?

А.А.: В последнее время мы обращали особое внимание на вырубки — здесь наиболее очевидная польза. О результатах пока говорить преждевременно, но мы готовы предоставить Рослесхозу имеющиеся у нас технологии и решения для цифровизации лесного хозяйства страны. Тут важно повышать частоту выявления рубок, а это зависит от доступности данных, количества спутников и их характеристик. Но даже с теми данными, что имеются сейчас, можно многого добиться. Космические инструменты нужны и коммерческим предприятиям, которые ведут лесозаготовку и инвестируют в лесопромышленный комплекс страны. Например, по данным из космоса можно выявлять наиболее перспективные лесные участки на основе знаний о породном и возрастном составе. Большим спросом пользуется контроль соблюдения темпов строительства — особенно для масштабных проектов строительства линейной инфраструктуры, а также когда у заказчика одновременно строится множество объектов в разных концах страны и нужно отслеживать их все одновременно.

- Нацелен ли проект на окупаемость? И вообще, насколько эти сервисы могут быть востребованы бизнесом?

А.Б.: Прямой эффект от внедрения технологий ДЗЗ оценить непросто. Это уже много лет пытаются делать ведущие консалтинговые агентства мира. Можно посчитать хотя бы число нарушений и объем штрафов, которые будут выставлены на основе космической аналитики. Данные ДЗЗ применяются, когда рассчитывается объем причиненного экономического и экологического ущерба (например, почвам). В этих случаях всего нескольких крупных экологических взысканий хватит, чтобы окупить разработку. Конечно, помимо этого, есть еще вся инфраструктура, ее содержание, спутники и т. д. В то же время нельзя забывать о том, что один снимок можно использовать сразу для целого комплекса задач и не один раз — например, у нас 27 продуктов (не все делаются по одинаковым данным). Вот и консалтинговые агентства согласны с тем, что, хотя прямой эффект оценить сложно, польза очевидна на всех уровнях и на всех рынках для широкого спектра задач.

Тем не менее можно отметить, что «Роскосмос» нацелен на развитие коммерческого применения данных и сервисов. Поэтому проект изначально создавался для обеспечения государственных потребителей с планами потенциального масштабирования и на бизнес, польза для которого от такой системы тоже неоспорима. К нам регулярно поступают запросы от коммерческих компаний, которые тоже хотят использовать возможности системы. Однако тут есть ряд нюансов — как нормативно-правовых, так и технологических. Для бизнеса нужны несколько другие продукты, хотя изначальный состав информации может быть похожим. А над решением нормативно-правовых вопросов сейчас работают специалисты «Роскосмоса», чтобы иметь возможность предоставить к системе коммерческий доступ, когда она будет готова к масштабированию. Поэтому сейчас бизнесу мы оказываем услуги на базе наших коммерческих разработок, не связанных с «Цифровой Землей».

- Каковы направления развития платформы?

А.Б.: Прежде всего требуется повышать автоматизацию. Ближайшие месяцы покажут, какие направления приоритетны. Перейти с 8 регионов на 20 и далее на 85 — это большой вызов. Здесь нужно понимать, что космические снимки — это очень объемная информация, для обработки которой необходимы достаточно большие мощности, соответствующие инфраструктуре. Поэтому мы не исключаем, что придется дорабатывать систему оптимизации ресурсов.

А.А.: Кроме того, алгоритмы прошли обучение не для всех регионов РФ — нужно увеличивать объем выборки. Будем дообучать имеющиеся и разрабатывать новые нейросети. У нас даже есть специальный инструмент, который автоматизирует сам процесс обучения. А дальше будем расширять номенклатуру геосервисов, делать их доступными для коммерческих потребителей, работать над повышением гибкости системы для пользователя. В итоге хотелось бы сделать возможным прямой доступ пользователей различной квалификации к облачному «конструктору» алгоритмов и продуктов.

В столичной Госинспекции по недвижимости автоматизировали процесс выявления нарушений, связанных с землепользованием. Теперь особое внимание инспекторы уделяют «подсвеченным» алгоритмами объектам, имеющим признаки нарушений. Дарья Степанова, заместитель начальника Государственной инспекции по контролю за использованием объектов недвижимости города Москвы и номинант премии Data Award, рассказывает о роли и результатах этого проекта.

— Какова история: как и почему родилась идея этого проекта?

Москва – один из самых динамично развивающихся городов не только в России, но и в мире. В столице насчитывается около полумиллиона объектов капитального строительства, построек и сооружений различного назначения. Они регулярно видоизменяются, проводятся ремонтные и реконструкционные работы, возводятся новые объекты и демонтируются старые, расторгаются и заключаются договоры – все это приводит к изменению границ земельных участков. В наше поле зрения попадают все объекты недвижимости, и объем работы колоссален.

Мы проводим постоянную работу по совершенствованию и разработке новых инструментов контроля. Одним из таких шагов стало внедрение алгоритмов выявления признаков нарушений. Они позволяют нам расширять охват зоны постоянного мониторинга, а также снижать нагрузку на бизнес и предпринимательское сообщество за счет дистанционных объективных методов выявления признаков нарушений без взаимодействия с их правообладателями.

— Какие задачи требовалось решить?

В первую очередь, необходимо было преодолеть проблему различной семантики источников информации, предоставляющих большое разнообразие данных, что значительно осложняло процесс идентификации объектов. Также была проведена большая работа по выстраиванию самого алгоритма, поиску необходимых источников и верификации данных, хранящихся в них. Необходимо было учесть все факторы и риски и не допустить ошибок в логике работы алгоритмов.

— За какое время и какими силами была реализована система?

Проект мы начали в 2020 году, а в прошлом году уже запустили первый алгоритм. В его реализации участвовали сотрудники и группа разработчиков проектного офиса по развитию информационных систем Государственной инспекции по недвижимости, входящей в Комплекс экономической политики и имущественно-земельных отношений столицы.

— Кто и на каких условиях предоставляет информацию для анализа?

Большую часть сведений мы получаем из информационных систем Правительства Москвы, портала Отрытых данных города Москвы, портала Росреестра, также используем открытые источники – например, «Яндекс». Предметом анализа являются технические параметры объектов недвижимости, информация о выданной исходно-разрешительной документации, договорные отношения, параметры объектов по ранее проведенным проверкам, а также сравнение фактического и разрешенного использования объектов недвижимости.

— Какие решения для этого используются?

Алгоритмы построены на платформе Pentaho BI, представляющую собой последовательную систему принятия решений по определенным видам данных (дерево принятия решений).

— Что удалось сделать, какими результатами можно гордиться?

Мы разработали и запустили в работу пять алгоритмов выявления признаков правонарушения. Алгоритм «Отсутствие оформленных земельно-правовых отношений» направлен на выявление объектов без оформленных земельно-правовых отношений и их последующего оформления. «Выявление самостроя» проводит анализ изменения площадных характеристик объекта на предмет соответствия разрешительной документации на строительство. «Неосвоение земельных участков» отвечает за анализ использования территорий, предоставленных под проектирование или строительство. «Нецелевое использование земельных участков» выявляет соответствие разрешенного использования земельных угодий и использования объектов капитального строительства по фактическим данным из открытых источников. Наконец, алгоритм «Самозахват земельных участков» анализирует соответствие границ построек с границами земельных угодий.

Каждый алгоритм помогает сформировать перечень объектов с необходимой проблемной информацией о них и присвоить категорию риска. Далее наши специалисты начинают работу по объектам и в короткие сроки дают заключение о наличии или отсутствии нарушений. Так, с момента запуска программы подтверждено более 3,5 тыс. нарушений в сфере землепользования.

Алгоритмы помогли сократить в четыре раза время на поиск первичных признаков правонарушений. Мы проанализировали более 200 тыс. строений и более 3 млн технической, разрешительной документации и данных открытых источников. Точность выводов алгоритмов составляет 84%.

— В чем заключается важность проекта?

Стратегическая важность, и даже уникальность проекта заключается в том, что система автоматически сопоставляет все необходимые документы и проводит анализ объектов. При отсутствии или несоответствии технической, или разрешительной документации алгоритм выдает признак нарушения. С помощью алгоритмов возможно проанализировать тысячи объектов в кратчайшие сроки и выделить из них именно те, которые обладают наибольшим риском правонарушения.

— Насколько реален сценарий, при котором нарушения будут фиксироваться в полностью автоматическом режиме – как превышение скорости?

Во многом переход к автоматической фиксации выявленных алгоритмами признаков нарушений идет уже сейчас. Благодаря изменениям в федеральном законодательстве в нашем виде контроля можно использовать данные, полученные с использованием работающих в автоматическом режиме средств фото- и видеофиксации нарушений (ст. 74 248-ФЗ). Сейчас мы занимаемся модернизацией нашего вида контроля с еще большим внедрением таких механизмов и все большей автоматизацией принятия решений.

Наш подход, конечно, зависит от типа нарушения. Например, обращения, связанные с использованием объекта недвижимости без оформленных земельно-правовых отношений или захламления земельных участков, в ближайшем будущем можно проверять без участия человека. Сегодня мы видим, что выводы, которые делает алгоритм, объективны, и по ним не требуется дополнительная перепроверка и выезд на место.

Однако сложные нарушения, такие как нецелевое использование земельных участков или возведение объектов самовольного строительства, пока еще требуют сбора доказательной базы, в основном из архивных источников. В этих случаях для нас алгоритм выдает лишь признак правонарушения, он попадает специалисту для проведения камеральной проверки, запроса необходимой архивной разрешительной и технической документации. Решение принимается уже по итогу ручной обработки.

— В каком направлении будет развиваться проект?

Сегодня ведется разработка новых алгоритмов по новым типам правонарушений. Также не прекращается работа по совершенствованию текущих.

Еврокомиссия объявила о том, что компании гиг-экономики (gig economy), привлекающие работников без оформления в штат, должны быть более прозрачными в части использования средств алгоритмического управления и мониторинга. По мнению экспертов, если эти правила вступят в силу, их следует распространить на всех работников, управление которыми осуществляется с помощью автоматизированных систем.

Как и в случае с другими законами ЕС, соответствующие правила затронут в том числе и американские компании, работающие на территории стран Союза.

Предложенная Комиссией директива в отношении алгоритмического управления является одним из трех представленных недавно наборов мер. Предлагается, в частности, предоставить полноценный статус сотрудника всем, кто поддерживает взаимодействие с «цифровыми трудовыми платформами» (digital labor platform). К ним относятся системы предприятий, занимающихся перевозками пассажиров (например, Uber и Lyft), компаний, специализирующихся на услугах доставки (Deliveroo), а также платформы неофициальной занятости в сфере бытовых услуг (TaskRabbit).

По оценкам Комиссии, в ЕС насчитывается 28 млн гиг-работников. Ожидается, что в 2025 году их число возрастет до 43 млн.

Предложения в отношении алгоритмического управления призваны обеспечить работникам защиту от любого негативного воздействия автоматизированных систем, используемых для контроля труда на условиях временной занятости.

«Мы видим еще один шаг вперед в осознании рисков, порождаемых алгоритмическим управлением, – указал профессор трудового права университета KU Leuven (Бельгия) Валерио де Стефано. – И он будет сопровождаться проявлением повышенного внимания со стороны Еврокомиссии».

Алгоритмическое управление

Алгоритмическое управление – ключевой компонент цифровых трудовых платформ. Он включает в себя инструменты и методы, используемые для автоматизации различных аспектов процесса координации деятельности работников, в том числе распределения задач и отслеживания эффективности их труда. Вместо контроля со стороны человека все здесь опирается на сбор данных и наблюдение.

Однако использование алгоритмического управления вызывает опасения в отношении отслеживания и оценки системами, представляющими собой «черный ящик», всего, что связано с работниками. При этом у работников практически нет возможности оспаривать принятые ими решения.

В отчете, опубликованном некоммерческой организацией Worker Info Exchange, отмечается распространенность слежки за гиг-работниками и отсутствие у них средств правовой защиты при возникновении разногласий. В качестве примера приводится блокирование сервисами агрегаторов такси учетных записей водителей из-за сбоев программного обеспечения распознавания лиц.

Пагубные последствия алгоритмического управления и мониторинга работников освещались в ноябрьском отчете британских парламентариев. «Поскольку работники испытывают постоянное давление со стороны средств микроуправления и автоматической оценки, повсеместный мониторинг и технологии определения целей оказывают выраженное негативное воздействие на их психическое и физическое состояние», – указывают члены межпартийной парламентской группы в документе под названием «Новый рубеж: искусственный интеллект на работе».

«Автоматическое распределение задач и измерение производительности по своей сути не должны вызывать проблем, – отметила вице-президент Gartner Хелен Пойтевин. – Однако проблемы могут возникнуть из-за чрезмерной зависимости от технологии и недостаточно плотного взаимодействия с человеком. Если у вас, к примеру, нет никакой системы поддержки, которая помогала бы работникам расти и учиться, или машины ошибаются, а положительный имидж продолжает играть важную роль. Нужна поддержка на месте».

Предложения Еврокомиссии направлены на повышение прозрачности при использовании инструментов алгоритмического управления для гиг-работников. Они включают в себя:

— Информирование работников о характере использования автоматизированных систем для принятия решений и действий, «оказывающих существенное влияние» на условия труда.

— Исключение из собираемых о сотрудниках данных сведений, в которых нет явной необходимости. Особенно это касается разговоров личного характера и информации, связанной с их здоровьем и эмоциональным состоянием.

— Контроль со стороны человека за функционированием автоматизированных систем. Необходимо исключить для работников риски для здоровья и их психологического состояния, обусловленные алгоритмическим принятием решений.

— Предоставление работникам возможности оспаривать автоматизированные решения, влияющие на их трудовую деятельность. Особенно актуально это для людей, не оформленных в штат, которые регулярно сталкиваются с закрытием или приостановкой действия их учетной записи без объяснения причин.

— Предъявление к поставщикам платформ требования проводить консультации с представителями работников перед внесением существенных изменений в функционирование систем принятия решений.

Предложения Комиссии основаны на действующем регламенте ЕС об общем регулировании защиты данных (General Data Protection Regulation, GDPR), учитывающем интересы работников в части сбора данных. Но, по словам де Стефано, GDPR не обеспечивает такой же ясности в отношении алгоритмического управления, как правила, предлагаемые для гиг-работников. В Комиссии отмечают, что при отстаивании своих прав в рамках GDPR они сталкиваются с определенными трудностями.

Не ограничиваясь временной занятостью

Профессор права Оксфордского университета Джеремиас Адамс-Прасл приветствует правила, предлагаемые в отношении автоматизированных систем принятия решений.

«Вокруг статуса работников, подключаемых к платформе, ходило много споров, а выдвинутая директива охватывает не только эти, но и многие другие вопросы, – подчеркнул он, назвав предложения по-настоящему важным шагом вперед. – Действие правил должно распространяться на всех работников, контролируемых сегодня автоматизированными системами, а не только на тех, кто трудится на условиях временной занятости. Ошибочно рассматривать временную занятость как изолированную часть рынка труда. Я посоветовал бы законодателям подумать о распространении соответствующих правил на всех работников, не ограничиваясь лишь теми из них, кто подключен к платформе».

В последние годы алгоритмическое управление и мониторинг внедряются компаниями в различных отраслях. Довольно часто с алгоритмическим контролем и мониторингом приходится сталкиваться сотрудникам складов. Многие их действия отслеживаются и направляются с помощью программного обеспечения. В ретейле работодатели иногда используют программное обеспечение для автоматического планирования смен.

Традиционные рабочие места также все чаще подвергаются контролю со стороны инструментов мониторинга, с помощью которых эффективность их труда отслеживается во время пандемии COVID-19. Широкое распространение получили средства автоматической записи скриншотов и регистраторы нажатия клавиш.

«Аналогичная тенденция наблюдается на рабочих местах по всему социально-экономическому спектру, но зарождение многих из этих технологий мы наблюдали по большей части в области временной занятости, – указал Адамс-Прассл. – Именно этим и объясняется реакция регуляторов на положение дел в этой сфере».

«Сегодня главная задача заключается в том, чтобы распространить защиту директивы ЕС о цифровой трудовой платформе на всех работников, – заявил де Стефано. – В противном случае мы получим, по сути, сегментированный рынок труда, где будут защищены только работники, подключенные к цифровым трудовым платформам».

Подготовка почвы

Подобно любому другому закону ЕС, новые правила в отношении алгоритмического управления могут иметь серьезные последствия и за пределами 27 стран, входящих в состав Евросоюза.

Если предложения Европейской комиссии будут приняты, компании из других стран, ведущие свою экономическую деятельность в ЕС, должны будут соблюдать правила, утвержденные в этом регионе. Адамс-Прассл подчеркнул значимость своего рода «эффекта Брюсселя», выражающегося в том, что влияние европейского законодательства (в частности, GDPR) в значительной мере распространяется на другие страны и регионы. И он вполне может материализоваться в том числе и в части правил, которые относятся к людям, работающим на условиях временной занятости.

Несмотря на то, что американские компании не имеют непосредственного отношения к GDPR, многие из них оказываются затронуты этим законом. И, выпуская продукт, соответствующий правилам GDPR, они распространяют его по всему миру. Так что влияние эффекта Брюсселя не стоит недооценивать. В конечном итоге последняя итерация превращается в новый ожидаемый стандарт для всей платформы.

Прежде чем предложения будут приняты, они должны пройти обсуждение в Европарламенте и Совете Европы. Никаких установленных сроков вступления их в силу пока нет. А поскольку правила должны пройти процедуру согласования между государствами-членами, ввод их в действие ожидается не ранее 2024 года.

Почему у медицинских данных длинный «хвост», с какими неожиданностями столкнулись разработчики медицинского искусственного интеллекта, какую роль сыграл в жизни молодой питерской компании эксперимент «Радиологии Москвы» и о каком дата-сете пока можно только мечтать, рассказал номинант на премию Data Award 2022 Евгений Никитин, начальник департамента ML-разработки компании «Цельс». На основе машинного обучения в «Цельсе» разрабатывают системы анализа медицинских изображений, помогающие рентгенологам, которых сейчас катастрофически не хватает в российских регионах, работать быстрее и пропускать меньше патологий на снимках.

- Как вы пришли в data science?

С детства хотел заниматься математикой, но не теоретической, а прикладной. Поэтому сначала получил образование по специальности «математические методы в экономике» в Санкт-Петербургском университете экономики и финансов. Затем в магистратуре в Англии занимался математическим моделированием человеческой памяти и внимания, потом в аспирантуре в США — машинным обучением для анализа политического поведения людей в социальных медиа. Параллельно занялся бизнесом — разрабатывал модели кредитного скоринга для финансовых организаций.

- Как же родилась идея работы с медицинскими данными? С чего начался проект «Цельс»?

Звезды так сложились. Мы с партнером познакомились с ребятами из калужской ИТ-компании, которым была очень интересна тема MedTech, но у них не было компетенций в сфере машинного обучения. На стыке их возможностей и наших компетенций осенью 2018 года попробовали сделать минимально жизнеспособный продукт (minimum viable product, MVP). Сначала задача была поставлена очень абстрактно: сделать то, что поможет обнаруживать рак молочной железы. Помимо пары публичных дата-сетов по маммографии для обучения модели, у нас была только выборка снимков, по которым уже был известен диагноз, поставленный пациенту. Результаты, полученные на тот момент, показались удивительными врачам, которым мы их показали. Это всех обнадежило. Мы поняли, что можем сделать нечто полезное, и решили развивать продукт дальше.

- Какими были следующие главные вехи проекта?

Мы открыли офис в Санкт-Петербурге и вскоре запустили разработку второго продукта «Флюорография / Рентген легких», а также пилотные проекты, что важно для получения обратной связи.

Очень большой поддержкой для нас оказалась работа, которую проводил в Москве Сергей Павлович Морозов, директор Центра диагностики и телемедицины («Радиология Москвы»). Действительно серьезной вехой стал эксперимент mosmed.ai, в котором прошедшие тестирование компании — разработчики ИИ-решений могут подключаться к клиникам через ЕРИС ЕМИАС, обрабатывать поток исследований реальных пациентов и получать обратную связь. К настоящему моменту три наши системы прошли так называемое калибровочное тестирование в этом проекте и работают полноценно: «Маммография», «Флюорография / Рентген легких» и «Covid-19». Другая наша система, выявляющая рак по КT легких, готова к внедрению, и еще одна, определяющая по КТ кровоизлияние в головном мозге, находится на стадии апробации.

- В этом проекте клиники голосуют, выбирая на определенный период продукт, с которым предпочитают работать. Сколько клиник выбрало ваш продукт?

Всего 102 клиники, больше всего выбрали «Маммографию» — примерно 50–60. Огромная выгода московского проекта — финансирование и одновременно развитие конкурентной среды: многие компании просто не выжили бы без такой поддержки. Второй крайне важный момент: организаторы понимали, что все системы далеко не идеальны, и принимали это. Когда мы приходили в регионы, то чаще всего слышали: «Ребята, это еще сыровато, надо допилить». А тут ставились три цели: во-первых, определить задачи, которые целесообразно и логично решать с помощью машинного обучения; во-вторых, отобрать лучшие решения; и, в-третьих, помочь разработчикам улучшить свои системы. Все эти цели достигнуты, и это очень здорово!

Результаты эксперимента теперь позволяют нам внедрять ML-системы и вне Москвы. В мае 2021 года мы получили регистрационное удостоверение на медицинское изделие, и в ближайшее время наши системы официально начнут работать на уровне нескольких российских регионов. Кроме того, большой проект идет в Узбекистане.

- Что было самым интересным в процессе создания медицинского ИИ?

Разметить изображение, чтобы определить, есть у пациента патология или нет. Поначалу мы не отдавали себе отчета в том, какое количество расхождений будет, если дать один и тот же снимок двум врачам. А ведь это влияет не только на обучение модели, но и на ее оценку. Как доказать, что модель качественная, если существуют пять разных мнений по тому, как размечен снимок?

Начинали, по сути, тыкаясь вслепую, но в итоге построили четкий пайплайн по разметке. Это очень сложный процесс, начиная с того, что врачей надо выбрать по каким-то формальным характеристикам. Оказалось, что квалификация и опыт — не всегда очень хорошие предикторы качественной разметки. Важны и дополнительные характеристики — например, усидчивость и внимательность. В числе факторов, часто и сильно влияющих на качество разметки, — обычная усталость и отсутствие большого монитора с высоким разрешением.

Поэтому сейчас мы много внимания уделяем отбору врачей, которые хотят с нами работать, их обучению и регулярной проверке их работы. В процесс разметки встроен автоматический контроль качества с использованием специального набора снимков и эвристик.

Второе, чему мы научились, — итерационное написание инструкций. Каждый раз, запуская новый проект, сначала пишем первую версию инструкции и просим врачей разметить снимки в соответствии с ней. Затем смотрим, какие есть расхождения и почему они возникают. Например, один специалист отмечает на маммографическом снимке злокачественные кальцинаты, а другой может их не отметить или разметить иначе, не заметив, выбрав другой класс или неаккуратно обозначив контур. Далеко не всегда расхождения означают разные мнения, иногда врачи по-разному интерпретировали инструкцию! То есть большую часть противоречий между оценками врачей можно устранить с помощью качественной инструкции по разметке.

- Какую цель вы ставили перед собой на уровне данных?

Максимально эффективно получить дата-сеты, которые нужны для создания качественных продуктов.

Сначала нам был нужен качественно размеченный набор данных достаточного объема. Теперь, для дальнейшего повышения качества, к дата-сетам предъявляем все больше требований — например, по наличию разных видов и форм рака молочной железы. Сейчас наша задача — пополнять и обновлять дата-сеты, экономя при этом деньги.

Как выяснилось, жизненно необходимо так называемое активное обучение. Специфика медицинских данных в том, что у них очень длинный «хвост». То есть большая часть пациентов здоровы, и лишь в снимках оставшихся 5% встречаются редкие патологии, которые мы очень хотим выявить. Если размечать все подряд, то большую часть времени мы будем делать бесполезную работу: нейросеть уже выучила здоровых пациентов и пациентов с легко детектируемыми патологиями, а мы просто сжигаем деньги, размечая бесполезные для модели снимки.

Поэтому мы сделали «умные» инструменты, которые позволяют отбирать данные на разметку. Когда поступает информация, что врачи освободились, для них в полуавтоматическом режиме по разработанным нами алгоритмам отбирается пул исследований, разметка которых принесет наибольшую пользу.

То есть мы внедрили подходы, позволяющие улучшать готовые продукты, ведь повышать их качество становится все труднее и труднее.

- Какие источники данных использовали?

В некоторых проектах использовали публичные дата-сеты: мы берем по максимуму все, что можно использовать в коммерческих целях. Как правило, это зарубежные наборы данных, но сейчас при поддержке Минздрава РФ идет подготовка публичных дата-сетов для отечественных разработчиков, и мы в ней тоже участвуем.

Второй источник — прямые контакты с медучреждениями и научными центрами. Это выгрузка анонимизированных данных: либо платная из зарубежных институтов, либо (что бывает чаще) в обмен на бесплатное использование нашего продукта в пилотном проекте. И третий крупный источник — поток данных, поступающих в рамках московского эксперимента через радиологический сервис ЕРИС ЕМИАС.

- К вам попадают уже анонимизированные данные?

Да, в 95% случаев. В московском проекте на стороне организаторов стоит модуль для анонимизации. Изредка к нам попадают неанонимизированные данные, тогда перед началом работы мы производим автоматическую анонимизацию.

- Алгоритмы анализа медицинских изображений сейчас пишут многие. Чем отличается ваш подход?

Конкурирующие решения различаются количественными характеристиками: точностью и скоростью работы, числом систем, c которыми могут интегрироваться. К сожалению, в нашей области пока практически нет обмена знаниями. Мы же стараемся пропагандировать такой обмен.

Наша «машина» по разметке медицинских данных — одна из лучших. Отдельная команда работает непосредственно с врачами, контролирует качество разметки и снабжает команду машинного обучения этими данными.

Еще один важный момент: мы уделяем большое внимание скорости проверки идей. Моя роль в компании — обеспечивать правильную настройку процессов и правильный выбор инструментов, чтобы максимально быстро обучать нейросети, тестировать идеи и продолжать улучшать продукты.

У нас всего 15 дата-сайентистов на пять готовых продуктов плюс три в разработке. Поддерживать такую линейку можно только при максимально эффективном использовании ресурсов — то есть автоматизируя все, что можно, и применяя лучшие практики, как процессные, так и инструментальные.

- Есть мнение, что главный потенциал медицинского ИИ — в анализе интегрированных данных о пациенте, а не отдельных исследований. Есть ли намерение развиваться в этом направлении?

Я всегда верил, что будущее — в мультимодальном подходе, когда в систему интеллектуальной обработки данных попадают данные разного типа из разных источников. Например, рентгеновский снимок плюс история снимков для оценки динамики, информация медкарты плюс информация по результатам приема, которая может быть собрана голосом. Моя давняя мечта — достойный дата-сет с мультимодальными данными. При таком подходе можно достичь по-настоящему крутых результатов. Технологии к этому готовы: есть архитектуры нейросетей, позволяющие работать с мультимодальными данными. Но существуют опасения относительно нарушения приватности: чем больше у нас данных о пациенте, тем выше риск их деанонимизации. Тут явно предстоит большая юридическая работа, и, скорее всего, потребуется согласие пациента на такую обработку данных.

Однако в рамках научного сотрудничества с некоторыми клиниками мы пробуем использовать более широкие массивы данных. Например, не только снимок, но и его описание, где врач может упоминать важные аспекты, сильно повышающие риск онкологии, такие как случаи рака в семье пациента. То есть мы уже работаем на стыке изображения и текстовых данных. Но остается нерешенным ключевой вопрос: как обеспечить безопасный доступ к таким данным?

Кроме того, существует инфраструктурная проблема: не очень много клиник, где можно эффективно выгрузить и связать массивы данных; часто результаты осмотра еще пишут от руки. А у коммерческих клиник обычно с инфраструктурой все отлично, но объем данных недостаточен.

- Какие основные ИТ-инструменты применяете?

Разметка данных проводится на российской платформе Supervisely, для хранения данных и разворачивания моделей используем Yandex.Cloud и Kubernetes. Сама разработка ведется на языке Python во фреймворке Pytorch. Чтобы обеспечить воспроизводимость результатов экспериментов (а это очень важно в науке), для обучения и тестирования моделей пользуемся фреймворками с открытым кодом Clear ML и DVC.

- Какими результатами использования систем «Цельса» можете поделиться?

Применение ИИ в медицине пока носит экспериментальный характер. Если сейчас убрать из медицины все ИИ-системы, краха не случится. Чтобы говорить об ощутимой пользе, надо уметь ее измерить, прежде всего оценить экономически. Посчитать, насколько меньше стали тратить денег в здравоохранении, — непростая задача. Сейчас мы сами тратим большие деньги, чтобы понять, меняется ли что-то с точки зрения финансовой эффективности, если у врача появляется наша система.

Однако в московском эксперименте есть примечательные кейсы — например, по обработке КТ-исследований на ковид. Для рентгенолога несложно увидеть знаменитое «матовое стекло», зато много времени требует оценка объема поражения легких, которая может повлиять на решение о госпитализации пациента. Практика показала, что ИИ-система может справиться с этой рутинной задачей, а врачу достаточно проверить, правильно ли все подсчитано. Время на интерпретацию одного исследования по ковиду сокращается на треть!

Кроме того, точечные свидетельства эффективности мы получаем из обратной связи от врачей — они не только сообщают, как наши системы помогают сэкономить время, но и честно признаются в том, что часть патологий могли бы пропустить, если бы система на них не указала. В пилотных проектах по маммографии в Брянске, Тамбове, Калуге, Калининграде и других городах, после пропускания через систему ретроспективных данных, были случаи, когда система обнаруживала рак, пациента направляли на дополнительное обследование и действительно находили злокачественные изменения.

- Какие направления дальнейшего развития проекта вы видите?

Первое глобальное направление — комплексные сервисы. Сейчас методами машинного обучения обычно ищут один определенный тип патологий, например ковид. Следующий важный этап — научиться находить на снимках одного исследования все возможные типы патологий.

Второе — измерить эффект от использования нашей системы по всем правилам научного исследования.

И третье важное направление — автоматизация рутинных задач, например контроля качества. В большом радиологическом исследовании многое может пойти не так — с оборудованием, с расположением пациента. И мы разрабатываем инструменты, которые помогают контролировать качество исследования прямо в процессе его проведения.

Мне кажется, выживут только те компании, которые, организовав работу небольших команд, смогут обеспечить максимальную скорость проверки идей. А ее можно увеличить благодаря автоматизации.

Гиперавтоматизация – революционный подход, позволяющий предприятиям использовать преимущества цифровой трансформации максимально выгодно для себя. Гиперавтоматизация предусматривает применение передовых технологий автоматизации бизнес-процессов с помощью роботов (robotic process automation, RPA), искусственного интеллекта, машинного обучения, интеллектуального программного обеспечения управления бизнесом (intelligent business process management software, iBPMS) и процессного анализа в целях улучшения и автоматизации процессов способами более эффективными по сравнению с традиционными.

Руководители организаций должны иметь в виду, что гиперавтоматизация – не просто внедрение отдельных технологий, а стратегическая сквозная перестройка, предусматривающая непрерывность усилий, направленных на автоматизацию сквозных бизнес-процессов в масштабах всего предприятия.

Почему необходим переход к гиперавтоматизации?

Гиперавтоматизация позволяет бизнес-командам переосмысливать свои процессы, не упираясь в ограничения какой-то одной технологии. Благодаря тщательному перепроектированию процессов они открывают для себя новые возможности, достигают более высокой степени удовлетворенности и вносят дополнительный вклад в решение когнитивных задач и вопросов, связанных с клиентами. Поскольку ключевое значение для гиперавтоматизации имеют платформы low-code, организации получают дополнительную гибкость, быстро адаптируясь к происходящим изменениям. В сочетании с «цифровыми сотрудниками» и программными ботами все это освобождает людей от необходимости выполнения рутинных операций, занимающих большую часть рабочего дня. Процессы модернизируются с помощью технологий искусственного интеллекта и машинного обучения.

Перечислим некоторые признаки, указывающие на необходимость изменений по сравнению с традиционной автоматизацией. Еще раз стоит повторить, что переход на гиперавтоматизацию предполагает улучшение процессов за счет применения передовых технологий.

Зависимость от унаследованных систем. Когда в бизнес-процессе задействовано сразу несколько систем с унаследованными данными, решить все стоящие перед предприятием задачи с помощью какого-то одного инструмента не представляется возможным. Это требует множества дополняющих друг друга технологий, которые связали бы системы в единое целое.

Зависимость от человека. Если ваши процессы сопряжены с утомительными повторяющимися задачами, на их выполнение требуется больше времени, что влияет на потенциальную производительность труда сотрудников. Кроме того, рутинные и не требующие высокого интеллекта задачи снижают моральный дух команд, не говоря уже о возникновении неизбежных ошибок в работе. Справиться с этими недостатками помогают боты RPA.

Рассмотрим, к примеру, какой-нибудь трудоемкий процесс в сфере страхования. Развертывание круглосуточно работающего программного бота для выполнения процесса генерации документов позволяет увеличить производительность и ускорить процесс в несколько раз, исключив при этом ошибки.

Риски несоблюдения нормативных требований. Для любого предприятия, в какой бы отрасли и географическом регионе оно ни работало, выполнение требований закона и регулирующих органов имеет первоочередное значение. С помощью инструментов гиперавтоматизации соответствующие положения, правила и факторы риска могут быть автоматизированы или включены в настройки процессов.

Отсутствие прозрачности. При использовании старых методов управления бизнес-процессами – вручную или по электронной почте – отслеживание ключевой информации затруднено. Обеспечение прозрачности бизнес-процессов требует больших затрат времени и дополнительных усилий. Если людям приходится вручную приводить в соответствие электронные таблицы и общие файлы, изолированные функции и автономные системы, а качество данных оставляет желать лучшего, самое время задуматься о технологическом сдвиге.

Чего можно добиться?

Повышение окупаемости инвестиций. Добавление к правильно выстроенным процессам средств автоматизации устраняет их неэффективность, приводит к сокращению времени на освоение новой продукции и ускорению процессов. Поскольку гиперавтоматизация предполагает сочетание использования средств автоматизации процессов и RPA с технологиями искусственного интеллекта и машинного обучения, получаемая выгода и окупаемость инвестиций увеличиваются.

Рассмотрим, к примеру, компанию медицинского страхования, которая обрабатывает почти 200 тыс. заявлений в год. Чтобы закрыть заявление, работник тратит в среднем полчаса в день на извлечение данных из системы CRM, вставку их в документ, вывод на печать и снабжение подписями. При использовании гиперавтоматизации процесс извлечения данных может быть автоматизирован за счет применения средств оптического распознавания символов, а информацию можно проверить при помощи инструментов автоматизации бизнес-процессов. Закрытие документа осуществляется с помощью электронной подписи. Время процесса в целом значительно сокращается, что приводит к существенному повышению окупаемости капиталовложений.

Улучшение клиентского восприятия. Согласно исследованию Zendesk, почти 80% клиентов при двух и более случаях неудачного опыта взаимоотношений с той или иной компанией пойдут к ее конкуренту. Чтобы клиенты лояльно относились к бренду, нужна персонализация ориентированных на них рабочих процессов. Технологии гиперавтоматизации, к примеру, могут использоваться для мониторинга взаимодействия с контактным центром. Использование средств обработки естественного языка помогает анализировать взаимодействие и настроения клиентов, проводить количественную оценку настроений, вычислять время задержки – то есть, рассчитывать все ключевые показатели клиентского восприятия (Customer Experience, CX), которые необходимы для понимания ситуации и принятия важных бизнес-решений.

Повышение операционной эффективности. По оценкам экспертов, благодаря гиперавтоматизации нагрузка на менеджеров к 2024 году снизится на 70-75%. Поскольку все это автоматизирует и ускоряет рутинные процессы ввода и извлечения данных, выставления счетов, управления поставщиками, обработки заявлений и т.д., появляется возможность освободить людей от выполнения операций подобного рода. Сквозная автоматизация позволяет поднять производительность и повысить качество стратегических бизнес-решений.

Ускорение выхода на рынок. В условиях растущей конкуренции в мире важно расширять масштабы производства, ускорять его и быстрее выводить новые продукты и услуги на рынок. Как сделать это грамотнее? Ответ заключается в создании систем, предполагающих написание минимального объема программного кода. Платформы low-code, позволяют разрабатывать приложения в 10-20 раз быстрее по сравнению с традиционными средствами. Визуальный подход к программированию создает условия для привлечения к проектированию приложений людей с минимальной технической подготовкой, помогая легко создавать приложения на основе уже готовых компонентов, шаблонов и виджетов.

Разработка low-code/no-code является центральным звеном гиперавтоматизации. Если гиперавтоматизация оптимизирует бизнес-процессы для беспроблемного проведения цифровой трансформации, то создание приложений с написанием минимального объема кода ускоряет эту процедуру, делая переход более быстрым и помогая поддерживать и модернизировать внедренные технологии. В условиях пандемии компании всего мира смогли по достоинству оценить гибкость и быстроту разработки low-code.

Сивашанкари Кришнамурти – менеджер компании Vuram по вопросам автоматизации доставки. На протяжении девяти последних лет она автоматизирует бизнес-процессов различных организаций. Имея опыт разработки более 100 бизнес-процессов с помощью инструментов гиперавтоматизации, основное внимание Кришнамурти уделяет вопросам успешного проведения клиентами цифровой трансформации. Она занималась реализацией различных программ с несколькими глобальными командами доставки и принимала участие в создании центров передового опыта.

Исследование рынка, проведенное компанией Enterprise Management Associates, показало, что специалисты, отвечающие в компаниях за сетевую инфраструктуру и операции, признают ценность применения AIOps при организации управления сетью.

Использование искусственного интеллекта в ИТ-операциях (Artificial Intelligence for IT Operations, AIOps) – развивающийся класс технологий, который объединяет машинное обучение, большие данные и другие виды продвинутой аналитики для автоматизации процессов управления ИТ. По сути, AIOps сопоставляет и анализирует различные наборы данных об ИТ-операциях, выявляет закономерности, делает на основании этих закономерностей определенные выводы и предоставляет соответствующую информацию персоналу ИТ-службы.

Недавно EMA опубликовала отчет «Революционные перемены в управлении сетью с помощью AIOps» ('Revolutionizing Network Management with AIOps'). Результаты проведенного опроса показали: 90% специалистов по компьютерным сетям убеждены в том, что использование AIOps при организации управления сетью может привести к улучшению бизнес-результатов предприятия в целом. Люди, решившие выйти за рамки этапа исследований, чтобы получить практический опыт работы с AIOps, оценивают потенциальные преимущества с наибольшим энтузиазмом.

Другими словами, управление сетью на основе AIOps способно улучшить ведение бизнеса. Проявлением этого становятся повышение производительности труда, улучшение клиентского восприятия и получение дополнительных доходов. Но каким образом AIOps придает дополнительный импульс развитию бизнеса?

Преимущества AIOps при организации управления сетью

В EMA попросили участников опроса перечислить потенциальные преимущества использования AIOps при организации управления сетью, которые они считают наиболее важными для своей ИТ-службы. В первую очередь специалисты по сетевой инфраструктуре и операциям отметили следующее:

— оптимизация сети;

— операционная эффективность;

— повышение уровня безопасности и соблюдение нормативных требований.

Про отказоустойчивость сети и снижение затрат упомянули уже меньше организаций. А специалисты по сетям главным потенциальным преимуществом считают повышение уровня безопасности и соблюдение нормативных требований.

Оптимизация существующих инструментов управления сетью

В EMA поинтересовались, связан ли интерес специалистов по сетям к AIOps с недостатками существующих инструментов управления сетью. Выяснилось, что 91% опрошенных надеются устранить имеющиеся недостатки инструментов с помощью AIOps. Чаще всего при этом назывались следующие возможности:

— устранение противоречий и неточностей в данных;

— компенсация нехватки информации в реальном времени;

— устранение фрагментации инструментов за счет сопоставления информации, поступающей из разных источников.

Лучше всего это описал сетевой архитектор фармацевтической компании, оцениваемой в 40 млрд долл.: «Сегодня у нас имеется очень много инструментов и различных графических интерфейсов, причем каждый инструмент делает что-то одно. Весьма полезной была бы возможность объединения на базе искусственного интеллекта решений каждого конкретного поставщика с другими инструментами. Поэтому поставщикам нужно искать способы консолидации своих панелей управления с другими инструментами путем приобретений, информационного обмена или совместного использования данных».

Впрочем, ожидать от AIOps устранения всех проблем с инструментами не стоит. Те, кто добился наибольших успехов в применении AIOps, указывают, что их интерес к AIOps не связан с недостатками инструментов управления сетью. Другими словами, успешные пользователи AIOps нацелены на трансформацию сетевого проектирования и операций, а не на устранение проблем с инструментами.

В мире управления ИТ-системами AIOps относится к числу областей, которые пока находятся на ранней стадии своего развития, но в EMA убеждены, что она уже обладает немалой ценностью. Специалистам по сетям необходимо искать возможности повышения эффективности операций с помощью функционала AIOps. Большинство поставщиков сетевой инфраструктуры и средств управления сетями уже предлагают сегодня в своих продуктах какие-то функции AIOps. А покупателям нужно интересоваться у поставщиков их планами в отношении развития инструментария AIOps.

«Решение» это касается того, каким образом искусственному интеллекту (и функциям машинного обучения, которыми он управляет) следует принимать прогнозные решения, то есть, насколько обширным и сложным должен стать процесс разработки программного обеспечения, лежащего в основе технологий принятия решений, и, что особенно важно, в какой степени автоматизацию машинного обучения следует применять к нему самому, с тем чтобы обучение развивало само себя?

Архитектор операций машинного обучения (MLOps) и DevOps в GitLab Монмаюри Рэй попробовала пояснить, какое влияние машинное обучение оказывает на изменение порядка прогнозирования и принятия решений.

Экономическая модель искусственного интеллекта

Рассматривая все это через призму экономики и бизнеса (а не разработки ПО и системного анализа), она указывает на снижение роли прогнозирования, которое является составной частью экономической модели искусственного интеллекта. К другим параметрам относятся данные, мощь аналитических технологий и вклад человеческого фактора.

Но, несмотря на ясность нарисованной картины, в мире по-прежнему ощущается нехватка работоспособного и доступного прикладного интеллекта машинного обучения.

И хотя все здесь сводится к вопросу реализации рутинной части ИТ-стека, а многим организациям концепция понятна, в применении машинного обучения при решении реальных задач по-прежнему видны пробелы. Технологические гиганты, такие как Google и Tesla, действительно способны эффективно использовать системы машинного обучения, но среднему предприятию еще только предстоит осуществлять переход к масштабному применению соответствующих инноваций.

«Вместе с тем нам есть, чему поучиться у Google и Tesla, поскольку по мере внедрения моделей машинного обучения экономика покупки интеллекта тоже меняется, – указала Рэй. – Нужно понимать, что сегодня за хорошую и плохую модель машинного обучения мы платим одинаковую цену. А какой сорт кофе покупать, если все продукты продаются по одинаковой цене? В этом и заключается экономическая дилемма моделей машинного обучения: поскольку мы платим одинаковую цену как за хорошую, так и за плохую модель, обратная связь и точность становятся ключевыми элементами, фундаментальной основой внедрения и масштабирования передового машинного обучения, которую нельзя ставить под угрозу».

Bing: меняться надо быстрее

По мнению Рэй и ее коллеги из GitLab, утверждение это хорошо иллюстрируется неспособностью Bing конкурировать с поисковыми технологиями Google на любом более или менее существенном уровне. С учетом того, что Microsoft Bing занимает менее 3% мирового поискового рынка, в операционном плане соответствующая технология отличается от технологии Google из-за соответствующих циклов обратной связи и увеличения времени, затрачиваемого на переосмысление рекомендаций Bing, которые, по сути, формируются за счет функций машинного обучения.

«Чтобы повысить точность модели и использовать машинное обучение в качестве службы общего назначения, можно задействовать различные системы, – делает вывод Рэй. – Одна из них должна автоматизировать выполнение повторяющихся задач, связанных с машинным обучением, с тем чтобы сократить продолжительность цикла обратной связи и снизить стоимость прогнозирования и принятия решений».

Это как раз тот момент, когда количество, возможно, переходит в качество. Другими словами, если мы сможем более широко применять автоматизацию и элементы тестирования в моделях машинного обучения, их дополнениях и расширениях, средства машинного обучения можно будет использовать для управления самим процессом машинного обучения.

Но здесь все не так просто. Разработчики программного обеспечения делового назначения сталкиваются с революционным ростом разнообразия оборудования в виде процессоров, облаков, устройств на границах сети и т.д. Каждый из производителей чипов, будь то Nvidia, Intel или другая компания, имеют свои собственные специфичные библиотеки и платформы. Проблема усугубляется тем, что сегодня разработчикам приходится вручную оптимизировать и настраивать модели машинного обучения для каждого из аппаратных лагерей.

Генеральный директор компании OctoML Луис Сезе пытается решать соответствующие задачи совместно с сооснователем компании и ее директором по продуктам Джейсоном Найтом. Оба они активно высказываются на тему того, как использовать машинное обучение для улучшения самого машинного обучения.

Миллиарды вычислений для одного алгоритма

Команда OctoML считает, что цель любого ИТ-директора заключается в максимально быстром и эффективном с точки зрения затрат внедрении инноваций искусственного интеллекта. Но реалии таковы, что 90% приложений искусственного интеллекта и машинного обучения так и не появляются на рынке. Проблема сегодня заключается в том, что средства машинного обучения требуют специального проектирования и серьезных вычислительных ресурсов, что приводит к высоким затратам на облачные сервисы и делает их неподходящими для развертывания на границах сети.

«В условиях, когда машинное обучение становится все более и более популярным (в сферах компьютерного зрения, NLA/NLP, производства контента и т.д.), объем вычислительных мощностей, которые требуются для машинного обучения, непомерно растет, – констатируют Сезе и Найт. – Во многих случаях (возьмем какую-нибудь масштабную модель, например, GPT-3) разработчики выполняют миллиарды и миллиарды вычислений, чтобы получить от алгоритма лишь один ответ».

Созданный на базе Apache TVM проект OctoML предназначен для упрощения производственного запуска моделей машинного обучения за счет автоматического повышения производительности моделей на любом оборудовании в популярных средах машинного обучения Pytorch, TensorFlow и ONNX. Еще раз, речь здесь идет об автоматизации развертывания самой модели машинного обучения.

Тестирование программ и возможности тестирования

Возвращаясь к GitLab, стоит отметить, что свет в конце тоннеля уже виден. Опрос GitLab DevSecOps Survey 2021 свидетельствует о расширении использования программных ботов машинного обучения для создания программного обеспечения на этапе тестирования.

В 2020 году только 16% опрошенных сообщили о наличии у них ботов для автоматического тестирования программного кода и об использовании инструментов искусственного интеллекта и машинного обучения при выполнении процедур тестирования. В этом году их доля выросла до 41%. При этом 25% респондентов используют боты для тестирования программного кода, 16% оценивают код с помощью средств искусственного интеллекта и машинного обучения перед передачей его человеку и 34% изучают возможность применения искусственного интеллекта и машинного обучения, не предпринимая пока практических шагов.

Коль скоро корпоративные модели машинного обучения все чаще тестируются автоматически с помощью самого машинного обучения, запускающего боты для выполнения тестов, механизмы принятия решений в системах искусственного интеллекта верхнего уровня при таком подходе, очевидно, тоже будут разрабатываться быстрее, с меньшими затратами и большей эффективностью.

Сфера роботизации и автоматизации процессов — RPA (Robotic Process Automation) активно развивается, и все больше компаний применяют RPA-решения в своих бизнес-процессах. Согласно отчету Grand View Research, к 2027 году рынок RPA превысит 25 млрд долл., при этом среднегодовой темп роста составит более 40%. Разработчики таких решений предоставляют бизнесу платформы для создания «цифровых сотрудников». Цифровой сотрудник – это главный компонент платформы, программный робот, выполняющий действия с программным обеспечением на рабочем столе. Дополнительные компоненты платформы позволяют анализировать бизнес-процессы, автоматизировать их, и контролировать выполнение в продуктивной среде.

Для разработчиков решений естественным становится совмещение различных технологий для получения новых возможностей. Так, RPA и искусственный интеллект (ИИ) обычно рассматриваются как отдельные области, но они в значительной степени дополняют друг друга. Совмещение этих технологий приводит к интеллектуальной автоматизации, которая обеспечивает быстрое выполнение сквозных бизнес-процессов. Внедрение решений, совмещающих эти две технологии, отлично подходит для различных отраслей и компаний, в частности, предоставляющих услуги и имеющих службы поддержки. Какие же именно возможности открывает совместное использование RPA и ИИ?

Интеллектуальная эффективность

Сама по себе RPA-платформа способна автоматизировать многие бизнес-процессы, базирующиеся на разных технологических платформах (Windows Desktop, Web, Mainframe, Java, Web Services, API). Гибкость интеграции достигается путем использования различных способов взаимодействия с пользовательской средой робота. Один из способов предполагает, что робот может имитировать действия человека и работает с целевым приложением напрямую, при этом целевое приложение «не знает», что им управляет робот. То есть стандартный процесс работы сохраняется без каких-либо дополнительных изменений, и робот просто заменяет человека. В других случаях могут использоваться и системные функции. Например, робот может не использовать проводник (пользовательский интерфейс), управляя файлами с помощью системных команд. Работая с таблицами и базами данных, робот может обойти пользовательский интерфейс и работать напрямую с данными через API, что существенно повышает производительность.

С развитием ИИ появились дополнительные сценарии использования цифровых сотрудников. RPA – эффективная технология, обладающая множеством преимуществ, однако роботы могут выполнять только те задачи, которые ставит перед ними человек. А вот ИИ может обучать роботов и давать им возможность самостоятельного анализа тех или иных вопросов. Таким образом, RPA может автоматизировать все задачи, основанные на заранее подготовленных правилах, а ИИ может заполнить пробел, где RPA не справляется. Если раньше роботы могли работать только со структурированными данными и четко выстроенной логикой, то благодаря технологиям ИИ роботы получили возможность принимать самостоятельные решения.

Рассмотрим направления, в которых роботы принимают самостоятельные решения благодаря искусственному интеллекту.

Аналитика: обнаружение процесса и идентификация действий

Компании часто нуждаются в документе с описанием бизнес-процессов и действий сотрудников. Такой документ может упростить процесс обучения новых сотрудников, усовершенствовать определенные процессы, повысить качество выполнения работы, а также может быть использован для построения системы роботизации.

Автоматизированная аналитика процессов позволяет сэкономить время, затраченное бизнес-аналитиком на их описание. Решение, базирующееся на ИИ, может обнаруживать новые процессы, детальнее и обширнее исследовать и описывать их. В большинстве случаев подобные решения представляют собой программу-агента, которая устанавливается на рабочем столе сотрудника и следит за выполняемыми действиями. Через некоторое время агент формирует концепцию работы, выполняемой сотрудником. Таким образом время, которое бизнес-аналитик должен потратить на подготовку документа, значительно сокращается.

Распознавание текстов

Распознавание текста (Optical Character Recognition, OCR) включает в себя распознавание графических символов, курсива, а также неструктурированных данных. Данные технологии используются для автоматизации приложений, к которым невозможно подключиться на системном уровне, и для работы с текстовыми файлами, из которых невозможно выделить текст – например, из PDF-файлов отсканированных документов. Таким образом можно обрабатывать счета-фактуры, чеки, приходные ордеры и другие стандартизированные (но не обязательно структурированные) документы. Подобное использование ИИ приводит к сквозной автоматизации процессов. Люди поддерживают роботов и обрабатывают документы только в тех случаях, когда робот не уверен в дальнейших действиях.

Благодаря технологиям на базе ИИ доступны также дополнительные возможности по распознаванию текста. Они требуются для более умного использования оцифрованных документов – в случаях, если в документе есть таблицы или разное расположение текста. Например, разработчики предлагают продукты для работы с графическими документами, относящиеся к семейству IDP (Intelligent Document Processing). IDP отличается от OCR тем, что помимо конвертации графического текста в цифровой, также может определить тип документа и находить поля, меняющие свое местоположение. IDP проходит наблюдаемое обучение, где аналитик поправляет выстроенную концепцию документа. Очень удобно, когда OCR и IDP предоставляют не только распознанный текст, но и оценку уверенности в правильности оцифровки. Большинство решений по распознаванию текста не гарантируют 100% корректное распознавание, однако ИИ технологии помогают минимизировать ошибки даже в сложно структурированных документах.

Некоторые продукты позволяют распознавать и рукописный текст. Конечно же, многое зависит от языка и культурной составляющей. Например, если речь идет о рецепте, выписанном доктором, то часто бывает сложно распознать текст. Но технология распознавания есть, и она работает. Инновационные решения позволяют легко работать с отсканированными заявлениями и другими документами. Распознавание рукописного текста часто используется при сверке предложенных и принятых контрактных обязательств, где принимающий условия соглашения клиент вручную переписывает основные положения контракта.

Говоря о тенденциях развития технологий по оцифровке документов, специалисты рекомендуют уходить от процессов, базирующихся на рукописных текстах к цифровизации ввода. Процессы будут намного эффективнее, если заменить такой подход на чат-боты, формы, или IVR-системы (умное распознавание голоса). Кроме того, также можно использовать распознавание почерка для сравнения и верификации подписи.

Распознавание изображений

Распознавание изображений может потребоваться при работе с картинками. Платформы RPA содержат компоненты для поиска картинки в картинке и для анализа изображения на содержание разных цветов. Технологии ИИ позволяют расширить сценарии их использования. Сама по себе данная технология интересна, а при совмещении с другими технологиями и системами открывает новые возможности в роботизации бизнес-процессов.

Сравнительный анализ изображений позволяет находить «картинку в картинке» при некотором расхождении между ними. Отличный пример данной технологии – поиск изображений Google. Результатом поиска становятся как идентичные, так и похожие изображения. Сценарием использования может быть поиск всех источников в Интернете, содержащих похожую фотографию. Такое решение может быть использовано для подтверждения подлинности личных данных. Если один и тот же или похожий портрет был использован в социальных сетях для разных учетных записей, то подлинность информации под вопросом. Таким же образом можно искать логотипы.

К этой возможности относится и опция распознавания лиц: выявление концепции лиц в изображении – например, фото из паспорта. При автоматизированном приеме на работу можно распознать паспортные данные с помощью IDP, автоматически определить и сохранить фотографию сотрудника в локальной системе управления персоналом. Паспортные данные можно сопоставить с анкетными данными, а фотографию проверить в базах фотографий (например, разыскиваемых преступников).

Также возможно распознавание лиц и человеческих изображений из потока видеонаблюдения. Видеопоток режется на кадры, и выборочные кадры проводятся через систему распознавания лиц. Кадры с лицами проходят сверку с системами управления персоналом и принимаются решения, базирующиеся на идентификации личности по лицу. Например, если есть складское помещение с блоками А и Б, и приписанный к блоку А сотрудник выявлен в блоке Б, это может стать причиной автоматического оповещения службы безопасности склада. Интеллектуальные роботы обеспечивают общение между системами и связывают отдельные возможности в одну сквозную полезную деятельность.

Распознавание объекта – это распознавание концепции или явления на изображении. Здесь существуют практически бесконечные возможности использования в разных индустриях – от медицины для определения аномалий, обороны для определения объектов, экологии для определения загрязнений, и до нефтеперерабатывающей промышленности. Использование решения заключается в том, что ИИ тренируется на выявлении концепции на множестве изображений. После обучения ИИ сможет классифицировать изображение на содержание или отсутствие концепции. Хорошим примером использования подобного решения является обработка ржавчины на трубопроводе. Представим, что дрон летает над линией трубопровода и снимает трубы сверху. Видео обрабатывается, и кадры исследуются на предмет ржавчины. Если ржавчина замечена, то бригада сервисного обслуживания получает уведомление с изображением и геолокацией снимка, и дальше принимает решение, если требуется принять меры. Конечно, дрон не может пролететь сотни километров трубопровода, и его должна сопровождать бригада, но это быстрее, чем лезть на трубопровод и осматривать его шаг за шагом.

Безусловно, все это могут делать люди. Но как долго и как часто? Роботы не устают и не сбиваются от продолжительной монотонной работы. Они могут обрабатывать информацию по мере поступления, даже если им приходится анализировать одно и то же изображение каждые 10 минут, при этом анализируя тысячи изображений в час.

Роботизированные ИИ-системы также позволяют описывать изображение, перечисляя замеченные концепции объектов. Это тот случай, когда ИИ используется для того, чтобы обойти технологию, созданную против ИИ и роботов. Отличный пример этому – технология, созданная для подтверждения пользователя, как человека («выберите все изображения, где есть светофор, чтобы подтвердить, что вы не робот»). Описательный анализ изображения расскажет, что на картинке присутствует городская среда, содержащая автомобиль и светофор.

Возможности для повышения эффективности обслуживания клиентов

Решения, совмещающие RPA и ИИ, помогают повысить эффективность обслуживания клиентов благодаря автоматизированному анализу обращений (голос, текст), определяя настроение, приоритет и контекст обращений.

Анализ настроений (Sentiment Analysis) позволяет определить настроение пишущего или тон письма. Данная технология может быть использована в центрах поддержки для назначения приоритета запросу. Более компетентный в работе с проблемными клиентами сотрудник службы поддержки приписывается к запросу, а анализаторами текста выявляется общий контекст из текста. Письмо с просьбой о поддержке классифицируется как запрос по лицензированию, установке или использованию. Также технология может быть интегрирована с чат-ботами для достижения той же цели – определение контекста и общего смысла запроса для дальнейшего распределения для обработки – роботами, вручную или гибридно.

Распознавание голоса дает возможность создания канала голосового общения между роботом и человеком. Оно используется вместе с системами распознавания контекста. Голосовые сообщения цифровизируются в текст, который в свою очередь проходит через определение смысла. Такое общение на базе заранее заложенного контекста используется в чат-ботах. При обращении в службу поддержки клиент идентифицирует себя и описывает природу своего обращения. Система проводит пользователя через диалог и обрабатывает заявку. Если система не может понять или обработать запрос, звонок переводится на сотрудника службы поддержки, который уже в обладает информацией и видит ответы на автоматизированные вопросы от системы.

Также есть сервисные решения (Service Assist), которые связывают в один сквозной процесс обращающегося за помощью клиента, агента службы поддержки, и робота, который и делает всю работу, используя разные корпоративные системы для сбора данных и внесения изменений.

Еще одно решение – преобразование текста в голос. Робот может подготовить текст, далее этот текст переводится в голос и производится звонок с таргетированным сообщением. Имитация человеческой речи используется для автоматических робо-звонков, нацеленных на массовое оповещение. Есть масса сценариев, когда такой функционал незаменим – например, незамедлительное оповещение персонала. Использование данной технологии также могло бы быть полезно для оповещения пассажиров о задержках рейсов в аэропортах. К почте нужен доступ, и не все письма читаются сразу по получении. Телефон или система громкой связи более синхронны в послании и получении сообщения.

Кроме того, стоит отметить про крайне интересное направление – виртуальный диктор. Робот может передать текст на создание видео выпуска с виртуальным диктором, дождаться монтажа видео, и разместить видео в системе хранения и публикации видеоматериалов.

Что касается распознавания контекста, то простым примером могут быть чат-боты. Они обычно начинают с определенного вопроса. Ответы пользователя классифицируются по принадлежности к предопределенным категориям, что и является распознаванием контекста. Чат-боты в основном используются в службах внешней поддержки клиентов и внутренней поддержки сотрудников, где результаты общения обрабатываются роботами. Так можно прислать смету на страхование жилья или автомобиля, помочь найти ближайшее отделение организации или подсказать контактную информацию службы поддержки. Внешняя поддержка заключается в предоставлении удобства пользования клиенту в поиске публично доступной информации. Однако, в случае возможности авторизации клиента, можно предоставлять услуги, касающиеся личных данных.

Если говорить о поддержке внутренних клиентов, то это может быть восстановление пароля, запрос обслуживания, помощи в поиске внутренних процедур, регламентов, шаблонов и др. Это заметно ускорит обучение нового сотрудника, так как чат-бот ассистент сможет помочь сотруднику обработать незнакомые ситуации.

Что нас ждет в будущем?

Многие компании уже давно совмещают технологии RPA и ИИ, освобождая человеческие ресурсы. И развитие данных технологий, а также их популяризация могут привести к революционным изменениям с точки зрения цифровизации бизнес-процессов. ИИ дает возможность не ограничиваться тем, что могут делать платформы RPA. Благодаря ИИ цифровые сотрудники становятся интеллектуальными, приобретают способность анализировать и принимать хоть и контролируемые, но самостоятельные решения.

Автор – Кристиан Уэллс (Christian Wells), эксперт по роботизации процессов, руководитель клиентского офиса Blue Prism в России (russia@blueprism.com)

Пандемия коронавируса дала сильный импульс развитию медицинских информационных технологий, и проблема доступа к большим медицинским данным получила шанс сдвинуться с мертвой точки. Состояние отечественного рынка данных здравоохранения, отраслевые кейсы применения аналитики и технологий искусственного интеллекта, а также ситуацию с доступом к медицинским данным и нормативным регулированием повторного использования обезличенных данных для машинного обучения эксперты обсудили на форуме BIG DATA 2021, проведенном издательством «Открытые системы». Кульминацией тематической сессии стал круглый стол «Качественные медицинские данные для ИИ-решений: где их взять?», организованный при поддержке Ассоциации «Национальная база медицинских знаний».

Сырьевая база

Медицинские данные стали, с одной стороны, отдельным объектом инвестиционного интереса для технологических компаний, а с другой — «топливом» для развития рынка систем искусственного интеллекта. И максимальная вероятность толкового их применения в ближайшем будущем сосредоточена в наиболее привлекательных для инвесторов направлениях: сервисы для пациентов, телемедицина и, конечно, искусственный интеллект.

В числе самых многообещающих областей применения искусственного интеллекта в здравоохранении — предсказательная аналитика, включающая решения по прогнозированию возникновения эпидемий, нехватки лекарств и нежелательных событий в организме конкретного пациента. «Мы научились использовать большие данные для сокращения неэффективных затрат на оказание медицинской помощи», — сообщил директор по развитию проекта Webiomed Александр Гусев, представляя участникам BIG DATA 2021 обзор рынка искусственного интеллекта для здравоохранения. По его мнению, два главных вызова для этого рынка в России — особый правовой статус стартапов в сфере больших данных и искусственного интеллекта, а также развитие национальной платформы, которая позволит собирать медицинские данные, предоставлять доступ к ним доверенным компаниям и осуществлять государственный надзор в этой чувствительной сфере. Планы создания такой отраслевой федеральной платформы искусственного интеллекта, основой которой станет защищенный банк обезличенных медицинских данных, были недавно анонсированы Минздравом. Разработчики рассчитывают, что в процессе реализации этого проекта основные проблемы, связанные с использованием больших данных в медицине, будут решены.

К 2020 году медицинские информационные системы внедрили 82% медицинских организаций России. И хотя 80% информации в электронных медкартах хранится в неструктурированном виде, с ней вполне можно работать с помощью технологий обработки текста на естественном языке (Natural Language Processing, NLP). По мнению Гусева, основные сложности на пути развития российского рынка «умных» решений для медицины создает неурегулированный оборот обезличенных медицинских данных и отсутствие понятной схемы возврата инвестиций в это рискованное направление.

Закон на подходе

Между двумя нежизнеспособными крайностями «данные должны быть доступны всем» и «данные не должны быть доступны никому» лежат компромиссные варианты порядка обращения обезличенных данных, пока еще не оформленные юридически. Медицинские данные выделены в специальную категорию особо чувствительных данных и не могут обрабатываться без согласия субъекта даже в обезличенном виде. Как сообщила Александра Орехович, директор по правовым инициативам ФРИИ, поправки, предусмотренные законопроектом об обезличенных персональных данных, который сейчас готовится ко второму чтению, дают надежду, что вопрос доступа к данным с целью разработки систем искусственного интеллекта вскоре будет урегулирован. Доступ будет предоставляться в определенном порядке определенным категориям организаций, которые соответствуют определенным требованиям. Но никакой конкретики в отношении этого порядка, категорий и требований пока нет — ясность появится только вместе с подзаконными актами. Когда будут выпущены проекты документов с правилами обезличивания данных и правилами доступа к ним, тогда и развернется по-настоящему острая дискуссия на эту тему.

Сегодня, когда одновременно идут процессы усиления защиты данных и полной открытости цифрового следа, настало время поднять вопрос о донации данных, полагает Борис Зингерман, гендиректор ассоциации «Национальная база медицинских знаний». «Сделать донацию данных легче, чем донацию крови, а пользы от нее тоже можно получить немало, — подчеркнул он. — Я с удовольствием поделюсь своими данными для науки, и таких пациентов будет немало».

Три диагноза от искусственного интеллекта

Интересный пример полезного использования данных о первичных приемах пациентов, накопленных в столичной системе здравоохранения, привела первый заместитель начальника Управления заместителя мэра Москвы по вопросам социального развития Юлия Урожаева. Она рассказала о системе поддержки принятия врачебных решений на основе искусственного интеллекта, которая с октября прошлого года работает во всех взрослых поликлиниках города. Для обучения нейросети, которая была разработана и откалибрована при помощи специалистов лаборатории искусственного интеллекта Сбера, использовали уникальную методологию разметки данных, сообщила Урожаева. Около 95% случаев обращения в поликлинику связано с одним из 265 диагнозов. На них и сосредоточились разработчики.

Проанализировав анамнез и введенные врачом жалобы пациента, система подсказывает три наиболее вероятных предварительных диагноза, а затем подбирает стандартные пакеты инструментальных и лабораторных исследований для подтверждения диагноза или его опровержения. К настоящему времени с помощью системы проведено около 4 млн амбулаторных приемов, и в 70% случаев выбор врача совпадает с предложением нейросети. Систему продолжают дорабатывать и обучать, пополняя новыми данными и диагнозами и повышая точность ее работы.

Свое выступление Урожаева завершила приглашением к сотрудничеству. «Очень ждем нестандартно мыслящих людей для разработки следующих продуктов», — обратилась она к участникам форума.

Видеть цель

Поиск качественных медицинских датасетов сродни добыче золота или алмазов, требующей переработки тонн пустой породы. Поиском редких данных в различных источниках и организациях занимаются специальные компании, и эти изыскания не всегда успешны. Качественный датасет получается, когда исследователь четко знает, какие данные и с какой целью собираются. Например, это происходит при написании диссертации. Но создать качественный универсальный датасет для абстрактных целей невозможно, уверен Зингерман.

«При использовании публичных датасетов, которые непонятно как собраны, приходится проводить процедуру кросс-разметки данных нашими врачами», — подтвердил операционный директор компании «Цельс» Никита Николаев. По его словам, качественных медицинских данных на сегодняшний день мало. Однако если качественно отстраивать процедуры разметки данных, можно повысить и точность решений, построенных на их основе. Николаев поделился опытом по оптимизации затрат на разметку медицинских изображений с помощью псевдо- и кросс-разметки, а также результатами эксперимента по привлечению к процедуре разметки маммограм силами сообщества «Яндекс.Толока». Эксперимент показал, что люди, размечающие снимки для обучения ИИ, находили рак не менее точно, чем врачи.

Накопленные к настоящему времени массивы ценнейших медицинских данных очень плохо структурированы, так как при их создании не учитывались цели последующего ретроспективного анализа, отметил Николай Павлов, CDO НПЦ «Радиология Москвы». Но те данные, которые начинают накапливаться сегодня, эти цели уже учитывают.

«Российское здравоохранение находится в двух шагах от того, чтобы перейти к медицинской аналитике на основе первичных данных, — полагает Игорь Башков, коммерческий директор «Нетрика Медицина». — В 2020 году COVID всех к этому подстегнул».

Так, многие регионы организовали автоматическое формирование регистров заболевших коронавирусом и оперативную передачу первичных данных о заболевших на федеральный уровень в структурированном виде. Это лишь одна из множества задач, которые «Нетрика Медицина» помогает решать региональным управленцам, интегрируя данные из 70 медицинских информационных систем различных организаций.

На распутье: NLP или cтруктурированная галлюцинация?

Структурированные или неструктурированные данные — важная развилка на пути дальнейшей цифровизации российского здравоохранения. Как отметил Павел Пугачев, заместитель министра здравоохранения РФ, идти по пути структурированных электронных медицинских документов (СЭМДов), добиваясь перехода всех медицинских организаций на единый формат — правильно, но долго, хотя этот подход прекрасно себя показал в ряде регионов, где интероперабельность и обмен данными с федеральным сегментом Единой государственной информационной системы здравоохранения обеспечивается с помощью СЭМДов. «Мы будем двигаться по этому пути, но нельзя отбрасывать и неструктурированные данные», — подчеркнул он. По мнению Пугачева, сегодня недостаточно проектов, которые работают с неструктурированными текстами и результатами анализов, между тем это направление может стать прорывным. В нем следует создавать заделы и реализовывать сервисы для медработников.

Главное предназначение медицинских данных — обеспечивать оказание медицинской помощи и преемственности лечения. Возможность последующего анализа данных — дополнительный бонус, ради которого далеко не всегда можно заставлять врачей заполнять сложные длинные формы. Иногда это слишком долго и дорого обходится. К тому же опыт показывает, что данные из неструктурированных источников зачастую оказываются даже более качественными.

Гусев поделился историей, когда по настоянию заказчика разработчики сделали форму врачебного осмотра, включавшую почти тысячу полей. Заполнение данных осмотра одного пациента стационара занимало 40 минут. Неудивительно, что врачи сразу переходили в конец формы, меняя лишь несколько полей и оставляя остальные шаблонными. «В итоге на выходе получилась очень качественно подготовленная и прекрасно машино-обрабатываемая… галлюцинация», — констатировал Гусев. Эксперимент подтвердил, что абсолютная формализация в реальной медицинской практике невозможна, и имеет право на жизнь разве что в клинических исследованиях. А в клинической практике более применим подход, сочетающий заполнение текстом крупных блоков структурированных документов, и последующее извлечение информации из них с помощью NLP-технологий.

Чем сложнее экранная форма, тем менее достоверны данные, ее заполняющие, согласен Пугачев. Он, в свою очередь, привел пример неудачной попытки наполнить регистр больных ковидом подробнейшими данными о хронических заболеваниях, в результате которой получили множество пациентов, у которых вообще отсутствовали хронические заболевания. Лишь когда в регистре оставили только группы хронических заболеваний, качество его данных существенно повысилось. Для повышения качества данных также важно использовать данные, поступающие с анализаторов, носимых устройств и предоставляемые самими пациентами. К примеру, при вакцинации заполняемость дневников наблюдения на портале госуслуг оказалась существенно выше ожидаемой, а этот формат дает возможность не только собрать дополнительные сведения, но и разгрузить врачей при сборе анамнеза.

«Нам нужен спрос на датасеты для создания сервисов на основе искусственного интеллекта, чтобы иметь возможность внутренней приоритизации, выстраивания процессов разметки, создания эталонных датасетов и их предоставления вовне, — заявил Пугачев. — Мы хотим поддерживать именно российских разработчиков и готовы выстраивать с ними коммуникации». Удачный опыт НПЦ «Радиология Москвы» по тестированию ИИ-решений, по его мнению, нужно расширять, и не только на анализ медицинских изображений.