AI2019

Кадровые службы крупных организаций становятся одними из значимых потребителей аналитических решений. В условиях дефицита квалифицированных кадров многие компании используют все шансы для борьбы за лояльность своих сотрудников и предотвращение их оттока. Ряд компаний уже заявили о создании инструментов, предсказывающих вероятность ухода сотрудников. Никита Черкасенко, директор департамента HRM-технологий и аналитики ПАО «Ростелеком», рассказывает об используемых при этом подходах и достигнутых результатах. Более детальную информацию на эту тему можно получить на Международной практической конференции «Технологии искусственного интеллекта — 2019», которая состоится 22 мая.

Чем могут помочь технологии современным HR-департаментам?

Требования компаний к качеству функции управления людьми повышаются: доля стоимости HR в структуре расходов бизнеса растет. Более того, благодаря автоматизации возросло качество практик управления другими ресурсами. Закономерно, что сегодня бизнес ждет такого же качества работы со стороны подразделений, отвечающих за кадры. При этом масштабное проникновение информационных технологий в нашу повседневную жизнь и бизнес, а также сформировавшиеся пользовательские привычки получать мгновенный доступ к удобным и бесплатным сервисам существенно повышают планку ожиданий от корпоративных сервисов и систем. Если на этапе проектировния не включать в бизнес-процессы преимущества, которые дает использование ИТ, то в самом ближайшем будущем такие бизнес-процессы будут не просто малоэффективными, а неэффективными в принципе — это неизбежно в условиях цифровой трансформации. Безусловно, меняется и роль HRM как подразделения и профессиональной команды: мы должны лучше разбираться в средствах, которые нам предлагает ИТ-рынок, и применять их в цифровой трансформации своих процессов — иными словами, оставаясь «экспертами по людям», мы должны учиться работать с данными и опираться на них в принятии решений.

Какие задачи ставит бизнес непосредственно перед вами?

Перед моим подразделением стоят задачи повышения эффективности процессов управления персоналом за счет их автоматизации, создания и запуска новых сервисов для сотрудников, а также задачи по регулярной аналитике.

Каково доверие менеджмента к цифровым предсказательным моделям и за счет чего его можно добиться? Как на практике выглядит решение, предсказывающее поведение сотрудника?

У руководителя есть доступ к нескольким дэшбордам, позволяющим ему ориентироваться в основных параметрах, связанных с управлением персоналом, таких как численность, ее динамика, стоимость, структура, укомплектованность и другие. Можно получить отдельный отчет, который позволяет увидеть вероятность ухода того или иного сотрудника по собственному желанию в течение ближайшего квартала, а также оценить факторы, которые внесли наибольший вклад в формирование прогноза в каждом случае. Конечно, никакая лампочка на рабочем столе руководителя не загорается и никаких регламентов насчет его дальнейших действий нет. Сам отчет — это одно из аналитических средств для руководителя и его HR-бизнес-партнера, которое позволяет работать с этой категорией рисков, например, заранее планируя подбор ключевых сотрудников или проактивно занимаясь их удержанием.

Откуда берутся данные для создания моделей и какие платформы используются?

Модели используют информацию из основных HR-систем — это данные, связанные с возрастом, стажем, вознаграждением и т. д. Также мы используем данные Росстата, дающие нам «поправку» на локальные рынки труда, а также количественные данные из корпоративной переписки (например, сколько времени сотрудник тратит на работу с почтой в нерабочее время). Сама модель написана на открытом коде — использован язык Python и его стандартные библиотеки для работы с данными.

Возможно ли пойти дальше и предварительно оценить причины снижения лояльности сотрудника, лежащие не на поверхности?

Поскольку мы используем механизм классификации, то вместе с итоговым значением вероятности ухода имеем возможность проследить и дерево «причин». Это тот самый набор гипотез, проверяя которые, можно выйти на актуальные проблемы в подразделении.

Каких результатов удалось достичь? Проводилась ли оценка экономического эффекта?

Еще в 2018 году мы посчитали эффект от удержания нескольких ключевых сотрудников, риск ухода которых предсказали. Упущенная выгода в случае их ухода была бы многократно выше полной стоимости разработки модели и регулярного построения прогноза. Больше мы к этому вопросу не возвращались: эксперимент окупился, а стоимость владения моделью сейчас сводится к стоимости аренды весьма скромной виртуальной машины.

В каких направлениях планируется развивать прогнозные модели, ориентированные на персонал?

Сейчас мы сфокусировались на поиске факторов повышения производительности труда. Понятно, что есть объективные причины для различной производительности в разных регионах — например, связанные с разницей в технологиях связи, протяженностью и структурой сетей, расстояниями, продолжительностью отпусков и пр. Но есть часть различий в производительности, которую этими факторами не объяснишь. Вот ее мы и хотим раскрыть, а дальше предсказывать и, в идеале, влиять на нее.

О чем вы планируете рассказать в ходе своего выступления и что хотели бы услышать?

Планирую рассказать о том, как мы используем прогноз и как развиваем модель. Хотел бы услышать о похожем опыте других компаний — насколько я знаю, его уже немало.

Рост продолжительности жизни, заболеваемости хроническими недугами и нехватка медицинского персонала подняли гигантскую волну интереса к искусственному интеллекту — именно с этими технологиями связано больше всего надежд на повышение эффективности здравоохранения. В мире уже есть примеры использования искусственного интеллекта не только в системах поддержки принятия врачебных решений, в телемедицине и удаленном мониторинге пациентов, но и в управлении здравоохранением. Однако основным фокусом конференции «Искусственный интеллект в медицине», на которую Ассоциация «Национальная база медицинских знаний» собрала в Салехарде специалистов из множества регионов, стало применение искусственного интеллекта именно в клинической практике.

«Разработка искусственного интеллекта в медицине — это не айтишная, а врачебная история, — уверен Александр Гусев, член наблюдательного совета НБМЗ. — Создавая сервисы на базе искусственного интеллекта, важно проводить клинические исследования их эффективности и, главное, — безопасности».

Искусственный интеллект эффективен в узких задачах. Разработки участников ассоциации испытывают в Кировской, Новгородской, Тульской и других областях, но предмет особой гордости — совместный проект в Ямало-Ненецком автономном округе. Здесь больницы опробовали сразу два продукта: Webiomed, разработанный компанией К-МИС, для профилактики сердечно-сосудистых заболеваний и Botkin AI, созданный «Интеллоджик», для поиска очагов на компьютерных томограммах (КТ) легких.

По сравнению с другими российскими регионами на Ямале относительно низкая смертность, неплохая обеспеченность медицинскими кадрами и высокий уровень информатизации здравоохранения — 96% медкарт ведутся в электронном виде. Тем не менее проблемы есть, в том числе перегруженность врачей рутиной, так что задач для искусственного интеллекта предостаточно. «Мы очень боялись, что наши врачи окажутся загружены еще больше, а результата они не увидят», — рассказал Сергей Новиков, директор Департамента здравоохранения ЯНАО. — К счастью, опасения не оправдались». Врачи получили цифрового помощника, облегчающего их работу, при этом вносить дополнительные данные им не потребовалось.

Профилактика

В городе Муравленко с помощью технологии машинного обучения сумели оценить риски развития сердечно-сосудистых заболеваний всего взрослого населения. Для обучения были использованы данные городской больницы — более 1,3 млн медицинских документов.

Медицинская информационная система (МИС) автоматически анализировала электронную медкарту пациента (ЭМК) и отправляла запрос на анализ в интегрированную с ней облачную систему поддержки принятия врачебных решений Webiomed. Выявленные факторы риска и их оценка выводились врачу в интерфейсе МИС. Обработка информации об одном пациенте в зависимости от объема его карты занимала в среднем от полуминуты до двух минут, а все прикрепленное население (25 тыс. человек) оценили примерно за пять суток.

«У нашей больницы теперь есть возможность запускать анализ ЭМК по терапевтическим участкам в ночное время, когда все отдыхают, и не спит только искусственный интеллект», — сообщила Елена Климович, завотделением медицинской профилактики Муравленковской горбольницы. Результаты анализа заносились в ЭМК, и дальше врачи работали с пациентами, отнесенными к группам высокого и очень высокого риска, и адресовали им рекомендации искусственного интеллекта по устранению факторов риска.

Такая оценка риска сердечно-сосудистых заболеваний всего населения не проводилась еще ни разу — она была просто невозможна силами врачей. В ходе диспансеризации за год удавалось охватить лишь 10-15% населения. К тому же врачи сосредоточены главным образом на лечении, профилактика зачастую отодвигается на второй план. «Webiomed выявила в семь раз больше пациентов с высоким риском, чем карты диспансеризации», — сообщил Сергей Токарев, главный специалист по медицинской профилактике Депздрава ЯНАО. В 60% случаев система оценила риск выше, чем врач.

Система просчитывает риск сразу по четырем методикам, столь всестороннюю оценку врач на обычном приеме сделать не в силах. «Разные шкалы и клинические рекомендации дают разные результаты, — пояснила Климович. — Переложив эту работу на искусственный интеллект, мы получаем более правильный прогноз развития заболеваний».

В ходе проекта врачи не только обучали программу, но и сами учились правильно применять скрининг. Поэтому по мере доработки алгоритмов и совершенствования оценки по всей совокупности факторов доля пациентов с очень высоким риском выросла с 11% до 29%. Более 600 отобранных искусственным интеллектом пациентов с высоким риском были приглашены на осмотр и 67 из них уже поставлены на диспансерный учет. «Мы готовы и хотим продолжать», — сказала Климович. По ее мнению, необходимо развивать проект, добавляя в него новые возможности: поиск ошибочных или пропущенных заболеваний, контроль выполнения клинических протоколов и маршрутизации пациента.

Елена Климович: «У нашей больницы теперь есть возможность запускать анализ ЭМК по терапевтическим участкам в ночное время, когда все отдыхают и не спит только искусственный интеллект»

Диагностика

Поскольку лучевых исследований, выполненных на цифровом оборудовании, становится заметно больше, а число врачей остается почти неизменным, в радиологии очень активно применяются системы компьютерного анализа изображений и искусственного интеллекта. В первую очередь они используются в скрининге и ранней диагностике при обработке больших массивов данных и выборе изображения с патологией для дальнейшего анализа врачом. Вторая традиционная область — решение узких специализированных и трудоемких задач, таких как анализ и сравнение объемов очагов, оценка перфузии. «Такие программы существуют и без искусственного интеллекта, но он позволяет это делать лучше», — подчеркнул Валентин Синицын, завкафедрой лучевой диагностики и лучевой терапии факультета фундаментальной медицины МГУ им. М. В. Ломоносова. Помощь врачу заключается, в первую очередь, в уменьшении ошибок и увеличении точности диагностики, а также написании стандартизованных заключений, рекомендациях по тактике лечения, распределении нагрузки на персонал и оборудование в зависимости от потока пациентов.

Но системы, работающие по определенному алгоритму, не могут улучшаться самостоятельно, поэтому радиологи все чаще обращаются к нейронным сетям, которые cамообучаются на больших массивах размеченных данных. Кроме того, их привлекают программы, которые по заданным параметрам ищут «похожие» изображения в больших базах изображений с известными диагнозами. Предпринимаются также попытки создать системы, способные прогнозировать на основе структурного анализа обнаруженных очагов ответ организма на лечение.

Чему уже успел научится Botkin AI? На Ямале эта система проанализировала просмотренные врачами за полгода КТ легких, выгруженные в региональный архив изображений из четырех больниц. На участки, вызывающие подозрение на наличие раковых очагов, наносилась цветовая маркировка. Таким образом было повторно пересмотрено более тысячи КТ 402 пациентов. Из них искусственный интеллект отобрал исследования 45 человек, которые были направлены к докторам онкоцентра для интерпретации. Снимки разделили на нормальные и патологические, и окончательное решение по этим случаям принималось рентгенологическим консилиумом. В итоге у 21 пациента был подтвержден рак легких, причем двое из них — это впервые обнаруженные больные, благодаря искусственному интеллекту они получили направление на консультацию торакального хирурга.

Чтобы повысить клиническую ценность этого, по сути, научного исследования, следует добавить данные из других больниц и анализировать не только завершенные, но и текущие исследования.

«Метод показал высокую чувствительность, хочется, чтобы разработчики повысили и специфичность», — отметил Сергей Партс, заведующий региональным онкоцентром Салехардской окружной клинической больницы. Сергей Сорокин, гендиректор компании «Интеллоджик», объяснил, что при повышении специфичности снижается чувствительность. Достигнутая в ямальском проекте специфичность 0,5 при высокой чувствительности — один из лучших показателей в мире. Сочетание экспертизы врача с его высокой специфичностью и искусственного интеллекта с высокой чувствительностью позволяет добиться большей точности распознавания. А уровень российских врачей достаточно высок, процент пропущенных ими случаев был минимальным во всех четырех пилотных регионах, отметил он. Тем не менее, в масштабе страны искусственный интеллект уже сейчас способен помочь врачам вовремя обнаружить злокачественные новообразования у десятков тысяч пациентов, хотя пока речь идет только об отдельных патологиях.

В Мурманской области, где к изучению возможностей искусственного интеллекта подталкивает дефицит врачей, на 250 обработанных КТ легких Botkin AI нашел три ранее не описанных рентгенологами патологии, в том числе две злокачественных. В ближайшее время в пилотных регионах планируют применить Botkin AI также при анализе маммограм, рентгенограмм и флюорограм.

«В скрининге наряду с клинической эффективностью немаловажную роль играет экономическая эффективность. Давайте идти не от того, что мы можем, а от реальных задач», — призвал коллег Виктор Гомболевский, руководитель отдела развития качества радиологии НПКЦ диагностики и телемедицинских технологий Депздрава Москвы.

Терапия

В отличие от диагностики, в терапии многие вещи не алгоритмизированы, здесь еще больший вес имеет экспертное и личное мнение. «Мы приветствуем цифровизацию здравоохранения, так как реальная ситуация сегодня такова: мы не знаем, чем врачи лечат болезни пациентов», — заявил Максим Фролов, исполнительный директор Ассоциации клинических фармакологов. По его словам, проблема в том, что ни один главный кардиолог или онколог не может увидеть на своем рабочем месте, что пациентам где-то неправильно были назначены лекарства. Это невозможно не только на уровне региона, но и на уровне районной больницы: пригодных для анализа листов назначений пока нет.

Врачам нужны системы, помогающие рассчитывать дозировки препаратов и курсы лечения, необходимы удобные справочники, автоматически определяющие отклонения от нормы, а руководителям — прогностические системы, просчитывающие риски при выборе лекарств, отслеживающие фармакологические тенденции и указывающие на отклонения от них в реальной клинической практике региона. Клинические фармакологи оценивают рациональность терапии тяжелых и сложных пациентов с высокими рисками нежелательных реакций, которым назначается много препаратов, и система, помогающая быстрее и легче оперировать информацией, несомненно будет ими востребована. Но прогресс в этой области не столь быстрый, поэтому современные врачи любой специальности должны тесно общаться с разработчиками ПО, считает Фролов. Пока системы поддержки принятия решений не показали качественного скачка в своем развитии: лучшие из них по-прежнему эффективны примерно на 80%.

Естественные препятствия

Вариативность, разнородность и изменчивость объектов анализа (людей и болезней) делают задачу развития искусственного интеллекта в медицинской информатике весьма не простой. «Ложноположительные результаты, находки, имеющие статистическую значимость, но не имеющие значимости клинической — бич, осложняющий работу с большими данными без специальных методологий», — отметил Алексей Незнанов, старший научный сотрудник факультета компьютерных наук ВШЭ. Положение усугубляют также противоречивые цели заинтересованных лиц, часто меняющиеся правила и очень плохое качество данных. «Ни один компьютер не разберется, что стало основанием для изменения стандартов оказания медицинской помощи за последние десять лет», — заметил он. Получить большие и качественные наборы данных трудно как из-за законодательных барьеров, так и по причине отсутствия механизмов и стандартов автоматической обработки сырых данных в МИС.

«Нужно учитывать, что хорошие результаты работы алгоритма в одной клинике не означают хороших результатов в другой, и тому виной отличия в параметрах сканирования», — напомнил Леонид Анопченко, заместитель главврача по диагностической работе Мурманской областной больницы им П.А. Баяндина. Не случайно в области начали создание центрального архива медицинских изображений со стандартизации этих параметров и данных, используемых для машинного обучения.

По убеждению Незнанова, не стоит сводить искусственный интеллект к машинному обучению — оно является всего лишь одним из методов решения узкого класса задач классификации и ранжирования. Гораздо более интересная область — управление знаниями, включая их создание, порождение понятий, онтологическое моделирование, а также извлечение из медиаданных и неструктурированных текстов. В медицине все большую значимость приобретают так называемые явные знания в виде всевозможных онтологий.

Один из главных факторов, сдерживающих внедрение искусственного интеллекта в радиологии, — нерешенные вопросы юридической ответственности и регистрации ПО как изделия медицинского назначения, добавил Синицын. Еще один «ящик Пандоры» — появление бесплатных приложений на основе искусственного интеллекта. Пациенты вскоре получат доступ не только к своим данным, но и к инструментам их анализа, и последствия очень тревожат специалистов. Ведь, обладая лучшей памятью и вниманием, искусственный интеллект ошибается, как и человек.