Искусственный интеллект

Еврокомиссия объявила о том, что компании гиг-экономики (gig economy), привлекающие работников без оформления в штат, должны быть более прозрачными в части использования средств алгоритмического управления и мониторинга. По мнению экспертов, если эти правила вступят в силу, их следует распространить на всех работников, управление которыми осуществляется с помощью автоматизированных систем.

Как и в случае с другими законами ЕС, соответствующие правила затронут в том числе и американские компании, работающие на территории стран Союза.

Предложенная Комиссией директива в отношении алгоритмического управления является одним из трех представленных недавно наборов мер. Предлагается, в частности, предоставить полноценный статус сотрудника всем, кто поддерживает взаимодействие с «цифровыми трудовыми платформами» (digital labor platform). К ним относятся системы предприятий, занимающихся перевозками пассажиров (например, Uber и Lyft), компаний, специализирующихся на услугах доставки (Deliveroo), а также платформы неофициальной занятости в сфере бытовых услуг (TaskRabbit).

По оценкам Комиссии, в ЕС насчитывается 28 млн гиг-работников. Ожидается, что в 2025 году их число возрастет до 43 млн.

Предложения в отношении алгоритмического управления призваны обеспечить работникам защиту от любого негативного воздействия автоматизированных систем, используемых для контроля труда на условиях временной занятости.

«Мы видим еще один шаг вперед в осознании рисков, порождаемых алгоритмическим управлением, – указал профессор трудового права университета KU Leuven (Бельгия) Валерио де Стефано. – И он будет сопровождаться проявлением повышенного внимания со стороны Еврокомиссии».

Алгоритмическое управление

Алгоритмическое управление – ключевой компонент цифровых трудовых платформ. Он включает в себя инструменты и методы, используемые для автоматизации различных аспектов процесса координации деятельности работников, в том числе распределения задач и отслеживания эффективности их труда. Вместо контроля со стороны человека все здесь опирается на сбор данных и наблюдение.

Однако использование алгоритмического управления вызывает опасения в отношении отслеживания и оценки системами, представляющими собой «черный ящик», всего, что связано с работниками. При этом у работников практически нет возможности оспаривать принятые ими решения.

В отчете, опубликованном некоммерческой организацией Worker Info Exchange, отмечается распространенность слежки за гиг-работниками и отсутствие у них средств правовой защиты при возникновении разногласий. В качестве примера приводится блокирование сервисами агрегаторов такси учетных записей водителей из-за сбоев программного обеспечения распознавания лиц.

Пагубные последствия алгоритмического управления и мониторинга работников освещались в ноябрьском отчете британских парламентариев. «Поскольку работники испытывают постоянное давление со стороны средств микроуправления и автоматической оценки, повсеместный мониторинг и технологии определения целей оказывают выраженное негативное воздействие на их психическое и физическое состояние», – указывают члены межпартийной парламентской группы в документе под названием «Новый рубеж: искусственный интеллект на работе».

«Автоматическое распределение задач и измерение производительности по своей сути не должны вызывать проблем, – отметила вице-президент Gartner Хелен Пойтевин. – Однако проблемы могут возникнуть из-за чрезмерной зависимости от технологии и недостаточно плотного взаимодействия с человеком. Если у вас, к примеру, нет никакой системы поддержки, которая помогала бы работникам расти и учиться, или машины ошибаются, а положительный имидж продолжает играть важную роль. Нужна поддержка на месте».

Предложения Еврокомиссии направлены на повышение прозрачности при использовании инструментов алгоритмического управления для гиг-работников. Они включают в себя:

— Информирование работников о характере использования автоматизированных систем для принятия решений и действий, «оказывающих существенное влияние» на условия труда.

— Исключение из собираемых о сотрудниках данных сведений, в которых нет явной необходимости. Особенно это касается разговоров личного характера и информации, связанной с их здоровьем и эмоциональным состоянием.

— Контроль со стороны человека за функционированием автоматизированных систем. Необходимо исключить для работников риски для здоровья и их психологического состояния, обусловленные алгоритмическим принятием решений.

— Предоставление работникам возможности оспаривать автоматизированные решения, влияющие на их трудовую деятельность. Особенно актуально это для людей, не оформленных в штат, которые регулярно сталкиваются с закрытием или приостановкой действия их учетной записи без объяснения причин.

— Предъявление к поставщикам платформ требования проводить консультации с представителями работников перед внесением существенных изменений в функционирование систем принятия решений.

Предложения Комиссии основаны на действующем регламенте ЕС об общем регулировании защиты данных (General Data Protection Regulation, GDPR), учитывающем интересы работников в части сбора данных. Но, по словам де Стефано, GDPR не обеспечивает такой же ясности в отношении алгоритмического управления, как правила, предлагаемые для гиг-работников. В Комиссии отмечают, что при отстаивании своих прав в рамках GDPR они сталкиваются с определенными трудностями.

Не ограничиваясь временной занятостью

Профессор права Оксфордского университета Джеремиас Адамс-Прасл приветствует правила, предлагаемые в отношении автоматизированных систем принятия решений.

«Вокруг статуса работников, подключаемых к платформе, ходило много споров, а выдвинутая директива охватывает не только эти, но и многие другие вопросы, – подчеркнул он, назвав предложения по-настоящему важным шагом вперед. – Действие правил должно распространяться на всех работников, контролируемых сегодня автоматизированными системами, а не только на тех, кто трудится на условиях временной занятости. Ошибочно рассматривать временную занятость как изолированную часть рынка труда. Я посоветовал бы законодателям подумать о распространении соответствующих правил на всех работников, не ограничиваясь лишь теми из них, кто подключен к платформе».

В последние годы алгоритмическое управление и мониторинг внедряются компаниями в различных отраслях. Довольно часто с алгоритмическим контролем и мониторингом приходится сталкиваться сотрудникам складов. Многие их действия отслеживаются и направляются с помощью программного обеспечения. В ретейле работодатели иногда используют программное обеспечение для автоматического планирования смен.

Традиционные рабочие места также все чаще подвергаются контролю со стороны инструментов мониторинга, с помощью которых эффективность их труда отслеживается во время пандемии COVID-19. Широкое распространение получили средства автоматической записи скриншотов и регистраторы нажатия клавиш.

«Аналогичная тенденция наблюдается на рабочих местах по всему социально-экономическому спектру, но зарождение многих из этих технологий мы наблюдали по большей части в области временной занятости, – указал Адамс-Прассл. – Именно этим и объясняется реакция регуляторов на положение дел в этой сфере».

«Сегодня главная задача заключается в том, чтобы распространить защиту директивы ЕС о цифровой трудовой платформе на всех работников, – заявил де Стефано. – В противном случае мы получим, по сути, сегментированный рынок труда, где будут защищены только работники, подключенные к цифровым трудовым платформам».

Подготовка почвы

Подобно любому другому закону ЕС, новые правила в отношении алгоритмического управления могут иметь серьезные последствия и за пределами 27 стран, входящих в состав Евросоюза.

Если предложения Европейской комиссии будут приняты, компании из других стран, ведущие свою экономическую деятельность в ЕС, должны будут соблюдать правила, утвержденные в этом регионе. Адамс-Прассл подчеркнул значимость своего рода «эффекта Брюсселя», выражающегося в том, что влияние европейского законодательства (в частности, GDPR) в значительной мере распространяется на другие страны и регионы. И он вполне может материализоваться в том числе и в части правил, которые относятся к людям, работающим на условиях временной занятости.

Несмотря на то, что американские компании не имеют непосредственного отношения к GDPR, многие из них оказываются затронуты этим законом. И, выпуская продукт, соответствующий правилам GDPR, они распространяют его по всему миру. Так что влияние эффекта Брюсселя не стоит недооценивать. В конечном итоге последняя итерация превращается в новый ожидаемый стандарт для всей платформы.

Прежде чем предложения будут приняты, они должны пройти обсуждение в Европарламенте и Совете Европы. Никаких установленных сроков вступления их в силу пока нет. А поскольку правила должны пройти процедуру согласования между государствами-членами, ввод их в действие ожидается не ранее 2024 года.

Почему у медицинских данных длинный «хвост», с какими неожиданностями столкнулись разработчики медицинского искусственного интеллекта, какую роль сыграл в жизни молодой питерской компании эксперимент «Радиологии Москвы» и о каком дата-сете пока можно только мечтать, рассказал номинант на премию Data Award 2022 Евгений Никитин, начальник департамента ML-разработки компании «Цельс». На основе машинного обучения в «Цельсе» разрабатывают системы анализа медицинских изображений, помогающие рентгенологам, которых сейчас катастрофически не хватает в российских регионах, работать быстрее и пропускать меньше патологий на снимках.

- Как вы пришли в data science?

С детства хотел заниматься математикой, но не теоретической, а прикладной. Поэтому сначала получил образование по специальности «математические методы в экономике» в Санкт-Петербургском университете экономики и финансов. Затем в магистратуре в Англии занимался математическим моделированием человеческой памяти и внимания, потом в аспирантуре в США — машинным обучением для анализа политического поведения людей в социальных медиа. Параллельно занялся бизнесом — разрабатывал модели кредитного скоринга для финансовых организаций.

- Как же родилась идея работы с медицинскими данными? С чего начался проект «Цельс»?

Звезды так сложились. Мы с партнером познакомились с ребятами из калужской ИТ-компании, которым была очень интересна тема MedTech, но у них не было компетенций в сфере машинного обучения. На стыке их возможностей и наших компетенций осенью 2018 года попробовали сделать минимально жизнеспособный продукт (minimum viable product, MVP). Сначала задача была поставлена очень абстрактно: сделать то, что поможет обнаруживать рак молочной железы. Помимо пары публичных дата-сетов по маммографии для обучения модели, у нас была только выборка снимков, по которым уже был известен диагноз, поставленный пациенту. Результаты, полученные на тот момент, показались удивительными врачам, которым мы их показали. Это всех обнадежило. Мы поняли, что можем сделать нечто полезное, и решили развивать продукт дальше.

- Какими были следующие главные вехи проекта?

Мы открыли офис в Санкт-Петербурге и вскоре запустили разработку второго продукта «Флюорография / Рентген легких», а также пилотные проекты, что важно для получения обратной связи.

Очень большой поддержкой для нас оказалась работа, которую проводил в Москве Сергей Павлович Морозов, директор Центра диагностики и телемедицины («Радиология Москвы»). Действительно серьезной вехой стал эксперимент mosmed.ai, в котором прошедшие тестирование компании — разработчики ИИ-решений могут подключаться к клиникам через ЕРИС ЕМИАС, обрабатывать поток исследований реальных пациентов и получать обратную связь. К настоящему моменту три наши системы прошли так называемое калибровочное тестирование в этом проекте и работают полноценно: «Маммография», «Флюорография / Рентген легких» и «Covid-19». Другая наша система, выявляющая рак по КT легких, готова к внедрению, и еще одна, определяющая по КТ кровоизлияние в головном мозге, находится на стадии апробации.

- В этом проекте клиники голосуют, выбирая на определенный период продукт, с которым предпочитают работать. Сколько клиник выбрало ваш продукт?

Всего 102 клиники, больше всего выбрали «Маммографию» — примерно 50–60. Огромная выгода московского проекта — финансирование и одновременно развитие конкурентной среды: многие компании просто не выжили бы без такой поддержки. Второй крайне важный момент: организаторы понимали, что все системы далеко не идеальны, и принимали это. Когда мы приходили в регионы, то чаще всего слышали: «Ребята, это еще сыровато, надо допилить». А тут ставились три цели: во-первых, определить задачи, которые целесообразно и логично решать с помощью машинного обучения; во-вторых, отобрать лучшие решения; и, в-третьих, помочь разработчикам улучшить свои системы. Все эти цели достигнуты, и это очень здорово!

Результаты эксперимента теперь позволяют нам внедрять ML-системы и вне Москвы. В мае 2021 года мы получили регистрационное удостоверение на медицинское изделие, и в ближайшее время наши системы официально начнут работать на уровне нескольких российских регионов. Кроме того, большой проект идет в Узбекистане.

- Что было самым интересным в процессе создания медицинского ИИ?

Разметить изображение, чтобы определить, есть у пациента патология или нет. Поначалу мы не отдавали себе отчета в том, какое количество расхождений будет, если дать один и тот же снимок двум врачам. А ведь это влияет не только на обучение модели, но и на ее оценку. Как доказать, что модель качественная, если существуют пять разных мнений по тому, как размечен снимок?

Начинали, по сути, тыкаясь вслепую, но в итоге построили четкий пайплайн по разметке. Это очень сложный процесс, начиная с того, что врачей надо выбрать по каким-то формальным характеристикам. Оказалось, что квалификация и опыт — не всегда очень хорошие предикторы качественной разметки. Важны и дополнительные характеристики — например, усидчивость и внимательность. В числе факторов, часто и сильно влияющих на качество разметки, — обычная усталость и отсутствие большого монитора с высоким разрешением.

Поэтому сейчас мы много внимания уделяем отбору врачей, которые хотят с нами работать, их обучению и регулярной проверке их работы. В процесс разметки встроен автоматический контроль качества с использованием специального набора снимков и эвристик.

Второе, чему мы научились, — итерационное написание инструкций. Каждый раз, запуская новый проект, сначала пишем первую версию инструкции и просим врачей разметить снимки в соответствии с ней. Затем смотрим, какие есть расхождения и почему они возникают. Например, один специалист отмечает на маммографическом снимке злокачественные кальцинаты, а другой может их не отметить или разметить иначе, не заметив, выбрав другой класс или неаккуратно обозначив контур. Далеко не всегда расхождения означают разные мнения, иногда врачи по-разному интерпретировали инструкцию! То есть большую часть противоречий между оценками врачей можно устранить с помощью качественной инструкции по разметке.

- Какую цель вы ставили перед собой на уровне данных?

Максимально эффективно получить дата-сеты, которые нужны для создания качественных продуктов.

Сначала нам был нужен качественно размеченный набор данных достаточного объема. Теперь, для дальнейшего повышения качества, к дата-сетам предъявляем все больше требований — например, по наличию разных видов и форм рака молочной железы. Сейчас наша задача — пополнять и обновлять дата-сеты, экономя при этом деньги.

Как выяснилось, жизненно необходимо так называемое активное обучение. Специфика медицинских данных в том, что у них очень длинный «хвост». То есть большая часть пациентов здоровы, и лишь в снимках оставшихся 5% встречаются редкие патологии, которые мы очень хотим выявить. Если размечать все подряд, то большую часть времени мы будем делать бесполезную работу: нейросеть уже выучила здоровых пациентов и пациентов с легко детектируемыми патологиями, а мы просто сжигаем деньги, размечая бесполезные для модели снимки.

Поэтому мы сделали «умные» инструменты, которые позволяют отбирать данные на разметку. Когда поступает информация, что врачи освободились, для них в полуавтоматическом режиме по разработанным нами алгоритмам отбирается пул исследований, разметка которых принесет наибольшую пользу.

То есть мы внедрили подходы, позволяющие улучшать готовые продукты, ведь повышать их качество становится все труднее и труднее.

- Какие источники данных использовали?

В некоторых проектах использовали публичные дата-сеты: мы берем по максимуму все, что можно использовать в коммерческих целях. Как правило, это зарубежные наборы данных, но сейчас при поддержке Минздрава РФ идет подготовка публичных дата-сетов для отечественных разработчиков, и мы в ней тоже участвуем.

Второй источник — прямые контакты с медучреждениями и научными центрами. Это выгрузка анонимизированных данных: либо платная из зарубежных институтов, либо (что бывает чаще) в обмен на бесплатное использование нашего продукта в пилотном проекте. И третий крупный источник — поток данных, поступающих в рамках московского эксперимента через радиологический сервис ЕРИС ЕМИАС.

- К вам попадают уже анонимизированные данные?

Да, в 95% случаев. В московском проекте на стороне организаторов стоит модуль для анонимизации. Изредка к нам попадают неанонимизированные данные, тогда перед началом работы мы производим автоматическую анонимизацию.

- Алгоритмы анализа медицинских изображений сейчас пишут многие. Чем отличается ваш подход?

Конкурирующие решения различаются количественными характеристиками: точностью и скоростью работы, числом систем, c которыми могут интегрироваться. К сожалению, в нашей области пока практически нет обмена знаниями. Мы же стараемся пропагандировать такой обмен.

Наша «машина» по разметке медицинских данных — одна из лучших. Отдельная команда работает непосредственно с врачами, контролирует качество разметки и снабжает команду машинного обучения этими данными.

Еще один важный момент: мы уделяем большое внимание скорости проверки идей. Моя роль в компании — обеспечивать правильную настройку процессов и правильный выбор инструментов, чтобы максимально быстро обучать нейросети, тестировать идеи и продолжать улучшать продукты.

У нас всего 15 дата-сайентистов на пять готовых продуктов плюс три в разработке. Поддерживать такую линейку можно только при максимально эффективном использовании ресурсов — то есть автоматизируя все, что можно, и применяя лучшие практики, как процессные, так и инструментальные.

- Есть мнение, что главный потенциал медицинского ИИ — в анализе интегрированных данных о пациенте, а не отдельных исследований. Есть ли намерение развиваться в этом направлении?

Я всегда верил, что будущее — в мультимодальном подходе, когда в систему интеллектуальной обработки данных попадают данные разного типа из разных источников. Например, рентгеновский снимок плюс история снимков для оценки динамики, информация медкарты плюс информация по результатам приема, которая может быть собрана голосом. Моя давняя мечта — достойный дата-сет с мультимодальными данными. При таком подходе можно достичь по-настоящему крутых результатов. Технологии к этому готовы: есть архитектуры нейросетей, позволяющие работать с мультимодальными данными. Но существуют опасения относительно нарушения приватности: чем больше у нас данных о пациенте, тем выше риск их деанонимизации. Тут явно предстоит большая юридическая работа, и, скорее всего, потребуется согласие пациента на такую обработку данных.

Однако в рамках научного сотрудничества с некоторыми клиниками мы пробуем использовать более широкие массивы данных. Например, не только снимок, но и его описание, где врач может упоминать важные аспекты, сильно повышающие риск онкологии, такие как случаи рака в семье пациента. То есть мы уже работаем на стыке изображения и текстовых данных. Но остается нерешенным ключевой вопрос: как обеспечить безопасный доступ к таким данным?

Кроме того, существует инфраструктурная проблема: не очень много клиник, где можно эффективно выгрузить и связать массивы данных; часто результаты осмотра еще пишут от руки. А у коммерческих клиник обычно с инфраструктурой все отлично, но объем данных недостаточен.

- Какие основные ИТ-инструменты применяете?

Разметка данных проводится на российской платформе Supervisely, для хранения данных и разворачивания моделей используем Yandex.Cloud и Kubernetes. Сама разработка ведется на языке Python во фреймворке Pytorch. Чтобы обеспечить воспроизводимость результатов экспериментов (а это очень важно в науке), для обучения и тестирования моделей пользуемся фреймворками с открытым кодом Clear ML и DVC.

- Какими результатами использования систем «Цельса» можете поделиться?

Применение ИИ в медицине пока носит экспериментальный характер. Если сейчас убрать из медицины все ИИ-системы, краха не случится. Чтобы говорить об ощутимой пользе, надо уметь ее измерить, прежде всего оценить экономически. Посчитать, насколько меньше стали тратить денег в здравоохранении, — непростая задача. Сейчас мы сами тратим большие деньги, чтобы понять, меняется ли что-то с точки зрения финансовой эффективности, если у врача появляется наша система.

Однако в московском эксперименте есть примечательные кейсы — например, по обработке КТ-исследований на ковид. Для рентгенолога несложно увидеть знаменитое «матовое стекло», зато много времени требует оценка объема поражения легких, которая может повлиять на решение о госпитализации пациента. Практика показала, что ИИ-система может справиться с этой рутинной задачей, а врачу достаточно проверить, правильно ли все подсчитано. Время на интерпретацию одного исследования по ковиду сокращается на треть!

Кроме того, точечные свидетельства эффективности мы получаем из обратной связи от врачей — они не только сообщают, как наши системы помогают сэкономить время, но и честно признаются в том, что часть патологий могли бы пропустить, если бы система на них не указала. В пилотных проектах по маммографии в Брянске, Тамбове, Калуге, Калининграде и других городах, после пропускания через систему ретроспективных данных, были случаи, когда система обнаруживала рак, пациента направляли на дополнительное обследование и действительно находили злокачественные изменения.

- Какие направления дальнейшего развития проекта вы видите?

Первое глобальное направление — комплексные сервисы. Сейчас методами машинного обучения обычно ищут один определенный тип патологий, например ковид. Следующий важный этап — научиться находить на снимках одного исследования все возможные типы патологий.

Второе — измерить эффект от использования нашей системы по всем правилам научного исследования.

И третье важное направление — автоматизация рутинных задач, например контроля качества. В большом радиологическом исследовании многое может пойти не так — с оборудованием, с расположением пациента. И мы разрабатываем инструменты, которые помогают контролировать качество исследования прямо в процессе его проведения.

Мне кажется, выживут только те компании, которые, организовав работу небольших команд, смогут обеспечить максимальную скорость проверки идей. А ее можно увеличить благодаря автоматизации.

Гиперавтоматизация – революционный подход, позволяющий предприятиям использовать преимущества цифровой трансформации максимально выгодно для себя. Гиперавтоматизация предусматривает применение передовых технологий автоматизации бизнес-процессов с помощью роботов (robotic process automation, RPA), искусственного интеллекта, машинного обучения, интеллектуального программного обеспечения управления бизнесом (intelligent business process management software, iBPMS) и процессного анализа в целях улучшения и автоматизации процессов способами более эффективными по сравнению с традиционными.

Руководители организаций должны иметь в виду, что гиперавтоматизация – не просто внедрение отдельных технологий, а стратегическая сквозная перестройка, предусматривающая непрерывность усилий, направленных на автоматизацию сквозных бизнес-процессов в масштабах всего предприятия.

Почему необходим переход к гиперавтоматизации?

Гиперавтоматизация позволяет бизнес-командам переосмысливать свои процессы, не упираясь в ограничения какой-то одной технологии. Благодаря тщательному перепроектированию процессов они открывают для себя новые возможности, достигают более высокой степени удовлетворенности и вносят дополнительный вклад в решение когнитивных задач и вопросов, связанных с клиентами. Поскольку ключевое значение для гиперавтоматизации имеют платформы low-code, организации получают дополнительную гибкость, быстро адаптируясь к происходящим изменениям. В сочетании с «цифровыми сотрудниками» и программными ботами все это освобождает людей от необходимости выполнения рутинных операций, занимающих большую часть рабочего дня. Процессы модернизируются с помощью технологий искусственного интеллекта и машинного обучения.

Перечислим некоторые признаки, указывающие на необходимость изменений по сравнению с традиционной автоматизацией. Еще раз стоит повторить, что переход на гиперавтоматизацию предполагает улучшение процессов за счет применения передовых технологий.

Зависимость от унаследованных систем. Когда в бизнес-процессе задействовано сразу несколько систем с унаследованными данными, решить все стоящие перед предприятием задачи с помощью какого-то одного инструмента не представляется возможным. Это требует множества дополняющих друг друга технологий, которые связали бы системы в единое целое.

Зависимость от человека. Если ваши процессы сопряжены с утомительными повторяющимися задачами, на их выполнение требуется больше времени, что влияет на потенциальную производительность труда сотрудников. Кроме того, рутинные и не требующие высокого интеллекта задачи снижают моральный дух команд, не говоря уже о возникновении неизбежных ошибок в работе. Справиться с этими недостатками помогают боты RPA.

Рассмотрим, к примеру, какой-нибудь трудоемкий процесс в сфере страхования. Развертывание круглосуточно работающего программного бота для выполнения процесса генерации документов позволяет увеличить производительность и ускорить процесс в несколько раз, исключив при этом ошибки.

Риски несоблюдения нормативных требований. Для любого предприятия, в какой бы отрасли и географическом регионе оно ни работало, выполнение требований закона и регулирующих органов имеет первоочередное значение. С помощью инструментов гиперавтоматизации соответствующие положения, правила и факторы риска могут быть автоматизированы или включены в настройки процессов.

Отсутствие прозрачности. При использовании старых методов управления бизнес-процессами – вручную или по электронной почте – отслеживание ключевой информации затруднено. Обеспечение прозрачности бизнес-процессов требует больших затрат времени и дополнительных усилий. Если людям приходится вручную приводить в соответствие электронные таблицы и общие файлы, изолированные функции и автономные системы, а качество данных оставляет желать лучшего, самое время задуматься о технологическом сдвиге.

Чего можно добиться?

Повышение окупаемости инвестиций. Добавление к правильно выстроенным процессам средств автоматизации устраняет их неэффективность, приводит к сокращению времени на освоение новой продукции и ускорению процессов. Поскольку гиперавтоматизация предполагает сочетание использования средств автоматизации процессов и RPA с технологиями искусственного интеллекта и машинного обучения, получаемая выгода и окупаемость инвестиций увеличиваются.

Рассмотрим, к примеру, компанию медицинского страхования, которая обрабатывает почти 200 тыс. заявлений в год. Чтобы закрыть заявление, работник тратит в среднем полчаса в день на извлечение данных из системы CRM, вставку их в документ, вывод на печать и снабжение подписями. При использовании гиперавтоматизации процесс извлечения данных может быть автоматизирован за счет применения средств оптического распознавания символов, а информацию можно проверить при помощи инструментов автоматизации бизнес-процессов. Закрытие документа осуществляется с помощью электронной подписи. Время процесса в целом значительно сокращается, что приводит к существенному повышению окупаемости капиталовложений.

Улучшение клиентского восприятия. Согласно исследованию Zendesk, почти 80% клиентов при двух и более случаях неудачного опыта взаимоотношений с той или иной компанией пойдут к ее конкуренту. Чтобы клиенты лояльно относились к бренду, нужна персонализация ориентированных на них рабочих процессов. Технологии гиперавтоматизации, к примеру, могут использоваться для мониторинга взаимодействия с контактным центром. Использование средств обработки естественного языка помогает анализировать взаимодействие и настроения клиентов, проводить количественную оценку настроений, вычислять время задержки – то есть, рассчитывать все ключевые показатели клиентского восприятия (Customer Experience, CX), которые необходимы для понимания ситуации и принятия важных бизнес-решений.

Повышение операционной эффективности. По оценкам экспертов, благодаря гиперавтоматизации нагрузка на менеджеров к 2024 году снизится на 70-75%. Поскольку все это автоматизирует и ускоряет рутинные процессы ввода и извлечения данных, выставления счетов, управления поставщиками, обработки заявлений и т.д., появляется возможность освободить людей от выполнения операций подобного рода. Сквозная автоматизация позволяет поднять производительность и повысить качество стратегических бизнес-решений.

Ускорение выхода на рынок. В условиях растущей конкуренции в мире важно расширять масштабы производства, ускорять его и быстрее выводить новые продукты и услуги на рынок. Как сделать это грамотнее? Ответ заключается в создании систем, предполагающих написание минимального объема программного кода. Платформы low-code, позволяют разрабатывать приложения в 10-20 раз быстрее по сравнению с традиционными средствами. Визуальный подход к программированию создает условия для привлечения к проектированию приложений людей с минимальной технической подготовкой, помогая легко создавать приложения на основе уже готовых компонентов, шаблонов и виджетов.

Разработка low-code/no-code является центральным звеном гиперавтоматизации. Если гиперавтоматизация оптимизирует бизнес-процессы для беспроблемного проведения цифровой трансформации, то создание приложений с написанием минимального объема кода ускоряет эту процедуру, делая переход более быстрым и помогая поддерживать и модернизировать внедренные технологии. В условиях пандемии компании всего мира смогли по достоинству оценить гибкость и быстроту разработки low-code.

Сивашанкари Кришнамурти – менеджер компании Vuram по вопросам автоматизации доставки. На протяжении девяти последних лет она автоматизирует бизнес-процессов различных организаций. Имея опыт разработки более 100 бизнес-процессов с помощью инструментов гиперавтоматизации, основное внимание Кришнамурти уделяет вопросам успешного проведения клиентами цифровой трансформации. Она занималась реализацией различных программ с несколькими глобальными командами доставки и принимала участие в создании центров передового опыта.

Исследование рынка, проведенное компанией Enterprise Management Associates, показало, что специалисты, отвечающие в компаниях за сетевую инфраструктуру и операции, признают ценность применения AIOps при организации управления сетью.

Использование искусственного интеллекта в ИТ-операциях (Artificial Intelligence for IT Operations, AIOps) – развивающийся класс технологий, который объединяет машинное обучение, большие данные и другие виды продвинутой аналитики для автоматизации процессов управления ИТ. По сути, AIOps сопоставляет и анализирует различные наборы данных об ИТ-операциях, выявляет закономерности, делает на основании этих закономерностей определенные выводы и предоставляет соответствующую информацию персоналу ИТ-службы.

Недавно EMA опубликовала отчет «Революционные перемены в управлении сетью с помощью AIOps» ('Revolutionizing Network Management with AIOps'). Результаты проведенного опроса показали: 90% специалистов по компьютерным сетям убеждены в том, что использование AIOps при организации управления сетью может привести к улучшению бизнес-результатов предприятия в целом. Люди, решившие выйти за рамки этапа исследований, чтобы получить практический опыт работы с AIOps, оценивают потенциальные преимущества с наибольшим энтузиазмом.

Другими словами, управление сетью на основе AIOps способно улучшить ведение бизнеса. Проявлением этого становятся повышение производительности труда, улучшение клиентского восприятия и получение дополнительных доходов. Но каким образом AIOps придает дополнительный импульс развитию бизнеса?

Преимущества AIOps при организации управления сетью

В EMA попросили участников опроса перечислить потенциальные преимущества использования AIOps при организации управления сетью, которые они считают наиболее важными для своей ИТ-службы. В первую очередь специалисты по сетевой инфраструктуре и операциям отметили следующее:

— оптимизация сети;

— операционная эффективность;

— повышение уровня безопасности и соблюдение нормативных требований.

Про отказоустойчивость сети и снижение затрат упомянули уже меньше организаций. А специалисты по сетям главным потенциальным преимуществом считают повышение уровня безопасности и соблюдение нормативных требований.

Оптимизация существующих инструментов управления сетью

В EMA поинтересовались, связан ли интерес специалистов по сетям к AIOps с недостатками существующих инструментов управления сетью. Выяснилось, что 91% опрошенных надеются устранить имеющиеся недостатки инструментов с помощью AIOps. Чаще всего при этом назывались следующие возможности:

— устранение противоречий и неточностей в данных;

— компенсация нехватки информации в реальном времени;

— устранение фрагментации инструментов за счет сопоставления информации, поступающей из разных источников.

Лучше всего это описал сетевой архитектор фармацевтической компании, оцениваемой в 40 млрд долл.: «Сегодня у нас имеется очень много инструментов и различных графических интерфейсов, причем каждый инструмент делает что-то одно. Весьма полезной была бы возможность объединения на базе искусственного интеллекта решений каждого конкретного поставщика с другими инструментами. Поэтому поставщикам нужно искать способы консолидации своих панелей управления с другими инструментами путем приобретений, информационного обмена или совместного использования данных».

Впрочем, ожидать от AIOps устранения всех проблем с инструментами не стоит. Те, кто добился наибольших успехов в применении AIOps, указывают, что их интерес к AIOps не связан с недостатками инструментов управления сетью. Другими словами, успешные пользователи AIOps нацелены на трансформацию сетевого проектирования и операций, а не на устранение проблем с инструментами.

В мире управления ИТ-системами AIOps относится к числу областей, которые пока находятся на ранней стадии своего развития, но в EMA убеждены, что она уже обладает немалой ценностью. Специалистам по сетям необходимо искать возможности повышения эффективности операций с помощью функционала AIOps. Большинство поставщиков сетевой инфраструктуры и средств управления сетями уже предлагают сегодня в своих продуктах какие-то функции AIOps. А покупателям нужно интересоваться у поставщиков их планами в отношении развития инструментария AIOps.

«Решение» это касается того, каким образом искусственному интеллекту (и функциям машинного обучения, которыми он управляет) следует принимать прогнозные решения, то есть, насколько обширным и сложным должен стать процесс разработки программного обеспечения, лежащего в основе технологий принятия решений, и, что особенно важно, в какой степени автоматизацию машинного обучения следует применять к нему самому, с тем чтобы обучение развивало само себя?

Архитектор операций машинного обучения (MLOps) и DevOps в GitLab Монмаюри Рэй попробовала пояснить, какое влияние машинное обучение оказывает на изменение порядка прогнозирования и принятия решений.

Экономическая модель искусственного интеллекта

Рассматривая все это через призму экономики и бизнеса (а не разработки ПО и системного анализа), она указывает на снижение роли прогнозирования, которое является составной частью экономической модели искусственного интеллекта. К другим параметрам относятся данные, мощь аналитических технологий и вклад человеческого фактора.

Но, несмотря на ясность нарисованной картины, в мире по-прежнему ощущается нехватка работоспособного и доступного прикладного интеллекта машинного обучения.

И хотя все здесь сводится к вопросу реализации рутинной части ИТ-стека, а многим организациям концепция понятна, в применении машинного обучения при решении реальных задач по-прежнему видны пробелы. Технологические гиганты, такие как Google и Tesla, действительно способны эффективно использовать системы машинного обучения, но среднему предприятию еще только предстоит осуществлять переход к масштабному применению соответствующих инноваций.

«Вместе с тем нам есть, чему поучиться у Google и Tesla, поскольку по мере внедрения моделей машинного обучения экономика покупки интеллекта тоже меняется, – указала Рэй. – Нужно понимать, что сегодня за хорошую и плохую модель машинного обучения мы платим одинаковую цену. А какой сорт кофе покупать, если все продукты продаются по одинаковой цене? В этом и заключается экономическая дилемма моделей машинного обучения: поскольку мы платим одинаковую цену как за хорошую, так и за плохую модель, обратная связь и точность становятся ключевыми элементами, фундаментальной основой внедрения и масштабирования передового машинного обучения, которую нельзя ставить под угрозу».

Bing: меняться надо быстрее

По мнению Рэй и ее коллеги из GitLab, утверждение это хорошо иллюстрируется неспособностью Bing конкурировать с поисковыми технологиями Google на любом более или менее существенном уровне. С учетом того, что Microsoft Bing занимает менее 3% мирового поискового рынка, в операционном плане соответствующая технология отличается от технологии Google из-за соответствующих циклов обратной связи и увеличения времени, затрачиваемого на переосмысление рекомендаций Bing, которые, по сути, формируются за счет функций машинного обучения.

«Чтобы повысить точность модели и использовать машинное обучение в качестве службы общего назначения, можно задействовать различные системы, – делает вывод Рэй. – Одна из них должна автоматизировать выполнение повторяющихся задач, связанных с машинным обучением, с тем чтобы сократить продолжительность цикла обратной связи и снизить стоимость прогнозирования и принятия решений».

Это как раз тот момент, когда количество, возможно, переходит в качество. Другими словами, если мы сможем более широко применять автоматизацию и элементы тестирования в моделях машинного обучения, их дополнениях и расширениях, средства машинного обучения можно будет использовать для управления самим процессом машинного обучения.

Но здесь все не так просто. Разработчики программного обеспечения делового назначения сталкиваются с революционным ростом разнообразия оборудования в виде процессоров, облаков, устройств на границах сети и т.д. Каждый из производителей чипов, будь то Nvidia, Intel или другая компания, имеют свои собственные специфичные библиотеки и платформы. Проблема усугубляется тем, что сегодня разработчикам приходится вручную оптимизировать и настраивать модели машинного обучения для каждого из аппаратных лагерей.

Генеральный директор компании OctoML Луис Сезе пытается решать соответствующие задачи совместно с сооснователем компании и ее директором по продуктам Джейсоном Найтом. Оба они активно высказываются на тему того, как использовать машинное обучение для улучшения самого машинного обучения.

Миллиарды вычислений для одного алгоритма

Команда OctoML считает, что цель любого ИТ-директора заключается в максимально быстром и эффективном с точки зрения затрат внедрении инноваций искусственного интеллекта. Но реалии таковы, что 90% приложений искусственного интеллекта и машинного обучения так и не появляются на рынке. Проблема сегодня заключается в том, что средства машинного обучения требуют специального проектирования и серьезных вычислительных ресурсов, что приводит к высоким затратам на облачные сервисы и делает их неподходящими для развертывания на границах сети.

«В условиях, когда машинное обучение становится все более и более популярным (в сферах компьютерного зрения, NLA/NLP, производства контента и т.д.), объем вычислительных мощностей, которые требуются для машинного обучения, непомерно растет, – констатируют Сезе и Найт. – Во многих случаях (возьмем какую-нибудь масштабную модель, например, GPT-3) разработчики выполняют миллиарды и миллиарды вычислений, чтобы получить от алгоритма лишь один ответ».

Созданный на базе Apache TVM проект OctoML предназначен для упрощения производственного запуска моделей машинного обучения за счет автоматического повышения производительности моделей на любом оборудовании в популярных средах машинного обучения Pytorch, TensorFlow и ONNX. Еще раз, речь здесь идет об автоматизации развертывания самой модели машинного обучения.

Тестирование программ и возможности тестирования

Возвращаясь к GitLab, стоит отметить, что свет в конце тоннеля уже виден. Опрос GitLab DevSecOps Survey 2021 свидетельствует о расширении использования программных ботов машинного обучения для создания программного обеспечения на этапе тестирования.

В 2020 году только 16% опрошенных сообщили о наличии у них ботов для автоматического тестирования программного кода и об использовании инструментов искусственного интеллекта и машинного обучения при выполнении процедур тестирования. В этом году их доля выросла до 41%. При этом 25% респондентов используют боты для тестирования программного кода, 16% оценивают код с помощью средств искусственного интеллекта и машинного обучения перед передачей его человеку и 34% изучают возможность применения искусственного интеллекта и машинного обучения, не предпринимая пока практических шагов.

Коль скоро корпоративные модели машинного обучения все чаще тестируются автоматически с помощью самого машинного обучения, запускающего боты для выполнения тестов, механизмы принятия решений в системах искусственного интеллекта верхнего уровня при таком подходе, очевидно, тоже будут разрабатываться быстрее, с меньшими затратами и большей эффективностью.

Сфера роботизации и автоматизации процессов — RPA (Robotic Process Automation) активно развивается, и все больше компаний применяют RPA-решения в своих бизнес-процессах. Согласно отчету Grand View Research, к 2027 году рынок RPA превысит 25 млрд долл., при этом среднегодовой темп роста составит более 40%. Разработчики таких решений предоставляют бизнесу платформы для создания «цифровых сотрудников». Цифровой сотрудник – это главный компонент платформы, программный робот, выполняющий действия с программным обеспечением на рабочем столе. Дополнительные компоненты платформы позволяют анализировать бизнес-процессы, автоматизировать их, и контролировать выполнение в продуктивной среде.

Для разработчиков решений естественным становится совмещение различных технологий для получения новых возможностей. Так, RPA и искусственный интеллект (ИИ) обычно рассматриваются как отдельные области, но они в значительной степени дополняют друг друга. Совмещение этих технологий приводит к интеллектуальной автоматизации, которая обеспечивает быстрое выполнение сквозных бизнес-процессов. Внедрение решений, совмещающих эти две технологии, отлично подходит для различных отраслей и компаний, в частности, предоставляющих услуги и имеющих службы поддержки. Какие же именно возможности открывает совместное использование RPA и ИИ?

Интеллектуальная эффективность

Сама по себе RPA-платформа способна автоматизировать многие бизнес-процессы, базирующиеся на разных технологических платформах (Windows Desktop, Web, Mainframe, Java, Web Services, API). Гибкость интеграции достигается путем использования различных способов взаимодействия с пользовательской средой робота. Один из способов предполагает, что робот может имитировать действия человека и работает с целевым приложением напрямую, при этом целевое приложение «не знает», что им управляет робот. То есть стандартный процесс работы сохраняется без каких-либо дополнительных изменений, и робот просто заменяет человека. В других случаях могут использоваться и системные функции. Например, робот может не использовать проводник (пользовательский интерфейс), управляя файлами с помощью системных команд. Работая с таблицами и базами данных, робот может обойти пользовательский интерфейс и работать напрямую с данными через API, что существенно повышает производительность.

С развитием ИИ появились дополнительные сценарии использования цифровых сотрудников. RPA – эффективная технология, обладающая множеством преимуществ, однако роботы могут выполнять только те задачи, которые ставит перед ними человек. А вот ИИ может обучать роботов и давать им возможность самостоятельного анализа тех или иных вопросов. Таким образом, RPA может автоматизировать все задачи, основанные на заранее подготовленных правилах, а ИИ может заполнить пробел, где RPA не справляется. Если раньше роботы могли работать только со структурированными данными и четко выстроенной логикой, то благодаря технологиям ИИ роботы получили возможность принимать самостоятельные решения.

Рассмотрим направления, в которых роботы принимают самостоятельные решения благодаря искусственному интеллекту.

Аналитика: обнаружение процесса и идентификация действий

Компании часто нуждаются в документе с описанием бизнес-процессов и действий сотрудников. Такой документ может упростить процесс обучения новых сотрудников, усовершенствовать определенные процессы, повысить качество выполнения работы, а также может быть использован для построения системы роботизации.

Автоматизированная аналитика процессов позволяет сэкономить время, затраченное бизнес-аналитиком на их описание. Решение, базирующееся на ИИ, может обнаруживать новые процессы, детальнее и обширнее исследовать и описывать их. В большинстве случаев подобные решения представляют собой программу-агента, которая устанавливается на рабочем столе сотрудника и следит за выполняемыми действиями. Через некоторое время агент формирует концепцию работы, выполняемой сотрудником. Таким образом время, которое бизнес-аналитик должен потратить на подготовку документа, значительно сокращается.

Распознавание текстов

Распознавание текста (Optical Character Recognition, OCR) включает в себя распознавание графических символов, курсива, а также неструктурированных данных. Данные технологии используются для автоматизации приложений, к которым невозможно подключиться на системном уровне, и для работы с текстовыми файлами, из которых невозможно выделить текст – например, из PDF-файлов отсканированных документов. Таким образом можно обрабатывать счета-фактуры, чеки, приходные ордеры и другие стандартизированные (но не обязательно структурированные) документы. Подобное использование ИИ приводит к сквозной автоматизации процессов. Люди поддерживают роботов и обрабатывают документы только в тех случаях, когда робот не уверен в дальнейших действиях.

Благодаря технологиям на базе ИИ доступны также дополнительные возможности по распознаванию текста. Они требуются для более умного использования оцифрованных документов – в случаях, если в документе есть таблицы или разное расположение текста. Например, разработчики предлагают продукты для работы с графическими документами, относящиеся к семейству IDP (Intelligent Document Processing). IDP отличается от OCR тем, что помимо конвертации графического текста в цифровой, также может определить тип документа и находить поля, меняющие свое местоположение. IDP проходит наблюдаемое обучение, где аналитик поправляет выстроенную концепцию документа. Очень удобно, когда OCR и IDP предоставляют не только распознанный текст, но и оценку уверенности в правильности оцифровки. Большинство решений по распознаванию текста не гарантируют 100% корректное распознавание, однако ИИ технологии помогают минимизировать ошибки даже в сложно структурированных документах.

Некоторые продукты позволяют распознавать и рукописный текст. Конечно же, многое зависит от языка и культурной составляющей. Например, если речь идет о рецепте, выписанном доктором, то часто бывает сложно распознать текст. Но технология распознавания есть, и она работает. Инновационные решения позволяют легко работать с отсканированными заявлениями и другими документами. Распознавание рукописного текста часто используется при сверке предложенных и принятых контрактных обязательств, где принимающий условия соглашения клиент вручную переписывает основные положения контракта.

Говоря о тенденциях развития технологий по оцифровке документов, специалисты рекомендуют уходить от процессов, базирующихся на рукописных текстах к цифровизации ввода. Процессы будут намного эффективнее, если заменить такой подход на чат-боты, формы, или IVR-системы (умное распознавание голоса). Кроме того, также можно использовать распознавание почерка для сравнения и верификации подписи.

Распознавание изображений

Распознавание изображений может потребоваться при работе с картинками. Платформы RPA содержат компоненты для поиска картинки в картинке и для анализа изображения на содержание разных цветов. Технологии ИИ позволяют расширить сценарии их использования. Сама по себе данная технология интересна, а при совмещении с другими технологиями и системами открывает новые возможности в роботизации бизнес-процессов.

Сравнительный анализ изображений позволяет находить «картинку в картинке» при некотором расхождении между ними. Отличный пример данной технологии – поиск изображений Google. Результатом поиска становятся как идентичные, так и похожие изображения. Сценарием использования может быть поиск всех источников в Интернете, содержащих похожую фотографию. Такое решение может быть использовано для подтверждения подлинности личных данных. Если один и тот же или похожий портрет был использован в социальных сетях для разных учетных записей, то подлинность информации под вопросом. Таким же образом можно искать логотипы.

К этой возможности относится и опция распознавания лиц: выявление концепции лиц в изображении – например, фото из паспорта. При автоматизированном приеме на работу можно распознать паспортные данные с помощью IDP, автоматически определить и сохранить фотографию сотрудника в локальной системе управления персоналом. Паспортные данные можно сопоставить с анкетными данными, а фотографию проверить в базах фотографий (например, разыскиваемых преступников).

Также возможно распознавание лиц и человеческих изображений из потока видеонаблюдения. Видеопоток режется на кадры, и выборочные кадры проводятся через систему распознавания лиц. Кадры с лицами проходят сверку с системами управления персоналом и принимаются решения, базирующиеся на идентификации личности по лицу. Например, если есть складское помещение с блоками А и Б, и приписанный к блоку А сотрудник выявлен в блоке Б, это может стать причиной автоматического оповещения службы безопасности склада. Интеллектуальные роботы обеспечивают общение между системами и связывают отдельные возможности в одну сквозную полезную деятельность.

Распознавание объекта – это распознавание концепции или явления на изображении. Здесь существуют практически бесконечные возможности использования в разных индустриях – от медицины для определения аномалий, обороны для определения объектов, экологии для определения загрязнений, и до нефтеперерабатывающей промышленности. Использование решения заключается в том, что ИИ тренируется на выявлении концепции на множестве изображений. После обучения ИИ сможет классифицировать изображение на содержание или отсутствие концепции. Хорошим примером использования подобного решения является обработка ржавчины на трубопроводе. Представим, что дрон летает над линией трубопровода и снимает трубы сверху. Видео обрабатывается, и кадры исследуются на предмет ржавчины. Если ржавчина замечена, то бригада сервисного обслуживания получает уведомление с изображением и геолокацией снимка, и дальше принимает решение, если требуется принять меры. Конечно, дрон не может пролететь сотни километров трубопровода, и его должна сопровождать бригада, но это быстрее, чем лезть на трубопровод и осматривать его шаг за шагом.

Безусловно, все это могут делать люди. Но как долго и как часто? Роботы не устают и не сбиваются от продолжительной монотонной работы. Они могут обрабатывать информацию по мере поступления, даже если им приходится анализировать одно и то же изображение каждые 10 минут, при этом анализируя тысячи изображений в час.

Роботизированные ИИ-системы также позволяют описывать изображение, перечисляя замеченные концепции объектов. Это тот случай, когда ИИ используется для того, чтобы обойти технологию, созданную против ИИ и роботов. Отличный пример этому – технология, созданная для подтверждения пользователя, как человека («выберите все изображения, где есть светофор, чтобы подтвердить, что вы не робот»). Описательный анализ изображения расскажет, что на картинке присутствует городская среда, содержащая автомобиль и светофор.

Возможности для повышения эффективности обслуживания клиентов

Решения, совмещающие RPA и ИИ, помогают повысить эффективность обслуживания клиентов благодаря автоматизированному анализу обращений (голос, текст), определяя настроение, приоритет и контекст обращений.

Анализ настроений (Sentiment Analysis) позволяет определить настроение пишущего или тон письма. Данная технология может быть использована в центрах поддержки для назначения приоритета запросу. Более компетентный в работе с проблемными клиентами сотрудник службы поддержки приписывается к запросу, а анализаторами текста выявляется общий контекст из текста. Письмо с просьбой о поддержке классифицируется как запрос по лицензированию, установке или использованию. Также технология может быть интегрирована с чат-ботами для достижения той же цели – определение контекста и общего смысла запроса для дальнейшего распределения для обработки – роботами, вручную или гибридно.

Распознавание голоса дает возможность создания канала голосового общения между роботом и человеком. Оно используется вместе с системами распознавания контекста. Голосовые сообщения цифровизируются в текст, который в свою очередь проходит через определение смысла. Такое общение на базе заранее заложенного контекста используется в чат-ботах. При обращении в службу поддержки клиент идентифицирует себя и описывает природу своего обращения. Система проводит пользователя через диалог и обрабатывает заявку. Если система не может понять или обработать запрос, звонок переводится на сотрудника службы поддержки, который уже в обладает информацией и видит ответы на автоматизированные вопросы от системы.

Также есть сервисные решения (Service Assist), которые связывают в один сквозной процесс обращающегося за помощью клиента, агента службы поддержки, и робота, который и делает всю работу, используя разные корпоративные системы для сбора данных и внесения изменений.

Еще одно решение – преобразование текста в голос. Робот может подготовить текст, далее этот текст переводится в голос и производится звонок с таргетированным сообщением. Имитация человеческой речи используется для автоматических робо-звонков, нацеленных на массовое оповещение. Есть масса сценариев, когда такой функционал незаменим – например, незамедлительное оповещение персонала. Использование данной технологии также могло бы быть полезно для оповещения пассажиров о задержках рейсов в аэропортах. К почте нужен доступ, и не все письма читаются сразу по получении. Телефон или система громкой связи более синхронны в послании и получении сообщения.

Кроме того, стоит отметить про крайне интересное направление – виртуальный диктор. Робот может передать текст на создание видео выпуска с виртуальным диктором, дождаться монтажа видео, и разместить видео в системе хранения и публикации видеоматериалов.

Что касается распознавания контекста, то простым примером могут быть чат-боты. Они обычно начинают с определенного вопроса. Ответы пользователя классифицируются по принадлежности к предопределенным категориям, что и является распознаванием контекста. Чат-боты в основном используются в службах внешней поддержки клиентов и внутренней поддержки сотрудников, где результаты общения обрабатываются роботами. Так можно прислать смету на страхование жилья или автомобиля, помочь найти ближайшее отделение организации или подсказать контактную информацию службы поддержки. Внешняя поддержка заключается в предоставлении удобства пользования клиенту в поиске публично доступной информации. Однако, в случае возможности авторизации клиента, можно предоставлять услуги, касающиеся личных данных.

Если говорить о поддержке внутренних клиентов, то это может быть восстановление пароля, запрос обслуживания, помощи в поиске внутренних процедур, регламентов, шаблонов и др. Это заметно ускорит обучение нового сотрудника, так как чат-бот ассистент сможет помочь сотруднику обработать незнакомые ситуации.

Что нас ждет в будущем?

Многие компании уже давно совмещают технологии RPA и ИИ, освобождая человеческие ресурсы. И развитие данных технологий, а также их популяризация могут привести к революционным изменениям с точки зрения цифровизации бизнес-процессов. ИИ дает возможность не ограничиваться тем, что могут делать платформы RPA. Благодаря ИИ цифровые сотрудники становятся интеллектуальными, приобретают способность анализировать и принимать хоть и контролируемые, но самостоятельные решения.

Автор – Кристиан Уэллс (Christian Wells), эксперт по роботизации процессов, руководитель клиентского офиса Blue Prism в России (russia@blueprism.com)

Пандемия коронавируса дала сильный импульс развитию медицинских информационных технологий, и проблема доступа к большим медицинским данным получила шанс сдвинуться с мертвой точки. Состояние отечественного рынка данных здравоохранения, отраслевые кейсы применения аналитики и технологий искусственного интеллекта, а также ситуацию с доступом к медицинским данным и нормативным регулированием повторного использования обезличенных данных для машинного обучения эксперты обсудили на форуме BIG DATA 2021, проведенном издательством «Открытые системы». Кульминацией тематической сессии стал круглый стол «Качественные медицинские данные для ИИ-решений: где их взять?», организованный при поддержке Ассоциации «Национальная база медицинских знаний».

Сырьевая база

Медицинские данные стали, с одной стороны, отдельным объектом инвестиционного интереса для технологических компаний, а с другой — «топливом» для развития рынка систем искусственного интеллекта. И максимальная вероятность толкового их применения в ближайшем будущем сосредоточена в наиболее привлекательных для инвесторов направлениях: сервисы для пациентов, телемедицина и, конечно, искусственный интеллект.

В числе самых многообещающих областей применения искусственного интеллекта в здравоохранении — предсказательная аналитика, включающая решения по прогнозированию возникновения эпидемий, нехватки лекарств и нежелательных событий в организме конкретного пациента. «Мы научились использовать большие данные для сокращения неэффективных затрат на оказание медицинской помощи», — сообщил директор по развитию проекта Webiomed Александр Гусев, представляя участникам BIG DATA 2021 обзор рынка искусственного интеллекта для здравоохранения. По его мнению, два главных вызова для этого рынка в России — особый правовой статус стартапов в сфере больших данных и искусственного интеллекта, а также развитие национальной платформы, которая позволит собирать медицинские данные, предоставлять доступ к ним доверенным компаниям и осуществлять государственный надзор в этой чувствительной сфере. Планы создания такой отраслевой федеральной платформы искусственного интеллекта, основой которой станет защищенный банк обезличенных медицинских данных, были недавно анонсированы Минздравом. Разработчики рассчитывают, что в процессе реализации этого проекта основные проблемы, связанные с использованием больших данных в медицине, будут решены.

К 2020 году медицинские информационные системы внедрили 82% медицинских организаций России. И хотя 80% информации в электронных медкартах хранится в неструктурированном виде, с ней вполне можно работать с помощью технологий обработки текста на естественном языке (Natural Language Processing, NLP). По мнению Гусева, основные сложности на пути развития российского рынка «умных» решений для медицины создает неурегулированный оборот обезличенных медицинских данных и отсутствие понятной схемы возврата инвестиций в это рискованное направление.

Закон на подходе

Между двумя нежизнеспособными крайностями «данные должны быть доступны всем» и «данные не должны быть доступны никому» лежат компромиссные варианты порядка обращения обезличенных данных, пока еще не оформленные юридически. Медицинские данные выделены в специальную категорию особо чувствительных данных и не могут обрабатываться без согласия субъекта даже в обезличенном виде. Как сообщила Александра Орехович, директор по правовым инициативам ФРИИ, поправки, предусмотренные законопроектом об обезличенных персональных данных, который сейчас готовится ко второму чтению, дают надежду, что вопрос доступа к данным с целью разработки систем искусственного интеллекта вскоре будет урегулирован. Доступ будет предоставляться в определенном порядке определенным категориям организаций, которые соответствуют определенным требованиям. Но никакой конкретики в отношении этого порядка, категорий и требований пока нет — ясность появится только вместе с подзаконными актами. Когда будут выпущены проекты документов с правилами обезличивания данных и правилами доступа к ним, тогда и развернется по-настоящему острая дискуссия на эту тему.

Сегодня, когда одновременно идут процессы усиления защиты данных и полной открытости цифрового следа, настало время поднять вопрос о донации данных, полагает Борис Зингерман, гендиректор ассоциации «Национальная база медицинских знаний». «Сделать донацию данных легче, чем донацию крови, а пользы от нее тоже можно получить немало, — подчеркнул он. — Я с удовольствием поделюсь своими данными для науки, и таких пациентов будет немало».

Три диагноза от искусственного интеллекта

Интересный пример полезного использования данных о первичных приемах пациентов, накопленных в столичной системе здравоохранения, привела первый заместитель начальника Управления заместителя мэра Москвы по вопросам социального развития Юлия Урожаева. Она рассказала о системе поддержки принятия врачебных решений на основе искусственного интеллекта, которая с октября прошлого года работает во всех взрослых поликлиниках города. Для обучения нейросети, которая была разработана и откалибрована при помощи специалистов лаборатории искусственного интеллекта Сбера, использовали уникальную методологию разметки данных, сообщила Урожаева. Около 95% случаев обращения в поликлинику связано с одним из 265 диагнозов. На них и сосредоточились разработчики.

Проанализировав анамнез и введенные врачом жалобы пациента, система подсказывает три наиболее вероятных предварительных диагноза, а затем подбирает стандартные пакеты инструментальных и лабораторных исследований для подтверждения диагноза или его опровержения. К настоящему времени с помощью системы проведено около 4 млн амбулаторных приемов, и в 70% случаев выбор врача совпадает с предложением нейросети. Систему продолжают дорабатывать и обучать, пополняя новыми данными и диагнозами и повышая точность ее работы.

Свое выступление Урожаева завершила приглашением к сотрудничеству. «Очень ждем нестандартно мыслящих людей для разработки следующих продуктов», — обратилась она к участникам форума.

Видеть цель

Поиск качественных медицинских датасетов сродни добыче золота или алмазов, требующей переработки тонн пустой породы. Поиском редких данных в различных источниках и организациях занимаются специальные компании, и эти изыскания не всегда успешны. Качественный датасет получается, когда исследователь четко знает, какие данные и с какой целью собираются. Например, это происходит при написании диссертации. Но создать качественный универсальный датасет для абстрактных целей невозможно, уверен Зингерман.

«При использовании публичных датасетов, которые непонятно как собраны, приходится проводить процедуру кросс-разметки данных нашими врачами», — подтвердил операционный директор компании «Цельс» Никита Николаев. По его словам, качественных медицинских данных на сегодняшний день мало. Однако если качественно отстраивать процедуры разметки данных, можно повысить и точность решений, построенных на их основе. Николаев поделился опытом по оптимизации затрат на разметку медицинских изображений с помощью псевдо- и кросс-разметки, а также результатами эксперимента по привлечению к процедуре разметки маммограм силами сообщества «Яндекс.Толока». Эксперимент показал, что люди, размечающие снимки для обучения ИИ, находили рак не менее точно, чем врачи.

Накопленные к настоящему времени массивы ценнейших медицинских данных очень плохо структурированы, так как при их создании не учитывались цели последующего ретроспективного анализа, отметил Николай Павлов, CDO НПЦ «Радиология Москвы». Но те данные, которые начинают накапливаться сегодня, эти цели уже учитывают.

«Российское здравоохранение находится в двух шагах от того, чтобы перейти к медицинской аналитике на основе первичных данных, — полагает Игорь Башков, коммерческий директор «Нетрика Медицина». — В 2020 году COVID всех к этому подстегнул».

Так, многие регионы организовали автоматическое формирование регистров заболевших коронавирусом и оперативную передачу первичных данных о заболевших на федеральный уровень в структурированном виде. Это лишь одна из множества задач, которые «Нетрика Медицина» помогает решать региональным управленцам, интегрируя данные из 70 медицинских информационных систем различных организаций.

На распутье: NLP или cтруктурированная галлюцинация?

Структурированные или неструктурированные данные — важная развилка на пути дальнейшей цифровизации российского здравоохранения. Как отметил Павел Пугачев, заместитель министра здравоохранения РФ, идти по пути структурированных электронных медицинских документов (СЭМДов), добиваясь перехода всех медицинских организаций на единый формат — правильно, но долго, хотя этот подход прекрасно себя показал в ряде регионов, где интероперабельность и обмен данными с федеральным сегментом Единой государственной информационной системы здравоохранения обеспечивается с помощью СЭМДов. «Мы будем двигаться по этому пути, но нельзя отбрасывать и неструктурированные данные», — подчеркнул он. По мнению Пугачева, сегодня недостаточно проектов, которые работают с неструктурированными текстами и результатами анализов, между тем это направление может стать прорывным. В нем следует создавать заделы и реализовывать сервисы для медработников.

Главное предназначение медицинских данных — обеспечивать оказание медицинской помощи и преемственности лечения. Возможность последующего анализа данных — дополнительный бонус, ради которого далеко не всегда можно заставлять врачей заполнять сложные длинные формы. Иногда это слишком долго и дорого обходится. К тому же опыт показывает, что данные из неструктурированных источников зачастую оказываются даже более качественными.

Гусев поделился историей, когда по настоянию заказчика разработчики сделали форму врачебного осмотра, включавшую почти тысячу полей. Заполнение данных осмотра одного пациента стационара занимало 40 минут. Неудивительно, что врачи сразу переходили в конец формы, меняя лишь несколько полей и оставляя остальные шаблонными. «В итоге на выходе получилась очень качественно подготовленная и прекрасно машино-обрабатываемая… галлюцинация», — констатировал Гусев. Эксперимент подтвердил, что абсолютная формализация в реальной медицинской практике невозможна, и имеет право на жизнь разве что в клинических исследованиях. А в клинической практике более применим подход, сочетающий заполнение текстом крупных блоков структурированных документов, и последующее извлечение информации из них с помощью NLP-технологий.

Чем сложнее экранная форма, тем менее достоверны данные, ее заполняющие, согласен Пугачев. Он, в свою очередь, привел пример неудачной попытки наполнить регистр больных ковидом подробнейшими данными о хронических заболеваниях, в результате которой получили множество пациентов, у которых вообще отсутствовали хронические заболевания. Лишь когда в регистре оставили только группы хронических заболеваний, качество его данных существенно повысилось. Для повышения качества данных также важно использовать данные, поступающие с анализаторов, носимых устройств и предоставляемые самими пациентами. К примеру, при вакцинации заполняемость дневников наблюдения на портале госуслуг оказалась существенно выше ожидаемой, а этот формат дает возможность не только собрать дополнительные сведения, но и разгрузить врачей при сборе анамнеза.

«Нам нужен спрос на датасеты для создания сервисов на основе искусственного интеллекта, чтобы иметь возможность внутренней приоритизации, выстраивания процессов разметки, создания эталонных датасетов и их предоставления вовне, — заявил Пугачев. — Мы хотим поддерживать именно российских разработчиков и готовы выстраивать с ними коммуникации». Удачный опыт НПЦ «Радиология Москвы» по тестированию ИИ-решений, по его мнению, нужно расширять, и не только на анализ медицинских изображений.

Более года назад был создан Альянс в сфере искусственного интеллекта, в который вошли шесть компаний: Mail.Ru Group, «Яндекс», Сбербанк, «Газпром нефть», РФПИ и МТС. Его изначальная цель – мероприятия, позволяющие ускоренными темпами развивать в России компетенции в области машинного обучения и искусственного интеллекта. Несколько дней назад альянс представил библиотеку AI Russia Works, в которой представлены лучшие примеры применения технологий искусственного интеллекта.

По словам организаторов, к созданию библиотеки решений привел целый ряд предпосылок. Например, IDC оценивает мировой рынок искусственного интеллекта в 2020 году более чем в 150 млрд долл., и через несколько лет он удвоится. В России же рынок решений на базе искусственного интеллекта ничтожно мал и не превышает 200 млн долл. – это существенно меньше, чем можно было бы ожидать. Однако очевидно, что у нашей страны огромный потенциал и ему надо помочь реализоваться – искусственный интеллект способен стать одним из драйверов развития экономики.

На пути к AI-вики

Роман Стятюгин: «Запуская эту библиотеку, мы даем старт самостоятельному проекту: он в дальнейшем будет поддерживаться и теми, кому интересно читать об успешном опыте, и желающими им делиться. Тогда в перспективе сформируется AI-вики»

«Мы стали оценивать возможности помощи рынку и увидели определенные барьеры, типичные для многих компаний», — отметил Роман Стятюгин, руководитель аналитических сервисов PREDICT Mail.ru Group, играющий роль одного из координаторов библиотеки кейсов. Например, на отечественных предприятиях (разумеется, если не говорить об общепризнанных лидерах рынка) отсутствует информация, как искусственный интеллект может улучшить их показатели – экономить или получать дополнительную выручку. Получается замкнутый круг: спрос компаний недостаточен для активного развития готовых продуктов, а уровень готовности решений пока недостаточен для стимуляции спроса на них.

Рынку требуется добавить прозрачности – информации о том, как решения с использованием искусственного интеллекта помогли их коллегам, и главное – какой экономический эффект был получен. При формировании библиотеки был сделан акцент не на технологии, а именно на бизнес-эффект. Как известно, получить такую информацию бывает непросто. Именно поэтому, по словам Стятюгина, в альянсе решили, что нужна авторитетная база знаний, верифицированная экспертами, о том, в каких индустриях внедряются технологии искусственного интеллекта и какие результаты приносят.

«Запуская эту библиотеку, мы даем старт самостоятельному проекту: он в дальнейшем будет поддерживаться и теми, кому интересно читать об успешном опыте, и желающими им делиться. Тогда в перспективе сформируется AI-вики, которую сообщество будет самостоятельно развивать и дополнять», — считает Стятюгин. Кроме того, ежегодно будут награждаться лучшие из представленных проектов.

«Мы демонстрируем кейсы, которые позволяют вдохновиться и заняться их тиражированием», — заявил Кирилл Булатов, генеральный директор Альянса в сфере искусственного интеллекта. По его словам, сейчас в библиотеке собраны более 40 примеров успешных внедрений в российских организациях самых различных отраслей с доказанной эффективностью. 80% кейсов уникальны и нигде не публиковались, причем 40% из них представляют внутренние разработки предприятий. Основные сферы их применения – производство, маркетинг и клиентский сервис, а один даже направлен на формирование стратегии.

Кирилл Булатов: «Мы демонстрируем кейсы, которые позволяют вдохновиться и заняться их тиражированием»

Составители библиотеки «целятся» в средний и топ-менеджмент компаний самых разных сфер. При отборе кейсов оценивают, насколько быстро окупилось решение, каким образом влияет на рост выручки или снижение расходов, рост производительности и качества продукции. При этом обязательно наличие внутри созданного решения не только «интеллектуальной начинки», но и доказанного количественного эффекта, в том числе подкрепленного финансовой отчетностью и проведением независимых аудитов.

Эффект – сто миллионов

Одним из проектов, описанных в библиотеке AI Russia Works, стал проект в Росэлторге – крупнейшей электронной площадке, на которой проходят государственные и корпоративные закупки; в год там проходит около миллиона тендеров на общую сумму 4-5 трлн руб. В компании накопился огромный объем информации о проводимых торгах, их участниках и победителях, а также исполнении ими договоров. Главной решаемой задачей стало повышение конкурентности торгов. В этом цели организатора и заказчика схожи: для «Росэлторга» тоже важно успешное закрытие тендеров – ведь они берут плату с победителей.

Андрей Кашутин: «Мы столкнулись с тем, что достигли потолка по успешному закрытию торгов. Повысить эффективность в этой области помогли именно технологии машинного обучения»

«Мы столкнулись с тем, что достигли потолка по успешному закрытию торгов. Повысить эффективность в этой области помогли именно технологии машинного обучения. Было важно более таргетированно приглашать поставщиков к участию в закупочных процедурах, не превращать эти приглашения в спам – разобрать несколько сотен приглашений в день абсолютно нереально», — рассказал Андрей Кашутин, первый заместитель генерального директора Росэлторга. На основе анализа данных удалось построить модель, которая позволяет четко понимать, кто из потенциальных участников с большей вероятностью будет участвовать в конкретной закупочной процедуре – с учетом его прошлых действий, географии, анализа семантики лота. После этого стали делать узкие, но таргетированные рекомендательные подборки для поставщиков – в 8 случаях из 10 удается угадать, что поставщику тендер интересен, и он подает документы на участие в нем. В результате площадка на 5,3% подняла число успешно закрываемых лотов, это довольно большие деньги.

Кроме того, требовалось предсказать, какие торги рискуют остаться незавершенными, а значит им требуется уделять повышенное внимание: настойчивее звать в них участников, обеспечивая конкурентность, – возможно, даже звонить и убеждать. Машинное обучение позволяет довольно хорошо выявлять такие закупки.

«В 30-40% случаев мы заблаговременно понимаем, что число участников не превысит одного, а значит лот не будет закрыт и мы не получим свою комиссию. В этих случаях все усилия маркетингового центра направляются на то, чтобы все-таки сделать торги конкурентными», — сказал Кашутин. И компании все лучше это удается: за первый год работы этого проекта была получена дополнительная выручка более 100 млн руб.

Маркетплейс моделей

«Создание библиотеки верифицированных кейсов крайне важно. Видя доказанный эффект, многим заказчикам будет проще сделать первый шаг – возможно, даже пропустив этап пилотного проекта или существенно сократив его. Это позволит российскому рынку развиваться быстрее зарубежного», — подчеркнул Дмитрий Дырмовский, генеральный директор группы компаний ЦРТ.

Не менее важно в рамках создания библиотеки «умных» решений каталога предобученных моделей для решения практических задач. Это принципиально важный вопрос: обмен информацией создает базис для развития технологий, а наличие готовых продуктов дает импульс для их внедрения.

«Мы бы очень хотели, чтобы наша деятельность привела к появлению библиотеки предобученных моделей или даже маркетплейса моделей», — признал Стятюгин. Перейти от информирования и популяризации непосредственно к предоставлению готовых решений было бы правильным шагом. Но для этого рынок должен немного созреть. Искусственный интеллект может выступать вишенкой на торте, но для нее нужна надежная основа – от инфраструктуры и наличия качественных данных до редизайна производственных процессов и встраивания в них интеллектуальных решений.

Нет ничего удивительного в том, что приложения искусственного интеллекта оставляют за собой углеродный след, определяемый количеством парниковых газов (прежде всего, диоксида углерода и метана), которые искусственный интеллект в процессе своего производства и потребления выбрасывает в атмосферу. На практике обучение моделей искусственного интеллекта требует огромного количества вычислительных мощностей, и некоторые исследователи утверждают, что экологические издержки перевешивают получаемые выгоды. Вероятно, все же, они не только недооценивают преимущества искусственного интеллекта, но и упускают из виду многие способы, которые делают обучение моделей более эффективным.

Парниковые газы – то, что экономисты называют «внешними факторами» – издержки, которые общество в целом несет непреднамеренно, например, в результате неблагоприятного воздействия глобального потепления. Вместе с тем весомый урон наносит нам частный сектор, у которого пока остается слишком мало стимулов воздерживаться от разного рода нарушений. Как правило, коммунальные службы выделяют эти газы при сжигании ископаемого топлива в процессе выработки электроэнергии, питающей ЦОДы, серверные залы и другие компьютерные системы, на базе которых работает искусственный интеллект.

Влияние искусственного интеллекта на уменьшение углеродного следа

В последние несколько лет искусственный интеллект несправедливо считают одним из основных факторов глобального потепления, а потребление электроэнергии в процессе обучения моделей называют чрезмерным.

К сожалению, многие обозреватели используют крайне однобокие формулы вычисления общего углеродного следа, порождаемого искусственным интеллектом. Год назад в журнале MIT Technology Review была опубликована шокирующая статья, в которой исследователи из Массачусетского университета утверждали, что энергия, требуемая для одной модели машинного обучения, приводит к выбросу в пять раз большего объема диоксида углерода по сравнению со средним американским автомобилем.

Подобный способ расчета углеродного следа искусственного интеллекта оказывает этой технологии медвежью услугу. Рискую показаться претенциозным, но все это заставляет меня вспомнить высказывание Оскара Уайлда о том, что «циник – это тот, кто знает цену всему, но не видит ценности ни в чем». Я не ставлю под сомнение выводы исследователей из Массачусетского университета о необходимости вычисления и уменьшения углеродной стоимости для того или иного вида человеческой деятельности. Мне любопытно лишь, почему исследователи не обсуждают вклад (зачастую косвенный), вносимый искусственным интеллектом в уменьшение выбросов парниковых газов.

Если модель искусственного интеллекта обеспечивает постоянный поток действительно действенных выводов на протяжении всего жизненного цикла приложения, она должна генерировать реальные и полезные результаты. Другими словами, многие приложения искусственного интеллекта гарантируют, что люди и системы предпринимают оптимальные действия в самых разных прикладных сценариях. Многие из преимуществ, обусловленных искусственным интеллектом, уменьшают углеродный след, снижая потребность людей в пользовании автомобилем, совершении деловых поездок, занятии дорогостоящего офисного пространства и выполнении других видов деятельности, требующих потребления ископаемого топлива.

Возможно, здесь уместен мысленный «эксперимент коммивояжера». Предположим, что отдел продаж производственной компании состоит из шести человек, и каждому из них компанией предоставлен автомобиль. Если компания внедрит систему автоматизации продаж на основе искусственного интеллекта, которая позволяет одному сотруднику отдела продаж выполнять работу за всю команду – улучшая поиск потенциальных клиентов и оптимизируя маршруты – остальных можно просто уволить, избавившись от служебных автомобилей и закрыв филиалы.

Таким образом, одним махом углеродный след модели искусственного интеллекта, лежащей в основе приложения автоматизации продаж, будет полностью компенсирован за счет устранения парниковых газов, выделяемых пятью автомобилями, и экономии электричества, получаемой вследствие закрытия офисов и отключения оборудования.

О целесообразности решений такого рода можно спорить, но следует признать, что они вполне правдоподобны. Этот мысленный эксперимент показывает, что рост производительности и эффективности, а также ускорение, обеспечиваемые искусственным интеллектом, зачастую приводят еще и к снижению энергетических затрат.

Не собираюсь утверждать, что каждое приложение искусственного интеллекта непременно способствует уменьшению выброса парниковых газов. Но вместе с тем я не согласен с экспертами, высказывания которых приводились в недавней статье Wall Street Journal: «Если бы люди могли видеть истинную стоимость таких систем, у них наверняка возникло бы много вопросов относительно того, стоит ли удобство цифровых помощников, построенных на основе искусственного интеллекта, планетарных затрат на все это». Ситуация здесь чрезмерно упрощается.

Подобные настроения затушевывают тот факт, что многие сценарии искусственного интеллекта, применяемые на практике (например, те же цифровые ассистенты), путем анализа имеющихся данных выдают рекомендации, которые помогают людям правильно выбирать нужные им товары, находить оптимальный маршрут до конечной цели, грамотно управлять своими финансами и т.д. Многие из этих действенных рекомендаций способны оказать влияние – большое или малое – на использование людьми энергии в своих домах, офисах, автомобилях и пр.

Рост энергозатрат за счет обучения искусственного интеллекта может компенсироваться еще большим снижением углеродных выбросов

Многие приложения искусственного интеллекта способны уменьшать углеродный след, компенсируя выбросы, связанные с энергозатратами на обучение базовых моделей. Если искусственный интеллект позволяет эффективно работать, оставляя лишь небольшую часть офисного пространства, встреч и поездок, значит эта технология вносит весьма существенный вклад в борьбу с глобальным потеплением.

Следовательно, углеродная нейтральность приложений искусственного интеллекта вполне может обеспечиваться интенсивным обучением базовых моделей, которые начинают более эффективно справляться с возложенными на них задачами. Хорошо обученная модель искусственного интеллекта, подобно капиталовложениям, в дальнейшем амортизируется по мере развертывания будущих приложений.

Имейте в виду, что даже когда разработчики искусственного интеллекта стремятся повысить точность своих моделей, обучение не обязательно является дополнительным потребителем ресурсов, в который нас заставляют поверить. Перечислим тенденции, которые снижают углеродный след вычислительной нагрузки искусственного интеллекта.

— Многие компьютерные платформы искусственного интеллекта работают на возобновляемых источниках энергии, а не на ископаемом топливе.

— В платформах искусственного интеллекта появляются более энергоэффективные чипсеты, серверы и облачные провайдеры.

— На обучение совершенствуемых моделей искусственного интеллекта тратится все меньше времени и данных.

— В реальные приложения широко внедряются предварительно обученные модели искусственного интеллекта.

— Концепция DevOps применительно к искусственному интеллекту предполагает сравнение энергоэффективности различных моделей.

— Универсальные нейронные сети с максимальной эффективностью могут обучаться на разных видах процессоров.

По мере нарастания этих тенденций в ближайшие несколько лет мы скорее всего увидим значительное снижение углеродного следа, оставляемого искусственным интеллектом. А при усилении соответствующих тенденций конвейеры искусственного интеллекта превратятся в одну из наиболее устойчивых в экологическом отношении платформ в ИТ-вселенной.

Кот в мешке?

Интерес к искусственному интеллекту (ИИ) стремительно растёт: всё больше и больше компаний решаются на внедрение связанных с ним технологий, призванных трансформировать их бизнес к лучшему. Истории успеха, гуляющие по рынку, поддерживают ажиотаж. Однако мало кто находит смелость сказать, что за образом волшебного чёрного ящика, печатающего деньги, скрываются многие проблемы. Производители готовых решений, заинтересованные в продаже своего продукта, равно как и организации-потребители, прошедшие этот путь и теперь отпугивающие своих конкурентов армией умных машин, предпочитают делать акцент на положительных результатах и умалчивать о проблемах. В этих условиях отсутствие у большинства компаний, не прошедших этот путь, глубокого понимания технологии порождает завышенные ожидания, а разочарование может стоить дорого. Со временем, доля таких компаний снижается, а слепой оптимизм заменяется осторожным или даже пессимизмом; опыт открывает глаза на ограниченность применения ИИ и те факторы, которые мешают повсеместному внедрению этой технологии.

Однако мы призываем не терять веры в пользу ИИ, но всё же оценивать перспективы трезво, с «холодной головой». Чтобы помочь разобраться, мы постараемся раскрыть суть проблем, стоящих на пути развития ИИ, и заодно развеять несколько мифов. При этом, под развитием ИИ мы будем понимать не столько совершенствование его «умственных способностей», сколько его проникновение в деятельность организаций.

Лучший друг человека

В последнее время не утихают разговоры о том, что из-за ИИ часть людей потеряет свою работу. Скептики успокаивают, утверждая, что представителям творческих профессий бояться нечего: ИИ не способен создавать что-то новое – нечто, чего он не видел раньше. Разработчики ИИ согласятся, но им известно, что этот аргумент стоит рассматривать несколько шире: на самом деле, любая деятельность содержит элементы творчества, за исключением рутинной, продиктованной строгой инструкцией.

Распознавание лиц или биометрию, например, можно смело отнести к этому классу задач, ведь человек решает эту задачу практически бессознательно, не используя свои аналитические способности; всё, что требуется – наличие в памяти «образцов», с которыми будет осуществляться сравнение видимого образа. Несмотря на технологическую сложность реализации, задачу можно назвать простой ввиду конкретности её формулировки. Монетизация достигается за счёт полной автоматизации этой деятельности.

Аналитические задачи, такие как выявление случаев мошенничества, даются ИИ с большим трудом, так как поведение мошенников регулярно меняется, не говоря уже о том, что само понятие «мошенник» крайне изменчиво, а некоторые сомнительные транзакции могут получить статус мошеннических через долгое время после их совершения. ИИ пока недостаточно умён для того, чтобы самостоятельно ставить собственные решения под сомнения, делать новые гипотезы, проверять их, изменять выборку и затем обучаться заново – активное вмешательство со стороны эксперта в предметной области обязательно. Таким образом, это пример бизнес-процесса, который нельзя отдать целиком во владение ИИ – он может быть лишь помощником для команды профессиональных аналитиков. Монетизация возможна за счёт повышения эффективности работы такой команды.

Искусственный интеллект – помощник человеку, а не вместо человека!

Расходы

Допустим, ваша организация намерена внедрить решение, основанное на ИИ, для автоматизации какого-то бизнес-процесса или помощи в принятии решений. В части доходов всё предельно ясно: сократятся операционные затраты, ошибки, цикл обслуживания и текучесть персонала. Спасибо популяризаторам за эту ясность. Но что с расходами? Реализация такого проекта потребует затрат на приобретение соответствующего оборудования (если, конечно, речь не идёт об облачных сервисах); на приобретение, внедрение и дальнейшее поддержание ПО. Вполне возможно, что текущий «человекоёмкий», теоретически неэффективный процесс окажется выгоднее роботизированного. Но эта мысль, на первый взгляд, кажется абсурдной.

На этом список «абсурдных» статей расходов не заканчивается. Внедрение сложных технологий приведёт к росту (по крайней мере, кратковременному) фонда оплаты труда, так как потребуются высококвалифицированные специалисты, способные поставить технологию «на ноги» и поддерживать её в дальнейшем. Хайп вокруг ИИ и Data Science приводит к росту количества таких специалистов на рынке труда, что увеличивает их доступность, но не стоит забывать о необходимости регулярно обучать их новым технологиям и нюансам предметной области. Опять противоречие: снижение фонда оплаты труда за счёт автоматизации – одна из целей внедрения ИИ; почему мы говорим о его росте?

Следующая проблема касается данных, которых не всегда много, которые не всегда точны и не всегда репрезентативны. Ведь именно наличие таких данных является главным условием работоспособности алгоритмов машинного обучения. Конечно, дефицит данных можно восполнить их приобретением у сторонних организаций или их трудоёмкой добычей руками собственных сотрудников – в любом случае, это можно смело добавить в список потенциальных расходов.

Человеческий фактор

Дополнительные трудности в получении выгоды от применения ИИ возникают в результате недоверия сотрудников к рекомендациям, выходящим из «чёрного ящика». Людям свойственно ошибаться, будучи уверенными в собственной правоте, поэтому они скорее поверят своему опыту, знаниям и интуиции, нежели ИИ, который не способен объяснить собственные решения. В итоге, технология может быть проигнорирована сотрудниками. Поэтому важно регулярно тестировать алгоритмы, что позволит не только выявить и затем устранить их недостатки, но и демонстрировать сотрудникам их эффективность.

Говоря о тестировании, полезно задаться вопросом, насколько его результаты репрезентативны. Как правило, тестирование выглядит следующим образом: создаются условия, приближенные к реальным, в которых алгоритму придётся работать; алгоритм запускается, даёт прогнозы или рекомендации; наконец, рассчитываются показатели эффективности (метрики). Качество работы алгоритма оценивается по значениям показателей эффективности. В чём подвох? Во-первых, условия, в которых происходит тестирование, могут оказаться далёкими от реальности, что не даст объективной оценки. Во-вторых, показатель эффективности выбирается либо разработчиком-математиком, который может не до конца понимать бизнес-процесс и отдавать приоритет математическим метрикам, либо бизнес-заказчиком, который, напротив, может придавать чрезмерный вес одним аспектам работы алгоритма, не учитывая другие. Оптимальный показатель стоит искать на пересечении двух миров, но доля субъективности всё равно останется. Таким образом, выбор методологии тестирования очень важен, и он ложится на плечи разработчика и заказчика – живых людей.

Ещё один из мифов касательно ИИ гласит, что алгоритмы машинного обучения обучаются самостоятельно – только данные подавай. Это не так: некоторые элементы их дизайна, опять же, ложатся на плечи разработчика, на его экспертное мнение. Классическим примером таких элементов являются мета-параметры моделей машинного обучения. Конечно, существуют методы их автоматического подбора, но и в этом случае выбор конкретного метода и его параметров остаётся за разработчиком.

Непрерывная аналитика – новый вызов

Даже тогда, когда собранных данных много и они достаточно точны, риск получить систематическую ошибку сохраняется: старые закономерности могут исчезать, могут появляться и новые. Поэтому алгоритмы необходимо регулярно обновлять, то есть либо запускать процесс обучения заново каждый раз, когда становится доступной новая порция данных, либо делать выбор в пользу алгоритмов, способных «дообучаться». Второй вариант предпочтительнее при больших объёмах данных и необходимости обновлять алгоритм быстро, вследствие чего он активно набирает популярность под термином «непрерывная аналитика» или «потоковая аналитика». Но он и дороже: потребуется мощное оборудование, а возможно, и полный перекрой существующей ИТ-инфраструктуры. При этом от риска систематической ошибки полностью избавиться не получится – то, что мы принимаем за новую закономерность, может оказаться краткосрочной аномалией. Тогда «дообучающийся» алгоритм будет забывать подлинное старое и запоминать ложное новое. Оптимальное решение, как всегда, скрыто в компромиссе: чувствительность алгоритма к новым данным должна быть определена на этапе разработки. Это можно сделать на основе результатов тестирования алгоритма при разных уровнях чувствительности.

Инфраструктура

Наконец, нужно обратить внимание на тот факт, что встраивание ИИ в бизнес-процесс требует инфраструктурных и организационных изменений. Аналитики и математики могут создать многообещающую математическую модель, но ответственность за её внедрение в ИТ-инфраструктуру организации ляжет на ИТ-подразделение. Эта задача не проще создания самой модели, а в случаях, когда системы, в которые предполагается встраивать ИИ, разработаны сторонним вендором, она и вовсе может оказаться неразрешимой. Чаще всего выход удаётся найти даже в тяжёлых случаях, но с некоторыми жертвами – например, с периодическими задержками, сбоями, низкой скоростью обработки. Всё это может снизить эффективность рекомендательной системы или вовсе обречь проект на провал.

Заключение

Подчеркнём, что развитие ИИ определяется двумя факторами: технологическими возможностями и потребностью со стороны бизнеса. Не всё технологически возможное является одновременно и практически ценным. Проблемы, с которыми сталкиваются организации при внедрении ИИ в свои бизнес-процессы, препятствуют его проникновению и дальнейшему развитию. Это не значит, что технология бесполезна и у неё нет будущего – просто от организации требуется системный подход к вводу технологии в эксплуатацию. В частности, обязательные условия успешной реализации подобных проектов – непредвзятая оценка потенциальной выгоды и грамотный план действий, направленный на устранение или облегчение возможных рисков. Разработку такого плана и приведение его в действие разумно доверить команде профессионалов, специализирующихся на разработке и сопровождении решений на базе ИИ. Это позволит снизить неопределённость, связанную со сложностью проектов, и максимизировать выгоду для организации.

Авторы:

• Юрий Сирота, старший вице президент банка УРАЛСИБ, руководитель дирекции искусственного интеллекта и анализа данных, центра компетенций BI

• Андрей Шишов, аналитик данных дирекции искусственного интеллекта и анализа данных банка УРАЛСИБ