Кот в мешке?
Интерес к искусственному интеллекту (ИИ) стремительно растёт: всё больше и больше компаний решаются на внедрение связанных с ним технологий, призванных трансформировать их бизнес к лучшему. Истории успеха, гуляющие по рынку, поддерживают ажиотаж. Однако мало кто находит смелость сказать, что за образом волшебного чёрного ящика, печатающего деньги, скрываются многие проблемы. Производители готовых решений, заинтересованные в продаже своего продукта, равно как и организации-потребители, прошедшие этот путь и теперь отпугивающие своих конкурентов армией умных машин, предпочитают делать акцент на положительных результатах и умалчивать о проблемах. В этих условиях отсутствие у большинства компаний, не прошедших этот путь, глубокого понимания технологии порождает завышенные ожидания, а разочарование может стоить дорого. Со временем, доля таких компаний снижается, а слепой оптимизм заменяется осторожным или даже пессимизмом; опыт открывает глаза на ограниченность применения ИИ и те факторы, которые мешают повсеместному внедрению этой технологии.
Однако мы призываем не терять веры в пользу ИИ, но всё же оценивать перспективы трезво, с «холодной головой». Чтобы помочь разобраться, мы постараемся раскрыть суть проблем, стоящих на пути развития ИИ, и заодно развеять несколько мифов. При этом, под развитием ИИ мы будем понимать не столько совершенствование его «умственных способностей», сколько его проникновение в деятельность организаций.
Лучший друг человека
В последнее время не утихают разговоры о том, что из-за ИИ часть людей потеряет свою работу. Скептики успокаивают, утверждая, что представителям творческих профессий бояться нечего: ИИ не способен создавать что-то новое – нечто, чего он не видел раньше. Разработчики ИИ согласятся, но им известно, что этот аргумент стоит рассматривать несколько шире: на самом деле, любая деятельность содержит элементы творчества, за исключением рутинной, продиктованной строгой инструкцией.
Распознавание лиц или биометрию, например, можно смело отнести к этому классу задач, ведь человек решает эту задачу практически бессознательно, не используя свои аналитические способности; всё, что требуется – наличие в памяти «образцов», с которыми будет осуществляться сравнение видимого образа. Несмотря на технологическую сложность реализации, задачу можно назвать простой ввиду конкретности её формулировки. Монетизация достигается за счёт полной автоматизации этой деятельности.
Аналитические задачи, такие как выявление случаев мошенничества, даются ИИ с большим трудом, так как поведение мошенников регулярно меняется, не говоря уже о том, что само понятие «мошенник» крайне изменчиво, а некоторые сомнительные транзакции могут получить статус мошеннических через долгое время после их совершения. ИИ пока недостаточно умён для того, чтобы самостоятельно ставить собственные решения под сомнения, делать новые гипотезы, проверять их, изменять выборку и затем обучаться заново – активное вмешательство со стороны эксперта в предметной области обязательно. Таким образом, это пример бизнес-процесса, который нельзя отдать целиком во владение ИИ – он может быть лишь помощником для команды профессиональных аналитиков. Монетизация возможна за счёт повышения эффективности работы такой команды.
Искусственный интеллект – помощник человеку, а не вместо человека!
Расходы
Допустим, ваша организация намерена внедрить решение, основанное на ИИ, для автоматизации какого-то бизнес-процесса или помощи в принятии решений. В части доходов всё предельно ясно: сократятся операционные затраты, ошибки, цикл обслуживания и текучесть персонала. Спасибо популяризаторам за эту ясность. Но что с расходами? Реализация такого проекта потребует затрат на приобретение соответствующего оборудования (если, конечно, речь не идёт об облачных сервисах); на приобретение, внедрение и дальнейшее поддержание ПО. Вполне возможно, что текущий «человекоёмкий», теоретически неэффективный процесс окажется выгоднее роботизированного. Но эта мысль, на первый взгляд, кажется абсурдной.
На этом список «абсурдных» статей расходов не заканчивается. Внедрение сложных технологий приведёт к росту (по крайней мере, кратковременному) фонда оплаты труда, так как потребуются высококвалифицированные специалисты, способные поставить технологию «на ноги» и поддерживать её в дальнейшем. Хайп вокруг ИИ и Data Science приводит к росту количества таких специалистов на рынке труда, что увеличивает их доступность, но не стоит забывать о необходимости регулярно обучать их новым технологиям и нюансам предметной области. Опять противоречие: снижение фонда оплаты труда за счёт автоматизации – одна из целей внедрения ИИ; почему мы говорим о его росте?
Следующая проблема касается данных, которых не всегда много, которые не всегда точны и не всегда репрезентативны. Ведь именно наличие таких данных является главным условием работоспособности алгоритмов машинного обучения. Конечно, дефицит данных можно восполнить их приобретением у сторонних организаций или их трудоёмкой добычей руками собственных сотрудников – в любом случае, это можно смело добавить в список потенциальных расходов.
Человеческий фактор
Дополнительные трудности в получении выгоды от применения ИИ возникают в результате недоверия сотрудников к рекомендациям, выходящим из «чёрного ящика». Людям свойственно ошибаться, будучи уверенными в собственной правоте, поэтому они скорее поверят своему опыту, знаниям и интуиции, нежели ИИ, который не способен объяснить собственные решения. В итоге, технология может быть проигнорирована сотрудниками. Поэтому важно регулярно тестировать алгоритмы, что позволит не только выявить и затем устранить их недостатки, но и демонстрировать сотрудникам их эффективность.
Говоря о тестировании, полезно задаться вопросом, насколько его результаты репрезентативны. Как правило, тестирование выглядит следующим образом: создаются условия, приближенные к реальным, в которых алгоритму придётся работать; алгоритм запускается, даёт прогнозы или рекомендации; наконец, рассчитываются показатели эффективности (метрики). Качество работы алгоритма оценивается по значениям показателей эффективности. В чём подвох? Во-первых, условия, в которых происходит тестирование, могут оказаться далёкими от реальности, что не даст объективной оценки. Во-вторых, показатель эффективности выбирается либо разработчиком-математиком, который может не до конца понимать бизнес-процесс и отдавать приоритет математическим метрикам, либо бизнес-заказчиком, который, напротив, может придавать чрезмерный вес одним аспектам работы алгоритма, не учитывая другие. Оптимальный показатель стоит искать на пересечении двух миров, но доля субъективности всё равно останется. Таким образом, выбор методологии тестирования очень важен, и он ложится на плечи разработчика и заказчика – живых людей.
Ещё один из мифов касательно ИИ гласит, что алгоритмы машинного обучения обучаются самостоятельно – только данные подавай. Это не так: некоторые элементы их дизайна, опять же, ложатся на плечи разработчика, на его экспертное мнение. Классическим примером таких элементов являются мета-параметры моделей машинного обучения. Конечно, существуют методы их автоматического подбора, но и в этом случае выбор конкретного метода и его параметров остаётся за разработчиком.
Непрерывная аналитика – новый вызов
Даже тогда, когда собранных данных много и они достаточно точны, риск получить систематическую ошибку сохраняется: старые закономерности могут исчезать, могут появляться и новые. Поэтому алгоритмы необходимо регулярно обновлять, то есть либо запускать процесс обучения заново каждый раз, когда становится доступной новая порция данных, либо делать выбор в пользу алгоритмов, способных «дообучаться». Второй вариант предпочтительнее при больших объёмах данных и необходимости обновлять алгоритм быстро, вследствие чего он активно набирает популярность под термином «непрерывная аналитика» или «потоковая аналитика». Но он и дороже: потребуется мощное оборудование, а возможно, и полный перекрой существующей ИТ-инфраструктуры. При этом от риска систематической ошибки полностью избавиться не получится – то, что мы принимаем за новую закономерность, может оказаться краткосрочной аномалией. Тогда «дообучающийся» алгоритм будет забывать подлинное старое и запоминать ложное новое. Оптимальное решение, как всегда, скрыто в компромиссе: чувствительность алгоритма к новым данным должна быть определена на этапе разработки. Это можно сделать на основе результатов тестирования алгоритма при разных уровнях чувствительности.
Инфраструктура
Наконец, нужно обратить внимание на тот факт, что встраивание ИИ в бизнес-процесс требует инфраструктурных и организационных изменений. Аналитики и математики могут создать многообещающую математическую модель, но ответственность за её внедрение в ИТ-инфраструктуру организации ляжет на ИТ-подразделение. Эта задача не проще создания самой модели, а в случаях, когда системы, в которые предполагается встраивать ИИ, разработаны сторонним вендором, она и вовсе может оказаться неразрешимой. Чаще всего выход удаётся найти даже в тяжёлых случаях, но с некоторыми жертвами – например, с периодическими задержками, сбоями, низкой скоростью обработки. Всё это может снизить эффективность рекомендательной системы или вовсе обречь проект на провал.
Заключение
Подчеркнём, что развитие ИИ определяется двумя факторами: технологическими возможностями и потребностью со стороны бизнеса. Не всё технологически возможное является одновременно и практически ценным. Проблемы, с которыми сталкиваются организации при внедрении ИИ в свои бизнес-процессы, препятствуют его проникновению и дальнейшему развитию. Это не значит, что технология бесполезна и у неё нет будущего – просто от организации требуется системный подход к вводу технологии в эксплуатацию. В частности, обязательные условия успешной реализации подобных проектов – непредвзятая оценка потенциальной выгоды и грамотный план действий, направленный на устранение или облегчение возможных рисков. Разработку такого плана и приведение его в действие разумно доверить команде профессионалов, специализирующихся на разработке и сопровождении решений на базе ИИ. Это позволит снизить неопределённость, связанную со сложностью проектов, и максимизировать выгоду для организации.
Авторы:
• Юрий Сирота, старший вице президент банка УРАЛСИБ, руководитель дирекции искусственного интеллекта и анализа данных, центра компетенций BI
• Андрей Шишов, аналитик данных дирекции искусственного интеллекта и анализа данных банка УРАЛСИБ
