Зевс Керравала

Пандемия COVID-19 негативным образом отразилась на всех направлениях бизнеса в глобальном масштабе. ИТ-специалисты испытывают сегодня огромное давление. От них требуют обеспечения функционирования инфраструктуры, приложений и систем безопасности в условиях новой реальности, когда большинство сотрудников работают из дома, а сервисы доступны исключительно в онлайн-режиме. Компании стараются ускорить цифровую трансформацию и обрабатывать данные в реальном времени, что должно помочь им принимать более эффективные решения.

Смена ИТ-приоритетов, обусловленная COVID-19, создает новые технические трудности

В настоящее время ИТ-подразделения сталкиваются с растущим числом вызовов, начиная от поддержки удаленных работников и заканчивая управлением сетями и приложениями. Около 95% предприятий пересмотрели свои технические приоритеты, решив сосредоточить больше внимания на цифровом клиентском опыте (digital customer experience); об этом сообщили 88% респондентов.

Результаты исследования 'Agents of Transformation Report' были опубликованы подразделением Cisco AppDynamics, которое специализируется на решениях для управления эффективностью приложений (application performance management, APM). В опросе AppDynamics принимали участие ИТ-специалисты со всего мира, включая членов советов директоров предприятий, руководителей ИТ-служб и управляющих ИТ среднего и высшего звена из различных отраслей.

Реализация цифровых проектов ускорилась

В условиях пандемии 66% предприятий обнаружили в своих цифровых стратегиях слабые места и постарались ускорить реализацию соответствующих инициатив. У 71% респондентов реализация проектов цифровой трансформации в период распространения COVID-19 занимала всего несколько недель, тогда как в нормальных условиях на это уходили месяцы и годы. AppDynamics – не единственная компания, пришедшая к такому заключению. Ранее генеральный директор Microsoft Сатья Наделла уже отмечал, что в течение двух месяцев у них были реализованы проекты цифровой трансформации, рассчитанные на два года.

И в этом действительно есть смысл, поскольку цифровые инициативы создают новые способы организации работы и взаимодействия с клиентами. Большинство клиентов предприятий розничной торговли, например, готовы покупать сегодня товары только дистанционно. Это превращает системы электронных заказов и мобильные приложения в важнейший источник доходов. Чем лучше приложение и чем больше цифровых каналов используется, тем успешнее становятся продавцы.

Упор цифровых проектов делается на клиентском опыте и эффективности сотрудников, но ресурсов не хватает

Ряд цифровых инициатив нацелен на создание новых способов организации работы. Это имеет особенно важное значение в нынешнюю эпоху пандемии, когда работники вынуждены брать на себя еще более высокую нагрузку. Большинство ИТ-специалистов (81%) заявили, что COVID-19 привел к увеличению технологической нагрузки на их бизнес, а 61% ощущает сейчас более высокое давление, чем когда-либо прежде. Почти две трети (64%) респондентов сообщили о том, что решают задачи, с которыми ранее никогда дела не имели.

Столкнувшись с давлением и необходимостью ускорения реализации цифровых инициатив, ИТ-специалисты сообщают о нехватке ресурсов и недостаточной поддержке. Большинство респондентов (80%) указывают на нехватку средств контроля и невозможность отслеживания производительности своих систем. Респонденты перечислили несколько факторов, мешающих оптимизации цифрового опыта клиентов. Ничего удивительного в этом нет, поскольку цифровые инициативы зачастую предусматривают использование множества различных компонентов: Интернета вещей, облачных, мобильных и других технологий. Все это приводит к дальнейшему усложнению инфраструктуры. Работа ИТ-подразделений считалась сложной и в те времена, когда все было в порядке. А хаотичная природа облака и распределенных систем делает задачу быстрого устранения неисправностей еще более сложной, если не невозможной.

Главная проблема – это пики нагрузки

Основные трудности во время пандемии 81% ИТ-специалистов связывает с управлением всплесками роста трафика веб-сайтов. Далее следует отсутствие возможности отслеживания всего происходящего с соответствующими последствиями для клиентов (80%) и управление средним временем устранения неисправностей силами удаленных ИТ-специалистов (79%). Не могу сказать точно, насколько важно иметь полное представление о системах, к которым обращаются клиенты. Но клиентское восприятие считается сегодня определяющим фактором, который ставится выше цены, продуктов и всего прочего. Мое исследование показывает, что в 2019 году две трети миллениалов изменили бренду уже после первого негативного опыта. Это значит, что 81% компаний, испытывающих проблемы с веб-сайтом, рискуют получить огромную брешь в своей клиентской базе.

ИТ-специалисты, не имеющие точных данных, чувствуют, что не в состоянии принимать обоснованные решения. В отчете говорится, что 89% ИТ-специалистов хотели бы иметь в своем распоряжении информацию в реальном времени. Иначе их действия напоминают метание дротиков с завязанными глазами.

Для большинства (92%) контроль за производительностью технологического стека – начиная от приложений и заканчивая ИТ-инфраструктурой и сетью – абсолютно необходим для превращения в так называемых «агентов трансформации». Эти люди занимают сегодня ключевое положение в бизнесе. Они полагаются на данные, поступающие в реальном времени, и стратегическое технологическое партнерство, которое помогает им преодолевать трудности, возникающие в период пандемии COVID-19. Именно им поручено внедрение инноваций в период восстановления бизнеса после кризиса.

ИТ-службы предпочитают известных поставщиков и тщательно подходят к вопросам выбора

ИТ-службы (78%) предпочитают иметь дело с известными поставщиками, предлагающими в период эпидемии максимально гибкие условия. Результаты опроса показывают, что больше половины (66%) респондентов получают от известных поставщиков доступ к программному обеспечению, сервисам, услугам поддержки и обучению со скидками или даже вообще бесплатно.

В перспективе ИТ-руководители хотели бы больше сосредоточиться на безопасности приложений и восстановлении после сбоев, а также инвестировать в решения мониторинга цифрового клиентского опыта. Для 79% участников опроса это означает более тщательный подход к вопросам выбора.

В целом 87% ИТ-руководителей убеждены в том, что пандемия стала для бизнеса сигналом к пробуждению. Если в прошлом цифровая трансформация, доступ к данным в реальном времени и долговременная устойчивость не относились к числу приоритетов, то теперь они находятся в верхней части списка.

При упоминании об искусственном интеллекте и машинном обучении себе часто представляют передовые отрасли наподобие изучения космического пространства или биомедицины, которые тесно связаны с научными исследованиями и разработками. На самом же деле к искусственному интеллекту и машинному обучению следует присматриваться буквально каждой отрасли. В конце концов мы живем в эпоху обслуживания клиентов, и даже небольшие отличия в характере этого обслуживания могут очень серьезно отразится на рыночной доле.

Компания Nvidia в марте провела виртуальную версию своей ежегодной конференции GPU Technology Conference, превратившейся в витрину реальных сценариев использования искусственного интеллекта и машинного обучения. В исторической ретроспективе это мероприятие всегда носило глубоко технический характер, но со временем превратилось в демонстрацию компаниями применения своих передовых технологий для трансформации бизнеса.

Инновации Domino’s – это пример использования искусственного интеллекта и машинного обучения в привычном бизнесе, ориентированном на массового потребителя. Компания продемонстрировала успешный рецепт изменения характера своей деятельности. Секретным ингредиентом здесь стала технология Nvidia, которую популярная сеть доставки пиццы использует для совершенствования операций в магазинах и при обработке заказов, улучшения клиентского опыта (Customer Experience) и поиска более эффективных маршрутов развоза.

В результате у Domino’s растет число довольных клиентов, а водители получают больше советов и рекомендаций. Но это лишь малая часть многослойного пирога. Итак, что же нужно сделать, чтобы доставить пиццу Domino’s домой покупателю? Ответ довольно сложен.

Команда исследователей данных в Domino's проверила скорость и эффективность работы компании, используя сервер Nvidia DGX-1 – специализированный интегрированный аппаратно-программный комплекс для исследований в области глубинного обучения. Для тех, кто не знаком с серверным семейством DGX, сообщим: Nvidia создала линейку готовых «к употреблению» программно-аппаратных комплексов. Альтернативой является самостоятельный подбор оборудования, программного обеспечения и платформ искусственного интеллекта с последующей настройкой всей системы. На это могут уйти недели.

Сервер Nvidia DGX-1 – специализированный интегрированный аппаратно-программный комплекс для исследований в области глубинного обучения. Источник: Nvidia

Команда Domino's создала модель прогнозирования доставки, в которой время готовности заказа планируется с учетом его параметров и ситуации в пиццерии Domino’s – числа сотрудников, менеджеров и клиентов, находящихся там в данный момент. Модель построена на основе большого набора данных, составленного на основе пяти миллионов заказов. Этого вполне достаточно для построения точных моделей. Все будущие заказы также обрабатываются системой, что способствует дальнейшему повышению точности модели.

В предыдущих моделях Domino’s использовались ноутбуки и настольные компьютеры с графическими процессорами. На их обучение уходило более 16 часов. Столь длительный интервал делал улучшение модели крайне сложной задачей.

Увеличение вычислительной мощности DGX-1 позволило исследователям данных из Domino’s выстраивать усложненные модели за более короткий промежуток времени. Время обучения сократилось до одного часа, а точность прогнозирования выросла с 75% до 95%. Испытания показали, что производительность труда можно увеличить за счет ускорения работы моделей обучения.

У этого процесса обнаружилось и еще одно преимущество: возможность совместного использования ресурсов. Каждый отдельно взятый графический процессор в DGX-1 обладает очень высокой вычислительной мощностью и большим объемом памяти (32 Гбайт), так что исследователи данных используют лишь часть его ресурсов, благодаря чему множество тестов выполняется одновременно. Имея в своем распоряжении восемь таких графических процессоров, исследователи данных делятся ресурсами и знаниями, организуя взаимодействие нескольких команд.

В прошлом взаимодействие команд – в том числе просмотр программного кода и проверка гарантии качества – вызывало серьезные трудности, поскольку исследователи данных работали в своих собственных локальных средах. Теперь, когда они имеют дело с общим сервером DGX-1, им проще совместно использовать полностью настраиваемые и воспроизводимые контейнеры Docker. Это открывает перед исследователями данных огромный простор для дальнейшей деятельности и доступ к необходимым им ресурсам, так что о простоях речи больше не идет. Решение Docker, интегрированное с DGX-1, упрощает также задачу организации выполнения программного кода в различных средах, поскольку данные содержатся внутри образа Docker.

Недавно Domino’s приобрела второй сервер DGX-1 и приступила к развертыванию системы управления контейнерами Kubernetes. Используя средства оптимизации управления Kubernetes, компания получает возможность динамически выделять ресурсы всем исследователям данных, запуская контейнеры быстрее. Как утверждают в Nvidia, даже исследователи данных, не имеющие опыта работы в среде Linux, могут запускать контейнеры Docker без каких-либо затруднений.

«На стороне развертывания» в Domino’s используют поддерживающую Kubernetes кластеризованную среду, и четыре графических процессора Nvidia. Исследователи данных организуют взаимодействие и выстраивают свои модели, используя ту же самую контейнерную структуру, которую они использовали на DGX-1.

Кроме того, Domino’s приобрела платформу машинного обучения Datatron, которая запускается поверх кластера Kubernetes с графическими процессорами и помогает компании выполнять специфичные функции машинного обучения. Datatron позволяет осуществлять мониторинг функционирования модели в реальном времени, а при необходимости повторного обучения модели исследователи данных получают соответствующее уведомление.

Искусственный интеллект и машинное обучение в зоне ответственности ИТ-служб

Использование собственного стека правил вывода позволяет Domino’s получить все преимущества, которые провайдеры облачных сервисов предлагают при хостинге моделей машинного обучения, сохраняя при этом все данные и ресурсы на своей территории. Изменился способ развертывания моделей исследователями данных. Они получают все более полный контроль над процедурой развертывания.

Другим компаниям, рассматривающим возможность развертывания соответствующих технологий на своей территории, в Nvidia рекомендуют заранее продумать вопросы совместной работы и сотрудничества исследователей данных. В данном случае взаимодействие между DGX-1 и исследователями данных осуществлялось в общем рабочем пространстве. Приобретая продукт, пользователям не пришлось задумываться об этом, что уже само по себе являлось немалой ценностью.

Исторически сложилось так, что исследователи данных работают в компаниях независимо от всех остальных. К ИТ-службам все чаще обращаются с просьбой взять на себя задачу выбора оптимальной технологии для внедрения средств искусственного интеллекта и машинного обучения. Для большинства компаний исследователи данных являются весьма дорогостоящим ресурсом, и их простой в ожидании завершения работы модели сродни выбрасыванию в окно хорошей пиццы. Правильный выбор инфраструктуры, как в случае с сервером DGX, помогает компаниям ускорить обработку, благодаря чему у исследователей данных сокращаются периоды ожидания, и они больше времени уделяют своим прямым обязанностям.