При упоминании об искусственном интеллекте и машинном обучении себе часто представляют передовые отрасли наподобие изучения космического пространства или биомедицины, которые тесно связаны с научными исследованиями и разработками. На самом же деле к искусственному интеллекту и машинному обучению следует присматриваться буквально каждой отрасли. В конце концов мы живем в эпоху обслуживания клиентов, и даже небольшие отличия в характере этого обслуживания могут очень серьезно отразится на рыночной доле.
Компания Nvidia в марте провела виртуальную версию своей ежегодной конференции GPU Technology Conference, превратившейся в витрину реальных сценариев использования искусственного интеллекта и машинного обучения. В исторической ретроспективе это мероприятие всегда носило глубоко технический характер, но со временем превратилось в демонстрацию компаниями применения своих передовых технологий для трансформации бизнеса.
Инновации Domino’s – это пример использования искусственного интеллекта и машинного обучения в привычном бизнесе, ориентированном на массового потребителя. Компания продемонстрировала успешный рецепт изменения характера своей деятельности. Секретным ингредиентом здесь стала технология Nvidia, которую популярная сеть доставки пиццы использует для совершенствования операций в магазинах и при обработке заказов, улучшения клиентского опыта (Customer Experience) и поиска более эффективных маршрутов развоза.
В результате у Domino’s растет число довольных клиентов, а водители получают больше советов и рекомендаций. Но это лишь малая часть многослойного пирога. Итак, что же нужно сделать, чтобы доставить пиццу Domino’s домой покупателю? Ответ довольно сложен.
Команда исследователей данных в Domino's проверила скорость и эффективность работы компании, используя сервер Nvidia DGX-1 – специализированный интегрированный аппаратно-программный комплекс для исследований в области глубинного обучения. Для тех, кто не знаком с серверным семейством DGX, сообщим: Nvidia создала линейку готовых «к употреблению» программно-аппаратных комплексов. Альтернативой является самостоятельный подбор оборудования, программного обеспечения и платформ искусственного интеллекта с последующей настройкой всей системы. На это могут уйти недели.
.jpg)
Сервер Nvidia DGX-1 – специализированный интегрированный аппаратно-программный комплекс для исследований в области глубинного обучения. Источник: Nvidia
Команда Domino's создала модель прогнозирования доставки, в которой время готовности заказа планируется с учетом его параметров и ситуации в пиццерии Domino’s – числа сотрудников, менеджеров и клиентов, находящихся там в данный момент. Модель построена на основе большого набора данных, составленного на основе пяти миллионов заказов. Этого вполне достаточно для построения точных моделей. Все будущие заказы также обрабатываются системой, что способствует дальнейшему повышению точности модели.
В предыдущих моделях Domino’s использовались ноутбуки и настольные компьютеры с графическими процессорами. На их обучение уходило более 16 часов. Столь длительный интервал делал улучшение модели крайне сложной задачей.
Увеличение вычислительной мощности DGX-1 позволило исследователям данных из Domino’s выстраивать усложненные модели за более короткий промежуток времени. Время обучения сократилось до одного часа, а точность прогнозирования выросла с 75% до 95%. Испытания показали, что производительность труда можно увеличить за счет ускорения работы моделей обучения.
У этого процесса обнаружилось и еще одно преимущество: возможность совместного использования ресурсов. Каждый отдельно взятый графический процессор в DGX-1 обладает очень высокой вычислительной мощностью и большим объемом памяти (32 Гбайт), так что исследователи данных используют лишь часть его ресурсов, благодаря чему множество тестов выполняется одновременно. Имея в своем распоряжении восемь таких графических процессоров, исследователи данных делятся ресурсами и знаниями, организуя взаимодействие нескольких команд.
В прошлом взаимодействие команд – в том числе просмотр программного кода и проверка гарантии качества – вызывало серьезные трудности, поскольку исследователи данных работали в своих собственных локальных средах. Теперь, когда они имеют дело с общим сервером DGX-1, им проще совместно использовать полностью настраиваемые и воспроизводимые контейнеры Docker. Это открывает перед исследователями данных огромный простор для дальнейшей деятельности и доступ к необходимым им ресурсам, так что о простоях речи больше не идет. Решение Docker, интегрированное с DGX-1, упрощает также задачу организации выполнения программного кода в различных средах, поскольку данные содержатся внутри образа Docker.
Недавно Domino’s приобрела второй сервер DGX-1 и приступила к развертыванию системы управления контейнерами Kubernetes. Используя средства оптимизации управления Kubernetes, компания получает возможность динамически выделять ресурсы всем исследователям данных, запуская контейнеры быстрее. Как утверждают в Nvidia, даже исследователи данных, не имеющие опыта работы в среде Linux, могут запускать контейнеры Docker без каких-либо затруднений.
«На стороне развертывания» в Domino’s используют поддерживающую Kubernetes кластеризованную среду, и четыре графических процессора Nvidia. Исследователи данных организуют взаимодействие и выстраивают свои модели, используя ту же самую контейнерную структуру, которую они использовали на DGX-1.
Кроме того, Domino’s приобрела платформу машинного обучения Datatron, которая запускается поверх кластера Kubernetes с графическими процессорами и помогает компании выполнять специфичные функции машинного обучения. Datatron позволяет осуществлять мониторинг функционирования модели в реальном времени, а при необходимости повторного обучения модели исследователи данных получают соответствующее уведомление.
Искусственный интеллект и машинное обучение в зоне ответственности ИТ-служб
Использование собственного стека правил вывода позволяет Domino’s получить все преимущества, которые провайдеры облачных сервисов предлагают при хостинге моделей машинного обучения, сохраняя при этом все данные и ресурсы на своей территории. Изменился способ развертывания моделей исследователями данных. Они получают все более полный контроль над процедурой развертывания.
Другим компаниям, рассматривающим возможность развертывания соответствующих технологий на своей территории, в Nvidia рекомендуют заранее продумать вопросы совместной работы и сотрудничества исследователей данных. В данном случае взаимодействие между DGX-1 и исследователями данных осуществлялось в общем рабочем пространстве. Приобретая продукт, пользователям не пришлось задумываться об этом, что уже само по себе являлось немалой ценностью.
Исторически сложилось так, что исследователи данных работают в компаниях независимо от всех остальных. К ИТ-службам все чаще обращаются с просьбой взять на себя задачу выбора оптимальной технологии для внедрения средств искусственного интеллекта и машинного обучения. Для большинства компаний исследователи данных являются весьма дорогостоящим ресурсом, и их простой в ожидании завершения работы модели сродни выбрасыванию в окно хорошей пиццы. Правильный выбор инфраструктуры, как в случае с сервером DGX, помогает компаниям ускорить обработку, благодаря чему у исследователей данных сокращаются периоды ожидания, и они больше времени уделяют своим прямым обязанностям.
