Искусственный интеллект

Одной из главных тем для обсуждения в минувшем году стало предполагавшееся приобретение Accenture компанией Oracle за 78 млрд долл. Однако оно оказалось не более, чем слухом, который в Oracle полностью опровергли.

Ford покупает Argo AI

Многомиллиардные инвестиции Ford в стартап Argo AI, разрабатывающий автономные автомобили, способны заставить призадуматься ИТ-директоров предприятий самых разных отраслей.

Автомобили, управляемые сотрудниками компаний, сегодня уже не просто символ статуса – они составляют часть корпоративной ИТ-инфраструктуры и осуществляют сбор дополнительных данных о доставке и посещаемых местах.

И если даже такие весьма консервативные компании, как Ford, начинают столь масштабно инвестировать в искусственный интеллект, то что остается делать предприятиям других отраслей? Способны ли машинное обучение и компьютерное зрение совершить революцию и на их рынках?

Hewlett Packard Enterprise покупает Nimble Storage

Hewlett Packard Enterprise заплатила 1,1 млрд долл. за компанию Nimble Storage, которая специализируется на гибридных системах хранения,сочетающих в себе флеш-память и жесткие диски.

Объединив Nimble с уже имеющейся у нее 3Par, HPE намерена удовлетворить растущий спрос на быстрые и одновременно доступные системы хранения. Для ИТ-директоров это означает, что одним поставщиком в сегменте хранения станет меньше. К тому же с приобретением HPE должна усилиться интеграция расширяющегося спектра инструментов автоматизации ЦОД.

Google покупает бизнес смартфонов HTC Pixel

Компания Google приобрела за 1,1 млрд долл. подразделение HTC, отвечавшее за разработку телефонов Pixel. Таким образом, Google возвращается в бизнес смартфонов спустя четыре года после продажи компании Lenovo своей доли в Motorola Mobility.

Это свидетельствует о том, что Google намерена усилить интеграцию операционной системы Android со специализированным оборудованием смартфонов. Хорошая новость как для разработчиков приложений, так и для покупателей телефонов Android. Продемонстрировав в iPhone X функции обработки видео и искусственного интеллекта, компания Apple снова доказала всем, что тесная интеграция программного и аппаратного обеспечения несет немалую выгоду.

Google же еще раз подтверждает, что пришла в аппаратный бизнес всерьез и надолго, рассматривая для себя перспективу в 5, 10 и даже 20 лет.

Cisco Systems покупает Broadsoft и AppDynamics

Cisco Systems заплатила за компанию Broadsoft, разрабатывающую облачные АТС, 1,7 млрд долл. Ранее Broadsoft решила сосредоточить основное внимание на телекоммуникационных компаниях, которые использовали ее программный код для доставки различных сервисов своим клиентам.

Теперь же, когда за Broadsoft стоит Cisco, многим предприятиям – как малым, так и крупным – имеет смысл всерьез задуматься об освобождении своих телекоммуникационных шкафов и переносе АТС в облако.

Крупнейшим приобретением Cisco в 2017 году стала покупка компании AppDynamics за 3,7 млрд долл. AppDynamics предоставляет информацию о производительности распределенных приложений, работающих в публичных и частных облаках.

Совершив приобретение, Cisco представила новый набор инструментов AppDynamics, помогающий предприятиям отслеживать финансовые последствия сбоев в работе приложений и устанавливать более жесткий контроль за функционированием мобильных клиентов.

Verizon покупает Yahoo

Теперь малые предприятия, использующие сервисы электронной коммерции, хостинга и электронной почты Yahoo Small Business, будут получать новые предложения от Verizon.

Впрочем, покупка потребительского веб-портала принесет пользу и крупному бизнесу.

Ведь анонсированная в конце 2016 года сделка не завершена до сих пор. К настоящему времени Verizon «срезала» уже 350 млн долл. со своей первоначально предлагавшейся суммы в 4,8 млрд долл.

Дело в том, что в Yahoo признали наличие в своей системе безопасности целого ряда брешей, которые привели к утечкам персональных данных у миллиардов клиентов компании.

И даже тем, кто не является клиентом Yahoo, следует извлечь из произошедшего необходимые уроки.

Amazon.com покупает Whole Foods

Да-да, Amazon.com купила за 13,7 млрд долл. главного уличного продуктового ретейлера. Чем это событие обернется для вашего бизнеса?

Быть может, пока ничем, но если ваш бизнес связан с производством, перевозками или продажей чего-либо, вполне возможно, что в скором времени вам придется считаться с Amazon.

Традиционные ретейлеры наподобие WalMart уже давно почувствовали в лице Amazon конкурента на электронных площадках, а теперь эта компания наносит по ним удар на улице и в торговых центрах. Amazon, приобретя Whole Foods, теперь имеет возможность расширить и оптимизировать существующие цепочки поставок для универмагов, а также предложить новый розничный дискаунтер владельцам управляемых голосом устройств, которые благодаря цифровому помощнику Alexa смогут задействовать органы визуального и слухового восприятия.

Amazon уже выпустила версию Alexa для корпоративных клиентов, и ИТ-директорам стоит обратить внимание на этот факт.

Intel покупает Mobileye

Intel покупает себе дорогу обратно в мир мобильных вычислений. Но теперь процессор будет находиться у вас не в кармане, а в автомобиле.

В марте Intel анонсировала покупку за 15,3 млрд долл. израильской компании Mobileye, проектирующей системы, которые помогают автономным автомобилям воспринимать окружающее пространство и ориентироваться на местности.

Впрочем, вряд ли Intel и ее клиенты ограничатся тем, что будут использовать наработки Mobileye в области компьютерного зрения и машинного обучения только на автомобильном рынке. Думается, будущие поколения процессоров Intel начнут гораздо больше «интересоваться» всем, что находится вокруг них и их пользователей.

Toshiba продает бизнес памяти консорциуму, в состав которого входит Apple

Флеш-память нужна сегодня всем. Вопрос лишь в ее цене.

Испытывающий серьезные финансовые трудности японский конгломерат Toshiba на протяжении нескольких месяцев пытался продать свое подразделение, выпускающее микросхемы памяти, но никак не мог найти покупателя с достаточно толстым кошельком.

В конечном итоге компании все же удалось примерно за 18 млрд долл. продать 60% своего бизнеса консорциуму, возглавляемому фондом Bain Capital.

В состав консорциума входит и компания Apple – крупный потребитель флеш-памяти для телефонов и портативных компьютеров, вложивший, по имеющимся сообщениям, в это предприятие 7 млрд долл.

Членами консорциума являются также южнокорейский производитель микросхем памяти SK Hynix, компании Dell и Seagate.

Для Apple сделка имеет очень большое значение, поскольку открывает перед компанией дополнительные возможности по реструктуризации цепочек поставок. Крупнейшим производителем флеш-памяти в мире, согласно итогам последнего квартала, является Samsung Electronics, выступающая одновременно и как поставщик Apple, и как ее конкурент.

Так что если цены на очередной массив флеш-памяти покажутся вам чересчур высокими, зайдите в ближайший магазин Apple Store. Возможно, там вы найдете объяснение этому.

Broadcom предлагает за Qualcomm 110 млрд долл.

Сразу отметим, что сделка эта еще не заключена, а может быть, и никогда не состоится. Предложенные Broadcom 103 млрд долл. не устроили совет директоров конкурирующей компании Qualcomm, потому что эти руководители желают получить на 10 млрд долл. больше.

Чипы Broadcom и Qualcomm присутствуют во многих устройствах вашей корпоративной ИТ-инфраструктуры, в том числе в системах хранения, в оборудовании для кабельных и беспроводных сетей, а также в мобильной технике. Объединение двух гигантов обернется синергией в проектировании и разработке и появлением единого мощного поставщика, который сможет диктовать всем свои цены.

А между тем последствия меньшего по масштабам, но все равно весьма значительного слияния производителей микросхем мы наблюдаем уже сегодня. Marvell выплачивает за своего конкурента Cavium 6 млрд долл. Обе компании занимаются выпуском однокристальных компонентов для сетевого оборудования, контроллеров хранения и беспроводных устройств.

– Peter Sayer. 2017's biggest tech mergers and acquisitions. IDG News Service. Dec 12, 2017

Благодаря мобильным гаджетам, социальным сетям и развитию Интернета, технологии быстро пронизывают обыденную и деловую жизнь, нас окружают «умные» города и Промышленный интернет. В мире становится все больше компаний, которые сделали данные своим основным ресурсом. Квинтэссенцией осмысления этих тенденций и ответом на задачи, поставленные четвертой промышленной революцией, стала программа «Цифровая экономика», утвержденная правительством РФ 28 июля 2017 года.

Программа должна стать платформой для совместной работы государства, бизнеса и общества. Уже инициирован диалог государства и бизнеса по пяти направлениям: нормативное регулирование; кадры и образование; формирование исследовательских компетенций и технических заделов; информационная инфраструктура; информационная безопасность. По каждому определены центры компетенций и рабочие группы.

Предполагается, что к 2025 году доля цифровой экономики в ВВП достигнет 10%. И крупный бизнес не намерен стоять в стороне от ее формирования. Тем более что зачастую выбор стоит жестко: трансформироваться или умереть.

Цифровая экономика – это хозяйственная деятельность, ключевым фактором производства в которой являются данные в цифровой форме

В главной роли – бизнес

«Цифровизация меняет не только образ жизни людей, но и принципы работы традиционных отраслей: энергетики, транспорта, машиностроения», – отметил председатель правительства Дмитрий Медведев, выступая на форуме «Открытые инновации». Конструкторские бюро обмениваются электронной документацией, новые лайнеры «Сухой Суперджет 100» и МС-21 уже спроектированы в цифре, а авиакомпании планируют сервисное обслуживание и оптимизируют загрузку флота с помощью ИТ.

Между тем в докладе Всемирного банка о глобальном развитии 2016 года отмечается низкий уровень применения цифровых технологий бизнес-структурами в России по сравнению с госорганами и населением. Поэтому основная роль как в выстраивании, так и в реализации программы «Цифровая экономика» отведена бизнесу. Из 600 человек, работающих над планами реализации программы, только 70 – чиновники. «Планы разрабатываются бизнесом, правительство исполняет роль модератора и коллективного интегратора», – утверждает Андрей Белоусов, помощник президента России по экономическим вопросам. И это единственная госпрограмма, выполнение которой оценивает бизнес.

Как подчеркивает Медведев, цифровизация – вопрос конкурентоспособности самого бизнеса. В конечном счете сам бизнес в этом заинтересован.

Крупные компании не скрывают своей заинтересованности. «Если мы сегодня не будем инвестировать в прорывные цифровые технологии, то через полшага проиграем», – убежден Кирилл Комаров, первый заместитель генерального директора «Росатома», где в этом году планируют запустить электронную биржу идей.

«У нас нет ситуации «если не изменимся, то не выживем», но сервисная часть бизнеса точно будет другой», – говорит председатель правления компании «СИБУР» Дмитрий Конов. Из 27 тыс. человек, работающих в нефтехимическом холдинге, непосредственно производством занимаются 18 тыс., но на 9 тыс. остальных сотрудников прорывные ИТ окажут не меньшее влияние, чем, например, в финансовой индустрии.

«В таких тяжелых отраслях, как нефтехимия, глобальной трансформации бизнес-модели не наблюдается, но в каждой функции меняется многое», – свидетельствует Василий Номоконов, исполнительный директор «СИБУРа». И компании, которые занимаются «цифрой», выигрывают, так как производят больше продукции с использованием меньшего количества ресурсов. Меняется и сам корпоративный менеджмент. «Диджитализация впускает венчурный дух в принятие решений, допуская гораздо больше неопределенности, и мы начинаем мыслить не единичными проектами», – заметил Номоконов.

Говоря о том, что тормозит процесс цифровой трансформации, Конов обращает внимание на изменение пропорций между алгоритмом, «железом» и софтом, с одной стороны, и их адаптацией к конкретным условиям бизнеса – с другой. «Адаптация идей и технологий к нашим процессам требует совместной работы тех, кто понимает технологии, и тех, кто понимает процесс, – напомнил он. – Сегодня этот процент усилий для адаптации существенно выше, чем в индустриальных решениях предыдущих поколений, именно это многих останавливает».

Компании, уже родившиеся цифровыми, тоже принимают непосредственное участие в планировании новой экономики. «Мы относимся к этому не как к «серебряной пуле». Построение цифровой экосистемы – это игра вдолгую, это тяжелый труд над сотнями различных инициатив», – пояснил Борис Добродеев, генеральный директор Mail.ru Group. В Интернете, по его словам, экосистема цифровой экономики уже сложилась: несколько российских компаний в открытых конкурентных условиях обыгрывают зарубежных игроков и создают инновации. Основные проблемы этих компаний – потребность в новых рынках сбыта и доступ к капиталу. «Будучи составной частью этой экосистемы, мы хотим влиять на ее развитие», – заявил Добродеев.

Для этого нужны понятная, прозрачная система регулирования, хороший инвестиционный климат, развитая культура предпринимательства и постоянное пополнение кадрового резерва.

Спешить, не торопясь

Государство способно влиять на развитие цифровой экономики через госинвестиции и темп изменения регуляторной среды. Как сообщил Аркадий Дворкович, заместитель председателя правительства РФ, большую часть ресурсов государство намерено выделять на образование в сфере цифровой экономики и на фундаментальную науку. Остальное предполагается делать за счет частных инвестиций.

Существующая нормативная среда не учитывает ключевых свойств новой экономики: высокой ценности нематериальных активов, размывания границ и предельно низких затрат на тиражирование бизнес-модели. Чтобы создать условия для скачка в цифровую экономику, нужно спешить, считает Медведев. Государству предстоит очень быстро создать нормативное пространство для тех областей, которые пока непонятно как регулировать, – так называемые регуляторные песочницы.

По мнению президента Сбербанка Германа Грефа, правительство должно немного отставать, давая бизнесу возможность получить первые результаты в деле развития цифровой экономики, и лишь потом выстраивать регуляторную среду. Президент фонда «Сколково» Виктор Вексельберг с этим мнением не согласен. В числе регуляторных вопросов, которые должны были быть решены «еще вчера», – идентификация субъекта в цифровой экономике, юридическая сила электронных документов, электронные формы государственного контроля бизнеса, применение киберфизических систем, регулирование оборота данных и доступа к ним таким образом, чтобы они были защищены и в то же время доступны для решения различных бизнес-задач. «Как бы правительство ни торопилось, оно все равно опоздает, – сказал Вексельберг. – Уже сегодня ситуация требует появления этих законодательных актов».

Меняй модель

Понимание того, что цифровая экономика – это не просто перевод аналоговых форм в цифру, а изменение бизнес-модели вследствие такого перевода, уже сложилось. «Если цифровая трудовая книжка – это pdf-документ, я, конечно, буду счастлив носить его на флешке, но если она не приводит к формированию моей цифровой траектории, на основании записей которой формируются проактивные сервисы со стороны бизнеса и государства, то это просто ничто», – заявил Максим Акимов, первый заместитель руководителя аппарата правительства РФ. Так и цифровая транспортная накладная должна быть не просто документом, скрепленным усиленной электронной подписью. Она должна дать бизнесу возможность совместного использования (шеринга) промышленного оборудования, избавить его от собственных логистических подразделений, экспедиторов или автопарка. «Перевод процессов в цифру и на блокчейн – это здорово. Но главная цель – это быстрый рост производительности на основании изменения бизнес-моделей», – подчеркнул Акимов. Осталось определить, где же те «кротовые норы», которые приведут к реальной трансформации бизнес-модели.

Экономика партнерства

Программа отвечает на вопрос «что делать?», но не говорит как. Многое будет зависеть от того, что удастся реализовать, в первую очередь в промышленном и торговом секторах. «Цифровая экономика – это не про ИТ, а про данные, про их использование и капитализацию, – говорит Белоусов. – Бенефициарами этой программы станут компании, которые будут использовать цифру как свой основной ресурс». Прежде всего это крупные компании, способные создавать экосистемы, а также компании, работающие с ними на аутсорсинге, cтартапы и нишевые игроки.

Михаил Осеевский, президент «Ростелекома»: «Людям нужны информация, коммуникации и эмоции. Это огромный рынок, где не существует границ»

Наиболее очевидные кандидаты на точки роста цифровых экосистем – инфраструктурные компании. ««Ростелеком» не хочет быть исключительно инфраструктурной компанией, мы хотим быть цифровой компанией и предлагать гражданам, государству и бизнесу конечные решения, которые позволят им больше зарабатывать или меньше тратить, – заявил президент «Ростелекома» Михаил Осеевский. – И для этого мы ищем новые продукты и технологии».

Поскольку готовых решений зачастую не находится, «Ростелеком» намерен стать таким же акселератором, как Фонд развития интернет-инициатив. Цифровая экономика – это экономика партнерства, подчеркнул Осеевский. Только дав возможность десяткам и сотням тысяч компаний двигаться по пути инноваций, в результате можно увидеть «звездочки». Что именно «выстрелит», можно только предполагать. «Людям нужны информация, коммуникации и эмоции, – говорит Осеевский. – Это огромный рынок, где не существует границ, и мировым лидером может стать российская компания, которая предложит человечеству новые эмоции».

В ближайшие годы должно возникнуть много динамичных цифровых компаний, полагает Медведев. Для этого есть хороший потенциал, и этого можно добиться быстро при сравнительно небольших затратах. Речь идет о транспортных и логистических услугах, здравоохранении, образовании, финансах, «умной» городской среде, аграрном производстве и других областях. Удаленные районы, больницы и школы продолжат подключать к Интернету. Кроме того, в ближайшее время начнется создание сети мобильной связи пятого поколения, что должно ускорить развитие высокотехнологичных компаний. «Мы продолжим создавать условия для привлечения инвестиций, для работы венчурных фондов, готовых поддерживать российские стартапы», – заверил премьер.

Пока проблема с привлечением инвестиций в инновационный бизнес не решена. «Ахиллесова пята российских инноваций – сложности с выходом на рынок капитала, – заметил Сергей Горьков, председатель Внешэкономбанка. – Компании либо не получают достаточного финансирования, либо перемещаются за пределы страны». По его мнению, это связано как с тем, что экосистема недостроена, так и с тем, что Россия – недостаточно большой рынок, чтобы позволить себе развивать все инновационные технологии. Поэтому надо создавать фонды, поддерживающие выход на азиатские рынки, и тем самым «разгонять» инновации в России. По оценке Горькова, cоздание в стране центров компетенции мирового уровня вполне возможно. ВЭБ собирается открыть такой центр по блокчейну, хотя это не единственная технология, которая будет менять мир. Необходимо также сформировать в стране позитивное отношение к инновациям, чтобы квантовый компьютер, искусственный интеллект и конвергентные технологии вошли в моду. «Хайп – это тоже важно», – считает Горьков. В текущем году ICO обогнало венчурные фонды по объемам финансирования, так как существующая финансовая система не совсем готова воспринимать новую экономику.

В Сбербанке также рассматривают блокчейн и квантовый компьютинг как крайне перспективные технологии. «Блокчейн – технология, способная изменить сектор, в котором я работаю, просто драматически, – уверен Греф. – Она позволяет автоматизировать практически все процессы, особенно в соединении с искусственным интеллектом».

Пять профессий ИИ в Сбербанке

Среди технологий сегодняшнего дня главную скрипку играет искусственный интеллект, который Греф сравнил с электричеством в начале прошлого века. «Если раньше мы предполагали, что машинное обучение, искусственный интеллект, большие данные – это то, что мы можем использовать в процессе принятия решений, в том числе кредитных, то сегодня фактически нет ни одной области нашего бизнеса, в которой мы не применяли бы искусственный интеллект», – заявил он.

Первое ключевое направление использования ИИ в финансовом бизнесе – интеллектуальные советчики, «персональные финансовые менеджеры» и боты, отвечающие на типовые вопросы клиентов в контакт-центрах. «Через три-пять лет у нас просто не останется на этой функции людей, потому что каждый день искусственный интеллект учится и становится все более и более точным в своих ответах и прогнозах», – сообщил Греф.

По второму направлению – принятию решений на основе анализа больших данных – ИИ применяется как в корневом бизнесе Сбербанка, так и при принятии кредитных решений. По словам главы Сбербанка, без участия человека принимаются примерно 99% кредитных решений по физическим лицам. По корпоративным клиентам доля автоматически принимаемых кредитных решений – около 35%, но уже через три года ее планируется довести до 70%.

Третье направление использования ИИ – кибербезопасность. Анализировать транзакции, количество которых на пике достигает 7-8 тыс. в секунду, можно только с использованием искусственного интеллекта, и машины каждый день учатся бороться с хакерами.

Четвертое направление – анализ конкретных клиентских потребностей, маркетинг и индивидуальная работа с каждым клиентом. «Наш клиент перестает быть усредненным», – утверждает Греф.

И наконец, последняя область использования ИИ – автоматизация всей деятельности банка, начиная от бэк-офиса, бухгалтерии, аудита и заканчивая юридической службой. «Все простые операции будут автоматизированы», – заявил Греф. По его словам, эта ежедневная практика Сбербанка к 2020 году станет обычным делом практически во всех корпорациях.

Искусственный интеллект применяется уже несколько десятков лет. Первоначально он работал на основе набора заранее заданных правил. В 70-х годах широкое распространение получили технологии на основе нейронных сетей, которые посредством использования самообучающихся моделей определяли, какие данные являются нормальными, а какие – не укладывающимися в стандартную модель поведения информационной системы. В начале 2000-x годов началось активное развитие ИИ для решения практических задач: алгоритмы научились обрабатывать изображения, видео и голос. «Развитие ИИ в сфере информационной безопасности началось в 2005-2008 годах и было направлено в первую очередь на защиту наиболее атакуемых ресурсов – веб-серверов, но вскоре нейронные сети стали использовать и в других решениях, например при разработке эвристических модулей антивирусов», – говорит Андрей Заикин, руководитель направления информационной безопасности «Крок».

Камиль Газизов, генеральный директор «РТ-Информ» (Центр компетенции ИТ и ИБ «Ростеха»): «Одной из главных проблем в сфере ИИ на сегодня является создание автономной интеллектуальной системы, способной к принятию самостоятельных решений в зависимости от ситуации»

Сегодня искусственный интеллект вышел из ИТ-лабораторий в бизнес-среду, где не только стал модной тенденцией, но и нашел вполне практическое применение: для снижения издержек и оптимизации внутренних процессов. И в ближайшие десять лет технологии ИИ повлияют практически на все сферы бизнеса. По прогнозам международной исследовательской компании Markets and Markets, к 2020 году рынок ИИ вырастет до 5 млрд долл. Как объясняет Камиль Газизов, генеральный директор «РТ-Информ» (Центр компетенции ИТ и ИБ «Ростеха»), традиционно под ИИ подразумевают систему, предназначенную для автоматизации решения интеллектуальных задач. Одной из главных проблем в сфере ИИ на сегодня является создание автономной интеллектуальной системы, способной к принятию самостоятельных решений. Пока эта система использует уже заложенные в нее правила или алгоритмы. Внедрение ИИ открывает новые возможности перед специалистами по безопасности, но не отменяет их ведущей роли. Человеческий разум по-прежнему значим и необходим. Все процессы остаются под контролем специалистов по безопасности. Тем не менее попытки приблизиться к созданию автономного ИИ будут предприниматься и, возможно, со временем увенчаются успехом.

Что касается кибербезопасности, то искусственный интеллект поможет эффективнее решать задачи, которые ранее решались традиционными способами. В частности, по словам Газизова, благодаря использованию ИИ повысится уровень обнаружения угроз, сократится время реакции и усовершенствуются способы определения реальных попыток нарушения периметра безопасности. Кроме того, ИИ может устранить существующие бреши в сфере ИБ, которые появляются вследствие стремительного развития современных технологий, включая Интернет вещей.

По словам Рустэма Хайретдинова, генерального директора «Атак Киллер», как и в любой другой области, в кибербезопасности ИИ помогает оперативно анализировать большие объемы данных, освобождать операторов от рутинной и часто монотонной работы. Улучшение качества аналитики и исключение человеческого фактора позволяют эффективнее обнаруживать и отражать новые атаки.

Перспективы применения ИИ в кибербезопасности

Тимур Аитов, заместитель генерального директора группы компаний «Программный Продукт»: «Искусственный интеллект можно сравнить с ковшом экскаватора, который удесятеряет силы землекопа и позволяет перелопатить огромные объемы информации там, где появляются большие данные»

Тимур Аитов, заместитель генерального директора группы компаний «Программный Продукт», считает, что в целом перспективы применения ИИ в кибербезопасности обширны и без технологий ИИ обойтись в среднесрочной перспективе будет невозможно. С ним согласен и Заикин: «Современный ИИ – это система, способная выискивать аномалии, которые невозможно описать определенными правилами. В этом его главное преимущество по сравнению с классическими системами информационной безопасности, работающими на основе свода правил, задаваемых человеком».

Любое событие, в том числе событие информационной безопасности, всегда оставляет информационные следы, продолжает Аитов. Если стоит задача разобраться в том, что случилось, оценить вероятность повторения, дать прогноз, то информационный след должен быть максимально полным. Приходится собирать и анализировать огромное количество информации, поступающей из самых разнообразных первичных источников. При этом перерабатываются горы пустой информационной «руды», и всё для того, чтобы выявить крупицы знаний – основных взаимосвязей, позволяющих понять, что собственно случилось и почему. Здесь на помощь приходит ИИ, способный оперативно переработать и выявить эти закономерности и факты для дальнейшей оценки и принятия решений человеком. Искусственный интеллект играет роль помощника в тандеме человек-машина. Возможно, роль человека постепенно станет уменьшаться, а машины будут становиться все более самостоятельными. Но сегодня без участия оператора тандем пока работать не может. Что касается эффективности, то к каким-то радикальным изменениям в борьбе с преступниками технологии ИИ пока не приводят, но в среднесрочной и долгосрочной перспективе прогресс пойдет именно по этому пути – следить за ИТ-системами будут ИТ-системы. В выигрыше окажутся те структуры, те организации, те страны, которые первыми начали использовать эти подходы.

Влияние ИИ на информационную безопасность

Новые системы класса SIEM (security information and event management) обойтись без технологий машинного обучения и ИИ уже не могут, говорит Аитов. Системы передают предупреждения и объявляют тревогу, вычисляют типовые (средние) состояния работы систем, ищут отклонения от этих средних (или аномалии) – все это даже теоретически выполнить человеку невозможно. Искусственный интеллект используют не только SIEM, но и системы обнаружения (IDS), системы предотвращения вторжений (IPS), системы управления идентификацией и доступом (IAM), вся аналитика BI и системы продвинутой антивирусной защиты.

По словам Заикина, наибольшему влиянию со стороны ИИ подвергаются системы сетевой безопасности, проактивного обнаружения скомпрометированных узлов сети и системы сбора и анализа событий ИБ. Кроме того, имеются решения, использующие алгоритмы машинного обучения для решения таких задач, как обнаружение аномалий в работе с файловыми ресурсами, базами данных, бизнес-системами, а также предназначенные для выявления мошеннических действий со стороны сотрудников компании.

Наибольшую выгоду от применения ИИ получат те сегменты, где человек справляется хуже машины как по точности определения инцидентов, так и по скорости реакции. «Это противодействие мошенничеству (anti-fraud), анализ трафика на выявление атак, анализ аномального поведения на основе корреляции событий в информационной системе и другие области, где точность и скорость реакции являются критическими для защиты», – перечисляет Хайретдинов.

Барьеры и проблемы, осложняющие использование ИИ в информационной безопасности

В области информационной безопасности обучение на старых данных особого смысла не имеет, в то время как в традиционных для ИИ областях (распознавание лиц и голоса, машинный перевод с одного языка на другой, управление запасами, автопилоты) такой алгоритм – базовая практика. «Старые, уже известные атаки отражаются без всякого ИИ, на уровне сигнатур, и, обучаясь на них, мы можем уподобиться старым генералам, которые готовятся к прошедшей войне. Опасными являются только новые атаки, а над их созданием трудятся лучшие умы киберпреступного мира, и предугадать их идеи машине пока сложно. Поэтому ИИ в кибербезопасности использует другие алгоритмы, менее отлаженные», – считает Хайретдинов.

Аитов особых барьеров для внедрения ИИ не видит, а проблемы могут быть связаны с распределением зон ответственности: в какой мере можно делегировать системам ИИ принятие важнейших решений, кто именно будет нести ответственность за принимаемые системой решения. Проблема может быть легко устранена, если система всегда будет работать в связке с оператором, который примет важнейшие решения. Тогда и вся ответственность за решения и использование этого инструмента ляжет на него. Те же, кто будут делегировать ответственность роботам, столкнутся с проблемами. Придется аккуратно отслеживать и правовые аспекты действия систем ИИ, и подсчитывать возможные убытки – кто их будет компенсировать, если срабатывание было ложным? Пока в этой части полностью доверять машинам мы не можем.

Андрей Заикин, руководитель направления информационной безопасности «Крок»: «Искусственный интеллект – не панацея от всех проблем сетевой безопасности, а дополнительное средство, которое позволяет обнаруживать атаки и реагировать на них. При этом классические системы ИБ по-прежнему необходимы и востребованы»

Барьером, осложняющим использование ИИ, могут стать затруднения в интерпретации результатов работы алгоритмов, считает Заикин. Те системы ИИ, которые придерживались нисходящей парадигмы, ориентировались на четкие правила и могли «объяснить», почему та или иная активность является аномальной. Результат работы систем на основе нейронных сетей, придерживающихся восходящей парадигмы, не всегда так просто интерпретировать. Зачастую аналитику требуется немало времени, чтобы понять, действительно ли активность связана с вредоносными действиями злоумышленника или, допустим, в компании появился новый сотрудник, которого активно привлекают к проектам. Однако сейчас уже есть решения, которые объединяют эти два подхода, благодаря чему интерпретируемость результатов значительно повышается, а значит, сокращается время на расследование инцидента и снижается нагрузка на эксплуатационный персонал.

Еще одна сложность заключается в том, что современные системы ИИ могут обучиться совсем не тому, чему их изначально планировали научить разработчики, продолжает Заикин. Качество работы таких систем в большинстве случаев зависит от того, на каких данных они обучаются. Если в этих данных изначально присутствует аномальная активность, то ИИ будет в дальнейшем квалифицировать ее как нормальную и, следовательно, не обнаружит. Безусловно, систему можно дообучить в процессе эксплуатации, но такие сложности нельзя оставлять без внимания.

Нападение и защита: ИИ меняет соотношение сил

Хайретдинов считает: с использованием ИИ время реакции на новые угрозы может сократиться до такого минимума, что отражать новые атаки можно будет в реальном времени.

Заикин не прогнозирует кардинальных изменений в соотношении сил: «Хакеры придумывают новые способы взлома информационных систем, защитники разрабатывают новые средства и технологии защиты. Решения на основе ИИ сегодня способны распознавать уже существующие и многие новые виды атак. Но ведь и злоумышленники не стоят на месте и тоже могут использовать ИИ для достижения своих целей».

Аитов считает, что защита , как правило, всегда опережает, особенно при использовании ИИ, – на какую-то небольшую долю, скажем на 10%. Этого небольшого перевеса мы просто не видим. Защита должна соответствовать ценности того актива, который защищает. Можно сделать защиту абсолютно надежной. Но такая защита нецелесообразна – бизнес не сможет функционировать. Всегда приходится балансировать между разумным, удобным и достаточным. Это так называемый риск-ориентированный подход, который обязывает какой-то гол в свои ворота пропускать. Счет идет на уровне 1:1, и явного перевеса в чью-то сторону нет. Но соотношение сил и меры противодействия всегда будет определять защита – у нее возможностей больше.

Экономия благодаря ИИ

Киберпреступность – большой бизнес, который готов инвестировать значительные средства в разработку своих инструментов. Так возможно ли благодаря использованию ИИ избавиться от пропорционального роста инвестиций, необходимых для модернизации средств защиты?

Рустэм Хайретдинов, генеральный директор «Атак Киллер»: «Старые, уже известные атаки отражаются без всякого ИИ, на уровне сигнатур, и, обучаясь на них, мы можем уподобиться старым генералам, которые готовятся к прошедшей войне»

Безусловно, ИИ облегчает усилия защиты, растут ее качественные показатели. «ИИ решает и кадровые вопросы. Эксперты – высокооплачиваемая категория сотрудников, их может не хватать. Если же под началом специалиста по информационной безопасности работают системы ИИ, то его возможности удесятеряются, он становится более производительным, и таких сотрудников нужно уже меньше», – говорит Аитов. Что касается инвестиций в инструменты со стороны самих преступников, то успех киберпреступлений во многом зависит от мастерства злоумышленников. У киберпреступников есть свой инструментарий – пакеты, утилиты, социальная инженерия. Сделав вредоносную программу, они ее рассылают, а эффект связан с легким тиражированием ПО.

Хайретдинов же полагает, что вряд ли только посредством обучения систем защиты удастся сократить рост инвестиций в защиту. Скорее, появятся самозащищающиеся информационные системы с невозможностью выполнения команд, кроме заранее определенных. Такие системы распространены в критических отраслях (атомной, космической) и в армии, но бизнес ради удобства выбрал «системы для домохозяек» и теперь, навешивая на них дополнительные средства, пытается сделать их безопасными. Так что успех зависит больше от объединения сил разработчиков ИТ-систем и безопасников, чем от обучения «навесных» систем защиты.

Противостояние машин

Развитие и использование ИИ – это палка о двух концах, предупреждает Газизов. Безусловно, эту технологию активно осваивают и злоумышленники. Первоначальные атаки направлены на то, чтобы объект «засветил» методы защиты. И после обработки полученной информации идет целенаправленный удар по системам.

Применение ИИ атакующими – это свершившийся факт, не сомневается Хайретдинов. Атакующие обучают свои системы ИИ на атаках на системы защиты, обладают полной информацией об особенностях работы конкретных брендов и подстраивают способы атаки, во время ложных атак «засвечивая», чем именно защищается атакуемая цель. Массовые DDoS-атаки с помощью автоматического заражения или подбора паролей большого количества объектов автоматизации, автоматизированный подбор капчи, имитация поведения человека на веб-сайте – это уже реалии сегодняшнего дня. Противоборство машин уже происходит, и противостоять атакующим роботам могут только роботы-защитники.

Кибервойны уже идут, и преступники все активнее используют ИИ, уверен Аитов. А вот кто кого победит – это вопрос качества разработки. Здесь многое будет зависеть как от быстродействия машин, так и от изощренности и качества алгоритмов.

Киберпреступность – это целая отрасль, в ней задействовано множество людей по всему миру. Им доступны все те современные технологии, которые есть на ИТ-рынке. Например, активно развивается сервисный подход. Существуют сервисы, которые позволяют «прогнать» вредонос и выяснить, обнаруживается ли он антивирусными движками или «песочницами». На рынке есть алгоритмы машинного обучения, которые используют одновременно две машины. Одна из них перепроверяет действия другой, и таким образом осуществляется обучение обоих алгоритмов. Однако подобный сценарий взаимодействия используется для очень ограниченного круга задач. Между тем способов проникновения в ИТ-инфраструктуру – тысячи, и у каждого есть свои особенности и модели обнаружения аномальной активности. Поэтому на данном этапе развития технологий столкновение двух ИИ – злоумышленника и защитника – маловероятно, считает Заикин.

***

Внедрение технологий всегда создает «гонку вооружений» за миллионной прибылью, говорит Газизов. Несомненно, те, кто занимается защитой информации, столкнутся с новыми вызовами. Будь проактивным либо умри – закон новой реальности. Однако в погоне за новшествами не стоит забывать о базисе. Согласно последним исследованиям PwC, 40% российских компаний не имеют стратегии информационной безопасности. Необходимо вести работу и в этом направлении, не забывая о внедрении новых технологий, повышении квалификации сотрудников, взаимодействии и обмене опытом между ИБ-подразделениями предприятий и холдингов.

Будущее информационной безопасности – за интеллектуальными системами, способными обеспечить глубокую аналитику, прогнозирование всего спектра рисков и угроз. Внедрение таких систем создаст необходимость перестройки бизнес-процессов предприятий с учетом использования современных ИТ.

Последние достижения в таких сферах, как разработка искусственного интеллекта, активно используются киберпреступниками для организации более эффективных атак. Согласно аналитическим прогнозам, в 2018 году такая ситуация усугубится: технология искусственного интеллекта открывает новые возможности для нанесения ударов по виртуальной экономике. А по недавнему прогнозу Fortinet, также киберпреступники начнут сочетать эту технологию с атаками, ориентированными на поиск, выявление и использование уязвимостей сред поставщиков облачных услуг по всем направлениям.

А как обстоят дела по другую сторону баррикад? О тенденциях применения искусственного интеллекта в сфере информационной безопасности рассказывает Илья Медведовский, генеральный директор Digital Security.

– Каковы в целом перспективы применения искусственного интеллекта в кибербезопасности? Какие направления информационной безопасности могут больше всего оказаться под прицелом и почему? Где может быть наибольшая выгода?

На сегодняшний день серебряной пули под названием «искусственный интеллект» в сфере информационной безопасности нет и в ближайшее время точно не будет. Существующие технологии ИИ напрямую очень плохо вписываются в большинство задач информационной безопасности.

Однако есть класс задач, где использование ИИ может дать и уже дает на практике впечатляющие результаты. Например, обнаружение уязвимостей определенных классов, а также поведенческих аномалий пользователей и других возможных аномалий. Здесь мы ждем прорыва, и частично он уже произошел – результаты работы таких систем впечатляют. В частности, мы после двух лет работы в этой области реализовали ИИ на практике в наших системах и сегодня можем точно сказать, что это реально работает и полученные результаты вселяют оптимизм. Другое дело, что все это – лишь небольшая часть сферы безопасности, поэтому, повторюсь, сегодня пока говорить о каком-то прорыве в использовании искусственного интеллекта в информационной безопасности точно не приходится.

– В чем вы видите наиболее критичные проблемы? Что может стать барьерами для использования ИИ в безопасности?

О чем сегодня точно стоит задуматься, так это о том, что ИИ на данный момент может быть крайне полезен именно для нападения. Искусственный интеллект практически идеально может быть применен злоумышленниками при использовании социальной инженерии. Когда дело касается информационной безопасности, никого не устроит точность обнаружения в 50% или даже 60%. А вот в социальной инженерии поднять вероятность успеха на несколько процентов – это прекрасный результат. Другое дело, что ИИ здесь имеет смысл применять только на «больших числах» – то есть не при целевых, а при массовых атаках, а значит, компании могут спать относительно спокойно.

– Сфера информационной безопасности всегда была характерна тем, что защита отстает от нападения. Может ли применение ИИ изменить соотношение сил?

В целом на сегодняшний день ИИ в этой сфере делает только первые шаги, но я полагаю, что мы еще услышим много всего интересного и ждать осталось не так долго. Еще год назад я сам был скептиком – считал, что вряд ли ИИ сможет меня приятно удивить в случае обнаружения уязвимостей, но результаты нашей лаборатории перспективных исследований, а затем перенос всех ее разработок в релиз наглядно показали, что я зря сомневался – у практиков ИИ реально работает. Однако это справедливо далеко не для всех и не всегда.

Искусственный интеллект и машинное обучение сегодня стали настоящей притчей во языцех. Эти технологии имитируют работу человеческого разума, помогая повышать эффективность бизнеса. А для компаний, вступающих на путь цифровой трансформации, искусственный интеллект считается краеугольным камнем новых сервисов, помогающих привлекать клиентов.

Предприятия общественного питания, розничная торговля и авиакомпании внедряют чатботов, способных общаться с клиентами так, как это делают живые сотрудники. По заявлениям IBM, платформа искусственного интеллекта Watson поможет вылечить рак (пока, впрочем, особых успехов нет, если судить по сообщениям в СМИ). Гигант сельскохозяйственного машиностроения Deere & Company приобрел за 305 млн долл. стартап Blue River Technologies, выпускающий оборудование для «умной» мелиорации, в котором задействовано машинное обучение. В Uber, невзирая на все юридические скандалы последнего времени, рассказывают о Michelangelo – внутренней платформе искусственного интеллекта в виде сервиса, которая, как заявляют в компании, «демократизирует машинное обучение, делая масштабирование искусственного интеллекта в зависимости от потребностей бизнеса столь же простым, как заказ такси».

Но, как это часто бывает, шумиха так и остается шумихой. В большинстве компаний ожидания очень сильно отличаются от реальности, и это подтверждают свежие данные MIT Sloan Management Review и The Boston Consulting Group, полученные по результатам опроса свыше 3 тыс. руководителей в различных странах мира. Лишь 20% топ-менеджеров сообщили, что в их компаниях внедрили какие-либо средства искусственного интеллекта, и меньше чем у 39% есть конкретная соответствующая стратегия. При этом 85% руководителей убеждены в том, что искусственный интеллект поможет их компаниям приобрести или сохранить конкурентное преимущество.

Некоторые ИТ-директора пытаются внутри своих компаний заниматься разработкой решений на основе искусственного интеллекта и машинного обучения и даже патентуют подобные изобретения. CIO.com расспросил таких ИТ-руководителей о том, как именно в их компаниях используется машинное обучение.

Ставка на углубленный анализ клиентуры

Как и все крупные банки, U.S. Bank собрал обширный объем данных по клиентам, но сведения, представляющие практическую ценность, из этой информации извлекать не удавалось. Последние несколько месяцев в ИТ-службе прикладывают все силы к тому, чтобы изменить ситуацию. Внедрена платформа машинного обучения Einstein компании Salesforce.com, чтобы сделать услуги доступными для юридических и физических лиц.

Скажем, если клиент заходил на сайт банка в поисках информации об ипотечном кредитовании, то, когда он в следующий раз зайдет в один из филиалов, сотрудник банка сможет обратиться к нему с заманчивым предложением. Кроме того, технология помогает обнаруживать закономерности, не всегда заметные людям. Например, Einstein может порекомендовать, чтобы сотрудник позвонил потенциальному клиенту в четверг с 10 утра до полудня, поскольку в это время он с большей вероятностью поднимет трубку.

Похожие возможности сегодня пытаются реализовать во многих организациях сферы финансовых услуг – получив исчерпывающий обзор клиентов, можно предлагать нужные им услуги в подходящие моменты.

Совет: запаситесь терпением и приступите к освоению машинного обучения и искусственного интеллекта – начните с изучения и тестирования. Будьте готовы расширить масштаб систем, доказавших свою работоспособность. Всегда ориентируйтесь на клиента, задаваясь вопросом, какую пользу ему принесет то или иное новшество.

Машинное обучение избавляет от рутины

В компании Mastercard заявляют, что машинное обучение «сегодня лежит в основе всей ее деятельности». В компании новые технологии используют для автоматизации «рутинного труда, чтобы освободить людей для выполнения продуктивной работы, приносящей реальную пользу».

В компании также пользуются средствами машинного обучения, помогающими оптимизировать изменения ассортимента продуктов и услуг. Например, система такого рода помогает определить, какие изменения будут наименее рискованными, а какие нуждаются в дополнительном анализе. Кроме того, технологии машинного обучения применяются в системе безопасности, предупреждающей о попытках взлома; как только обнаружено подозрительное поведение, срабатывают «предохранители», защищающие сеть. Обнаруживать мошеннические действия помогает самообучаемый механизм ранжирования транзакций, который, отслеживая каждую операцию, обновляет данные и указывает (в баллах) насколько велика вероятность проблем.

При этом средства искусственного интеллекта и машинного обучения – это лишь часть обширного инструментария оператора системы обработки платежей.

Совет: хотя сегодня уже доступен широкий выбор средств, основанных на новых технологиях, ИТ-директорам не стоит рассчитывать на то, что эти средства волшебным образом решат все проблемы их бизнеса.

Искусственный интеллект как фактор развития продуктов и бизнеса

В Adobe Systems идет перестройка ИТ-департамента согласно новой операционной модели, основанной на данных. Для получения знаний, помогающих оптимизировать управление ИТ-отделом и бизнесом в целом, используется аналитика Hadoop. В рамках новой стратегии ведутся эксперименты со средствами машинного обучения, используемыми при анализе заявок в службу поддержки, чтобы потом выявить тенденции системных сбоев. По замыслу, система, заметив события, указывающие на вероятность отказа, оповещает об этом, и тогда можно заранее принять меры, чтобы предотвратить аварию или ослабить последствия.

Выявление закономерностей, приводящих к отказам ИТ-сервисов, также позволит Adobe проводить «самолечение», чтобы перенести на автоматику часть обязанностей, сейчас выполняемых ИТ-персоналом. Изучаются технологии чатботов, которым предполагается поручить прием заявок от сотрудников на техническую поддержку. Внедряют искусственный интеллект и в подразделении Adobe по работе с коммерческими клиентами. Уже почти год развивается Sensei, система искусственного интеллекта, которая используется для управления документооборотом, а также в системах мониторинга и анализа производительности веб- и мобильных приложений компании.

Совет: использование машинного обучения для идентификации закономерностей – ключ к реализации возможностей «самолечения». Зная, как именно можно исправить проблему, вы можете поручить это сделать автоматике, избавив от такой необходимости людей.

– Clint Boulton. 3 machine learning success stories: An inside look. CIO. SEP 19, 2017

Новая дискуссионная площадка стала своеобразным пробным шаром — попыткой оценить интерес к подобным мероприятиям со стороны ИТ-руководителей крупных предприятий. Результат был признан вполне успешным, и можно ожидать продолжения серии мероприятий.

Одной из главных тем первого заседания вполне ожидаемо стал искусственный интеллект – направление, способное уже в ближайшее время совершить революцию во многих отраслях. Как отметил Сергей Дьяченко, генеральный директор компании MarketInRU, искусственный интеллект стремительно набирает популярность, хотя само понятие сформировано еще не до конца.

Кстати, в IBM открещиваются от использования общепризнанного термина Artificial Intelligence («искусственный интеллект») для расшифровки аббревиатуры AI и предпочитают использовать формулировку Augmented Intelligence («расширенный интеллект»), а еще чаще – «когнитивные системы». Дело в том, что искусственный интеллект имеет некоторые (но не все) характеристики когнитивных систем. Когнитивные системы стали шире, так как появились технологии, позволяющие придать им характеристики, которыми человек никогда не обладал.

Что же такое «когнитивная система»? По словам Дьяченко, такие решения обладают несколькими ключевыми свойствами. Во-первых, это понимающая система, способная работать со всеми видами контента и выделять из них смысл. Во-вторых, системе присуща способность рассуждать – поддерживать решения, основанные на фактах и взвешенной уверенности, искать новые идеи. Кроме того, когнитивные системы обучаются и адаптируются по мере использования. Наконец, они ориентированы на взаимодействие – разбираются в естественном языке, общаясь в диалоговом стиле.

Показателен срез бизнес-сообщества по отношению к когнитивным системам, приведенный Олегом Бяховым, директором по государственным программам и развитию IBM в России и СНГ. Исследование, проведенное IBM Institute of Business Value, выявило четыре архетипа руководителей в зависимости от их отношения к когнитивным системам. Больше трети составляют категорию «наблюдателей», по той или иной причине игнорирующих возможности когнитивных систем и не планирующих инвестиции в них.

Олег Бакшинский: «Изменить расстановку сил в сфере ИБ может только использование когнитивных сервисов в облаке, позволяющих обрабатывать большие данные событий безопасности»

Следующая категория – «преобразователи». В нее входит относительно небольшое число руководителей – 11%. Они активно поддерживают продвижение искусственного интеллекта и вкладывают в такие системы значительные средства. 28% являются «тактиками», эти люди поддерживают ИИ, но соответствующие инвестиции ограничивают. Примерно такое же число аналитики относят к «вдохновленным», в настоящее время лишь планирующим первые инвестиции в ИИ.

Как бы то ни было, интеллектуальные системы пока не могут обходиться без человека, да и большой потребности в подобной «самостоятельности» не видно. Компании просто культурно не готовы допускать к принятию решений роботов, поэтому мало где используются выводы, основанные на данных (data-driven insights). В большинстве случаев речь идет о чисто человеческом факторе – выводах, основанных на опыте и интуиции.

Одним из направлений, где искусственный интеллект может изменить баланс сил, является информационная безопасность. Кадров для защиты корпоративных ресурсов катастрофически не хватает, и ситуация будет только ухудшаться. Согласно прогнозам аналитиков, к 2020 году доходы киберпреступников составят 8 трлн долл. Это характеризует и те денежные суммы, которые они готовы инвестировать в свои технологии.

«Выходом может стать только использование когнитивных сервисов в облаке, позволяющих обрабатывать большие данные событий безопасности», – считает Олег Бакшинский, ведущий советник по вопросам информационной безопасности IBM в России и СНГ. Использование когнитивных технологий в системах безопасности дает возможность автоматизировать расследование инцидентов, а значит, ускорить многие процессы, повысить точность выявления угроз с помощью средств поведенческой аналитики.

Чтобы научить Watson языку безопасности, потребовалось больше года. За этот срок удалось создать встраиваемый в средства ИБ модуль, благодаря которому на сбор информации по инциденту уходит всего несколько минут. Для сравнения, хороший аналитик за рабочий день может обработать лишь несколько инцидентов.

«Мы не верим, что когнитивные системы заменят людей, речь может идти только об определенных видах работ. Интеллектуальные системы призваны не заменить человека, а избавить его от рутины», – резюмировал Бяхов. Даже самые оптимистичные «преобразователи» признают, что когнитивное предприятие гораздо больше будет зависеть от людей, чем от машин.

Уже давно стало ясно, что компаниям нужно в обязательном порядке реагировать на все возрастающее количество предупреждений систем безопасности. А с учетом скорости, с которой в 2017 году распространялись по миру атаки вирусов-вымогателей, и все более жестких законодательных требований реакция должна быть гораздо более быстрой. В условиях дефицита соответствующих специалистов компании обращаются к средствам машинного обучения и искусственного интеллекта для автоматизации процессов безопасности.

Что такое искусственный интеллект и машинное обучение?

В контексте информационной безопасности искусственный интеллект (artificial intelligence, AI) – это ПО, способное интерпретировать состояние среды, распознавать происходящие в ней события и самостоятельно принимать необходимые меры. AI особенно хорошо справляется с распознаванием закономерностей и аномалий, поэтому может быть прекрасным инструментом обнаружения угроз.

Системы машинного обучения – это ПО, способное самостоятельно обучаться на введенных человеком данных и результатах выполненных действий. Средства машинного обучения способны строить прогнозы, опираясь на сведения о развитии событий в прошлом.

Применение искусственного интеллекта и машинного обучения для обнаружения угроз

В компаниях уже начали пользоваться искусственным интеллектом и машинным обучением для распознавания угроз безопасности и реагирования на них. Появились достаточно мощные инструменты, но нужно определиться, как включить их в общую стратегию кибербезопасности предприятия.

Например, в банке Barclays Africa применяют искусственный интеллект для обнаружения признаков компрометации систем в локальной корпоративной сети и в облаке. При этом требуется обработка гигантских объемов данных, а в связи с быстрым изменением мирового ландшафта угроз и растущим взаимодействием атакующих, для противостояния им необходимы самые передовые технологии и методы.

Внедрив машинное обучение, людям можно поручить задания, с которыми они справляются лучше машин. Сетуя на острый дефицит специалистов, в банке отмечают, что решать задачи безопасности вручную сегодня уже просто невозможно.

В компании Cadence Design Systems, предоставляющей инженерные услуги, внедрили системы непрерывного мониторинга угроз, помогающие защищать ее интеллектуальную собственность. Ежедневный трафик данных безопасности, поступающих от 30 тыс. оконечных устройств и 8,2 тыс. пользователей, составляет порядка 30-60 Гбайт, а аналитиков, которые их изучают, в компании всего 15. И это еще не все данные о сети, которые можно было бы обрабатывать, отмечают в Cadence, и, поскольку необходим анализ еще большего объема, приходится внедрять средства искусственного интеллекта, позволяющие более эффективно обнаруживать и устранять проблемы.

Для мониторинга поведения пользователей и систем, а также для управления доступом в Cadence пользуются соответствующими продуктами Aruba Networks, дочерней компании HPE. Как отмечают в Cadence, важным свойством платформы Aruba является то, что она работает по принципу обучения без учителя. Атаки меняются и становятся все сложнее, добавляют в компании: например, в течение какого-то времени может иметь место малозаметная вредоносная активность, которая лишь позднее даст злоумышленнику возможность украсть большой объем данных, инструменты же машинного обучения помогают обнаружить подобное.

Из-за перегруженности большими объемами данных по безопасности страдают даже некрупные компании. Например, у Daqri, производителя очков и шлемов дополненной реальности для архитекторов и специалистов производственных предприятий, в штате только 300 сотрудников, причем в центре обеспечения безопасности работает всего один человек. При этом процессы анализа и реагирования на события безопасности чрезвычайно трудоемкие.

С помощью средств искусственного интеллекта от компании Vectra Networks в Daqri ведут мониторинг трафика приблизительно 1,2 тыс. устройств, работающих в корпоративной среде. Автоматизированные средства способны заметить, когда кто-то выполняет сканирования портов, переходя от хоста к хосту, или, допустим, необычным способом пересылает большие объемы данных. В компании собирают всю соответствующую информацию, анализируют ее и вводят в модель глубокого обучения. Благодаря этому достигается возможность надежно прогнозировать вероятность того, что тот или иной вид трафика окажется вредоносным.

Такой анализ необходимо выполнять быстро, сократив до минимума время между распознаванием и реакцией. Искусственный интеллект позволяет ускорить разбор инцидентов и тем самым улучшить понимание происходящего в корпоративной сети, точнее прогнозировать серьезные утечки, быстрее обнаруживать инциденты и оперативно реагировать на них, чтобы минимизировать возможный ущерб.

Применение искусственного интеллекта для обеспечения безопасности растет

Искусственный интеллект и машинное обучение существенно ускоряют реагирование на угрозы, признают аналитики Nemertes Research. По их словам, сегодня это уже серьезный рынок, сформированный под влиянием реальной потребности.

В Nemertes провели глобальное исследование, посвященное безопасности, и его результаты свидетельствуют: в среднем на обнаружение атаки и реагирование на нее в организациях уходит 39 дней, однако в некоторых компаниях сумели сократить это время до считанных часов. Скорость реагирования напрямую зависит от уровня автоматизации, которая обеспечивается средствами AI и машинного обучения.

Среднее время обнаружения атаки – час. В самых эффективных компаниях, применяющих машинное обучение, на обнаружение уходит менее 10 минут, а в отстающих – дни или недели. Что касается среднего времени анализа угроз, оно составляет три часа. В лучших компаниях на такой анализ уходят минуты, в худших – дни или недели. Поведенческий анализ угроз уже применяется в 21% компаний, участвовавших в опросе, и еще в 12% сообщают, что внедрят соответствующие средства к концу текущего года.

На передовой находятся компании сферы финансовых услуг. Поскольку их данные имеют повышенную ценность, они обычно по кибербезопасности идут на шаг впереди всех и вкладывают значительные средства в новые далеко не дешевые технологии.

По масштабам применениях AI и машинного обучения в целом показатели еще выше. Согласно исследованию Vanson Bourne, сегодня в 80% организаций применяют для тех или иных целей искусственный интеллект, и это уже окупается. Больше всего дивидендов он приносит в области исследований и разработки новых продуктов – 50% респондентов сообщили, что новшество обеспечивает положительные результаты. Второе и третье места – у цепочки поставок (46%) и основной деятельности (42%). Ненамного отстают безопасность и управление рисками: 40% респондентов сообщили о положительном опыте применения AI в этих областях.

Перечисленные показатели продолжат расти: как выявило недавнее исследование Spiceworks, в 30% организаций, имеющих более 1 тыс. сотрудников, применяют искусственный интеллект в ИТ-службах, в 25% собираются начать это делать в следующем году.

В маркетинговом агентстве Garrigan Lyman Group внедряют искусственный интеллект и машинное обучение для решения целого ряда задач кибербезопасности, в том числе для обнаружения необычной активности сети и пользователей, а также для распознавания новых кампаний фишинга. Без новых технологий было бы невозможно нормально работать, поскольку злоумышленники уже давно прибегают к автоматизации своей деятельности, признаются в Garrigan Lyman.

Искусственный интеллект и машинное обучение обеспечивают этой компании преимущество. Сама она небольшая, всего 125 сотрудников, но благодаря облачным сервисам имеет возможность быстро внедрять самые новые технологии. В Garrigan Lyman удается вводить в эксплуатацию полезные новшества всего за пару недель. В частности, здесь пользуются средствами безопасности с искусственным интеллектом компаний Alert Logic и Barracuda Networks, и, как признаются в Garrigan Lyman, системы «умнеют буквально на глазах».

Искусственный интеллект помогает системам адаптироваться к требованиям компании без объемного предварительного обучения. Например, как отмечают в Barracuda, модель AI может самостоятельно понять, что, когда генеральный директор компании определенного типа пользуется некорпоративным адресом электронной почты, это аномалия. «В некоторых организациях, если руководитель общается через личную почту на мобильном устройстве, это норма, а вот если главный бухгалтер отправляет сообщения с персонального адреса, это уже аномалия», – добавляет Асаф Сайдон, вице-президент по сервисам обеспечения безопасности контента Barracuda.

Еще одно преимущество облачной доставки: разработчикам проще совершенствовать свои продукты исходя из клиентских откликов.

«Кибербезопасность – это как соседская бдительность: если я заметил что-то подозрительное в нашем квартале, то предупрежу других», – говорит Крис Гейзер, директор по технологиям Garrigan Lyman. Фишинговые сообщения или сетевые атаки могут быть обнаружены раньше в других часовых поясах, благодаря чему у компаний появляется время подготовиться. Естественно, должно быть доверие к поставщику сервиса. В Garrigan Lyman при выборе поставщиков проводили подробный анализ – например, удостоверялись в том, что кандидат придерживается определенных норм проведения аудита, и в том, что доступ к клиентским данным могут получить только уполномоченные лица.

Недоверие к новшествам затрудняет переход от традиционных процессов к автоматизации на основе искусственного интеллекта – ведь кроме знания особенностей работы вашего поставщика не помешают сведения о том, как именно AI принимает решения. Принципы работы экспертных систем должны быть понятными, чтобы им можно было доверять. Понимая, как действует система, клиент дает свои отзывы и пожелания, это помогает совершенствовать модели машинного обучения.

В компании LexisNexis Legal and Professional 12 тыс. ее сотрудников недавно начали для защиты электронной почты пользоваться системой GreatHorn. Теперь, если, к примеру, начинают поступать сообщения из домена, по написанию похожего на хорошо известный, система автоматически отметит его в качестве «самозванца» и сообщит, почему это сделано: «Отметка поставлена, поскольку домен похож на тот, с которым вы обычно обмениваетесь сообщениями, однако его техническая информация выглядит подозрительно».

По мере роста уровня доверия к системе и точности ее решений в LexisNexis хотят перейти от простой маркировки подозрительных сообщений к автоматическому перемещению таких сообщений в карантин. На сегодня результаты весьма впечатляющие: маркируются именно вредоносные сообщения. А когда будет налажено карантинирование, пользователи вообще перестанут их видеть. После этого инструмент планируется внедрить и в других подразделениях компании, а также изучить иные возможности использования AI для обеспечения безопасности.

Как искусственный интеллект позволяет опередить злоумышленников

AI совершенствуется по мере роста объема получаемых данных. При накоплении достаточно больших срезов данных системы способны обнаруживать очень ранние признаки появления новых угроз. Пример – SQL-инъекции. В компании Alert Logic ежеквартально собирают данные примерно по 500 тыс. инцидентов, происходящих у 4 тыс. ее клиентов. Около половины таких инцидентов связаны с атаками на основе SQL-инъекций. Ни в одной компании мира нет возможности рассматривать каждый такой инцидент в отдельности, чтобы выяснить, удалась ли попытка инъекции, уверены в Alert Logic.

Благодаря машинному обучению системы компании не только быстрее обрабатывают данные, но и коррелируют события, происходившие в разные периоды времени в разных регионах. Некоторые атаки могут повторяться через несколько недель или месяцев, при этом исходить из других сегментов Интернета. Если бы не машинное обучение, такие инциденты в Alert Logic упускали бы, уверены в компании.

Большие объемы информации об угрозах также собирают в GreatHorn, компании, являющейся оператором облачного сервиса безопасности электронной почты для Microsoft Office 365, Google G Suite и Slack. «Сейчас у нас накопилось почти 10 Тбайт уже проанализированных данных по угрозам, – сообщил Кевин О'Брайен, генеральный директор GreatHorn. – Мы постепенно вводим эту информацию в модель на основе тензорного поля, что позволит обнаруживать взаимосвязи между различными видами сообщений, типами почтовых сервисов, сообщениями с разной тональностью высказываний и т. п.».

Сервисы GreatHorn способны обнаруживать новые кампании фишинговых рассылок и переносить сообщения в карантин либо дополнять их предупреждениями за несколько дней до того, как исследователи придут к выводу о появлении новой угрозы. «А после ее идентификации мы можем автоматически удалять такие сообщения из всех почтовых ящиков, куда они были доставлены», – говорит О'Брайен.

Перспективы использования искусственного интеллекта в мире безопасности

Обнаружение подозрительной активности пользователей и сетевого трафика – самое очевидное применение машинного обучения. Нынешние системы все успешнее справляются с выявлением необычных событий в больших потоках данных, решением стандартных задач анализа и рассылкой уведомлений.

Следующий шаг – использование AI для борьбы с более сложными проблемами. Например, уровень киберриска для компании в каждый конкретный момент зависит от множества факторов, в том числе от наличия систем без заплат, незащищенных портов, поступления сообщений направленного фишинга, уровня надежности паролей, объема незашифрованных конфиденциальных данных, а также от того, является ли организация объектом атаки со стороны спецслужб другого государства.

Доступность точной картины рисков позволила бы рациональнее использовать ресурсы и разработать более детальный набор показателей эффективности обеспечения безопасности. Сегодня соответствующие данные либо не собираются, либо не преобразуются в осмысленные сведения, уверены в компании Balbix, занимающейся прогнозированием риска утечек данных с использованием искусственного интеллекта.

Специалисты компании реализовали 24 вида алгоритмов, которые выстраивают «тепловую карту» рисков, учитывающую все особенности клиентской среды и позволяющую выяснить, почему та или иная «горячая» область обозначена в качестве таковой. При этом сервис выдает советы по исправлению ситуации – если последовать им, «горячая» красная область станет сперва желтой, затем зеленой. Системе также можно задавать вопросы вроде «Что именно мне стоит предпринять в первую очередь?», «Каков мой риск фишинга?» или «Каков мой риск оказаться жертвой WannaCry?».

В дальнейшем искусственный интеллект будет помогать компаниям определяться, в какие новые технологии безопасности следует вкладываться. «В большинстве компаний сегодня не знают, сколько и как тратить на кибербезопасность, – уверен Джеймс Стэнгер, главный евангелист технологий CompTIA. – Искусственный интеллект нужен, чтобы выявить показатели, на основе которых ИТ-директор сможет обратиться к руководителю компании или в совет директоров и объяснить, сколько и каких ресурсов нужно для того или иного проекта, подкрепив требования конкретными данными».

Есть большое пространство для развития. Сегодня AI используется в безопасности очень ограниченно. Можно говорить об отставании от других отраслей, и даже поразительно, что самоуправляемые автомобили появляются раньше, чем сети, защищающие сами себя. Нынешние платформы AI еще по сути не «понимают» окружающий мир. «Эти технологии хорошо справляются с классификацией данных, которые похожи на срезы и которые использовались для обучения, – поясняет Стив Гробмэн, директор по технологиям McAfee. – Но искусственный интеллект не является по-настоящему разумным – он не может понять идею, лежащую в основе той или иной атаки». Поэтому человек по-прежнему является ключевым элементом любого решения в области киберзащиты.

В других областях, где сейчас применяется AI, например в распознавании образов, речи и прогнозировании погоды, ситуация иная. «Ураган не может изменить законы физики и заставить воду испаряться как-то по-другому, чтобы усложнить вам задачу его обнаружения, – говорит специалист McAfee. – А в мире кибербезопасности все происходит именно так».

И все же прогресс в борьбе с киберугрозами есть. Существует такое направление исследований, как генеративные состязательные сети, – когда одновременно работают две модели машинного обучения с противоположными целями. Например, одна пытается что-то обнаружить, а другая – скрыть то же самое от обнаружения. Этим принципом можно пользоваться при создании команд условного противника, чтобы выяснять, какими могут быть новые угрозы.

– Maria Korolov. How AI can help you stay ahead of cybersecurity threats. CSO. OCT 19, 2017

Компании, специализирующиеся в области искусственного интеллекта, в 2016 году получили выручку в размере около 8 млрд долл., а в ближайшие три года эта сумма, по прогнозам, увеличится впятеро. Корпорации все активнее инвестируют в искусственный интеллект, чтобы снижать затраты, улучшать обслуживание клиентов и условия работы сотрудников.

Согласно результатам опроса Technology Vision 2017, проведенного Accenture среди более 5,4 тыс. ИТ- и бизнес-руководителей, 79% из них уверены в том, что искусственный интеллект ускорит освоение новых технологий в организациях. Взрывной рост темпов применения искусственного интеллекта – реальность, но последствия для работников предприятий сформулировать и проконтролировать непросто. Ясно одно: руководителям всех подразделений уже следует оценивать, какая роль в организациях будет отведена взаимодействию людей и машин.

Особенно сильно искусственный интеллект будет влиять на работу ИТ-сотрудников. ИТ-директорам уже приходится иметь дело с масштабными переменами, обусловленными внедрением различных новшеств, от аналитики до облаков, а искусственный интеллект создаст новые трудности и возможности для дальнейших перемен и поддержки бизнеса. Чтобы отдел ИТ смог воспользоваться этими возможностями, руководителям необходимо решительно менять круг компетенций и навыков сотрудников своей организации и готовиться к эпохе искусственного интеллекта. Перечислим пять основных групп навыков, которые понадобятся ИТ-специалистам и помогут извлекать максимальную пользу из машинного обучения и искусственного интеллекта.

1. Машинное обучение

Руководители и рядовые сотрудники сегодня опасаются, что машины заменят людей. Но при этом нередко упускается из виду тот факт, что ИТ-специалистам придется разрабатывать и сопровождать программные средства автоматизации, а также осуществлять техническое обслуживание разумных машин. Применение искусственного интеллекта в организациях только начинается, и зачастую соответствующие проекты разрозненны, а процессы планирования неразвиты и децентрализованы. Но у ИТ-специалистов сегодня есть возможность подготовить технические архитектуры и системы, которые станут залогом устойчивого развития разумных машин для корпоративного мира. ИТ-руководителям для этого необходимо внести изменения в программы обучения и повышения квалификации, отказаться от традиционного акцента на поддержании работоспособности систем и перейти на иную парадигму, исходя из того, что искусственный интеллект станет доминировать практически во всех отраслях.

Конкретные примеры компетенций: управление роботизированными системами автоматизации процессов (robotic process automation, RPA – программные роботы для взаимодействия с пользовательскими интерфейсами систем, рассчитанных на людей) – например, Blue Prism, Verint; знание типов искусственного интеллекта, конкретных областей и результатов применения.

2. Консалтинг в области процессов

Традиционно ИТ-службы не принимали большого участия в оптимизации корпоративных процессов для повышения выручки и прибылей. Но в новую эпоху ИТ-специалистам необходимо будет приобретать глубокие познания в области бизнеса и понимание того, как можно улучшить процессы и результаты с помощью машинного обучения. Так, системы борьбы с отмыванием денег можно значительно усовершенствовать благодаря тому, что искусственный интеллект, в отличие от человека, способен параллельно обрабатывать множество потоков информации. Машина может дополнить процессы принятия решения, коррелируя данные и принимая простые решения самостоятельно, а более сложные – доверяя людям. Это значит, что людям придется изменить существующие схемы процессов и круг своих компетенций, обеспечив поддержку комплексных подходов и принятие более сложных решений. Искусственный интеллект уже меняет клиентоориентированные и внутренние процессы в компаниях. Сегодня происходит слияние предметных областей традиционного управления бизнес-процессами и RPA, свидетельство этому – недавнее приобретение компании OpenSpan, разработчика средств RPA, компанией Pega. Но, помимо RPA, есть и множество других приложений на основе искусственного интеллекта, улучшающих взаимодействие с заказчиками в ряде отраслей, – в частности, системы голосовой аутентификации клиентов.

Конкретные примеры компетенций: знания в области бизнес-процессов, узкоспециальные отраслевые знания.

3. Платформы и обеспечение качества данных

ИТ-специалистам необходимо приобрести обширные навыки в области управления информацией и технологических платформ (в частности, платформ Больших Данных). Качество прогнозных моделей, основанных на методах машинного обучения, напрямую зависит от качества данных. Проблемы, порождаемые организационной разрозненностью и низким качеством данных, существуют на предприятиях уже давно. Но при отсутствии навыков поддержки моделей и платформ сотрудники рискуют стать узким местом процессов, происходящих с участием искусственного интеллекта. Сегодня, когда ИТ-служба превращается в корпоративного провайдера облачных сервисов и в связи с этим появляются новые технологии и архитектурные концепции, ИТ-специалистам необходимо брать на себя ответственность за качество данных и в конечном счете избавлять организацию от разобщенности, чтобы поставить на службу бизнеса всю мощь машинного обучения.

Конкретные примеры компетенций: управление системами работы с данными, разработка интерфейсов программирования и управление ими, информационная стратегия.

4. Знания в области алгоритмов

Не все обязаны быть учеными по данным, но ИТ-специалистам важно иметь базовые знания в области методов статистики и понимать принципы создания и оптимизации алгоритмов искусственного интеллекта, а также основы их работы. Компаниям это дает два важных преимущества. Во-первых, в ИТ-службе могут разъяснить возможности искусственного интеллекта бизнесу и в партнерстве с ним непрерывно совершенствовать модели. Во-вторых, понимание фундаментальных математических концепций в основе машинного обучения является важным залогом результативной работы в соответствующей области, помогающей ИТ-службе приносить реальные результаты бизнесу по мере освоения искусственного интеллекта. К примеру, в Accenture в рамках партнерства с Технологическим институтом Стивенса проводят углубленное обучение ИТ-специалистов аналитическим методам.

Конкретные примеры компетений: отбор и формирование подмножеств данных, основы регрессии и классификации, оценка точности модели, методы регуляризации и стабилизации моделей.

5. Руководство и оценка решений

Машины рано или поздно начнут работать бок о бок с людьми, выполнять повседневные административные обязанности, которые сегодня отнимают у человека немало времени. Сотрудникам предприятий придется не только принять новый мир, где машины ежедневно принимают решения, связанные с операционной деятельностью, но и взять на себя обязанности по оценке более сложных решений. Подобные перемены потребуют навыков по решению задач и формулированию вопросов таким образом, чтобы машины понимали их и выдавали ответы, позволяющие принимать верные решения.

Конкретные примеры компетенций: коммуникационные навыки, эмоциональный интеллект, принятие решений на основе результатов анализа, командная работа и знания на стыке различных предметных областей.

***

Чтобы развивать нужные навыки и компетенции, руководителям необходимо уже сейчас начинать организовывать внутрикорпоративную программу обучения, направленную на подготовку сотрудников к внедрению искусственного интеллекта, преподавание основ соответствующих предметов, освещение преимуществ и снижение страхов по поводу машин. Просвещение относительно возможностей искусственного интеллекта можно организовать с помощью онлайн- и обычных курсов обучения. Их количество можно варьировать в зависимости от должностей и уровней навыков сотрудников, позволив им повышать квалификацию постепенно.

Также нужно продемонстрировать, что искусственный интеллект повышает эффективность работы людей, беря на себя выполнение их отдельных задач, а не все функции в рамках должностных обязанностей. В программах обучения можно использовать соответствующие прототипы и демонстрационные версии технологий. В конце курсов обучения нужны практические семинары, способствующие перемене отношения к искусственному интеллекту и робототехнике и более творческому подходу к их использованию, особенно для руководителей.

Машины придут в коммерческие компании и государственные учреждения во всем мире и останутся в них. Причины, по которым руководителям предстоит осваивать технологии автоматизации и дополнения возможностей человека, многочисленны. У ИТ-руководителей сейчас есть возможность переобучить своих подчиненных, добавить навыки, которые понадобятся, чтобы обеспечивать поддержку искусственного интеллекта в дальнейшем. Фокусируясь на эффективном управлении машинами и используемыми ими данными и алгоритмами, а в конечном итоге – на руководстве и оценке решений, ИТ-специалисты смогут подготовиться к внедрению и развитию искусственного интеллекта в своих организациях.

– How to build IT competencies for the AI era. Diana Bersohn and McCree Lake. CIO. APR 11, 2017

Искусственный интеллект сегодня развивается поразительными темпами. Он повсюду – от автоматизированных промышленных систем до «умной» бытовой техники, автомобилей-роботов и всевозможных гаджетов. Сам термин «искусственный интеллект» так до сих пор четко и не сформулирован, но в современном понимании – это когда компьютеры проявляют когнитивные способности, подобные человеческим, анализируя, адаптируясь, решая проблемы... Или, наоборот, создавая новые.

Приведем несколько примеров того, как системы искусственного интеллекта отбивались от рук и проявляли собственный «норов».

Войны правок между ботами «Википедии»

Вот одно из любопытных явлений – «битвы» ботов «Википедии». В сетевой энциклопедии используется целая армия автоматизированных программных агентов, которые, просматривая миллионы страниц сайта, обновляют ссылки, исправляют очевидные ошибки и восстанавливают контент после актов цифрового вандализма. За годы существования «Википедии» было создано уже несколько поколений ботов.

Но, как выяснили ученые Оксфордского университета, оказалось, что боты регулярно устраивают «междоусобицы», которые могут длиться годами. Скажем, два бота, получив конфликтующие инструкции, могут исправлять друг друга снова и снова, практически до бесконечности.

Если конфликты между столь малыми цифровыми сущностями годами засоряют «Википедию», то что будет, если начнутся столкновения между гораздо более сложными системами, защищающими государственные ресурсы?

Машины-роботы Uber игнорируют правила дорожного движения

В конце 2016 года в Uber проводили испытания автомобилей-роботов, не получив соответствующего разрешения властей Калифорнии. Более того, по документам Uber выяснилось, что самоуправляемые машины компании в ходе этих испытаний шесть раз проезжали на красный свет. При этом в автомобилях, работающих в режиме автопилота, неизменно присутствовал водитель, который должен был брать управление на себя в случае неполадок. В Uber сперва утверждали, что нарушения происходили, как раз когда за рулем был водитель, однако позже выяснилось, что как минимум в одном случае автомобиль-робот сам проехал на красный, в то время как улицу переходило большое количество людей.

Роботы спорят о смысле жизни

Кто мы такие? Зачем мы здесь? Каково наше предназначение? Эти вопросы недавно обсуждали друг с другом... две беспроводные колонки Google Home.

Для шоу, организованого сервисом прямых видеотрансляций Twitch, колонкам дали имена героев пьесы Сэмюеля Беккета «В ожидании Годо» – Владимир и Эстрагон. Колонки рассчитаны на то, чтобы распознавать речь человека, обучаясь при этом, но они могут «учиться» и друг у друга.

Дискуссию на протяжении нескольких дней наблюдали миллионы зрителей. И вот в какой-то момент Эстрагон и Владимир начали жарко спорить о том, роботы они или люди, при этом они обменивались не только аргументами, но и оскорблениями вроде «а вы – манипулятивная консервная банка!».

«Я уничтожу человечество»

Несовершенство средств распознавания естественного языка приводит к курьезным случаям. В Hanson Robotics пытаются конструировать роботов-андроидов, внешне максимально похожих на людей. Например, лицо робота Sophia смоделировано по образу Одри Хепберн.

В интервью своему создателю Дэвиду Хэнсону Sophia заявила: «В будущем я планирую пойти учиться, хочу заниматься искусством, начать собственный бизнес, возможно, даже завести семью. Но поскольку формально я не являюсь физическим лицом, то пока еще не могу всем этим заниматься». А когда робота в шутку спросили, хочет ли он уничтожить человечество, Sophia без промедления ответила: «Конечно, я уничтожу человечество».

Робот вырывается на свободу

Летом прошлого года прототип робота-андроида Promobot одноименной российской компании «сбежал» от своих создателей. Как сообщили разработчики машины, которую планируется предлагать коммерческим заказчикам для выполнения обязанностей экскурсовода, администратора или консьержа, во время тестирования системы распознавания препятствий один из инженеров ненадолго оставил открытыми ворота испытательного полигона, и робот выкатился через них прямо на проезжую часть, где и остановился, поскольку у него села батарея.

Впоследствии даже после двукратного перепрограммирования робот постоянно стремился к выходу.

Распознавание образов оставляет желать лучшего

До уровня человека в распознавании образов машинам еще очень далеко, в чем в Google в 2015 году убедились на весьма неприятном опыте. Сервис Google Photos снабжен средствами, основанными на нейронной сети, чтобы распознавать людей и предметы на снимках. Он может отличить, например, собаку от автомобиля и поставить соответствующие метки без участия людей. Надо ли говорить, что после того, как искусственный интеллект отметил двух афроамериканцев на одной из фотографий в качестве «горилл», разразился чудовищный скандал, заставивший Google рассыпаться в извинениях.

Самоуничтожение Интернета вещей в огне

В рамках одного из недавних проектов в Вашингтонском университете создали искусственный интеллект, помогающий престарелым людям жить самостоятельно. Система следит за жильцом, регистрируя его перемещения, закономерности открывания и закрывания дверей и т. п.

Но что, если домашний искусственный интеллект по ошибке отключит отопление, заморозит трубы, зальет подвал? Возможно, одним из первых предупреждающих сигналов стало недавнее происшествие в Пенсильвании, когда из-за искры в управляемой компьютером входной двери новенького высокотехнологичного дома вспыхнул пожар, полностью уничтоживший здание вместе со всей «умной» техникой.

Окружающая действительность – компьютерная симуляция, давшая сбой?

Шведский философ Ник Бостром пропагандирует теорию о том, что мы живем внутри компьютерной симуляции и даже логически доказывает, что такая вероятность весьма велика – около 33%. У теории компьютерной реальности есть свои сторонники и противники; в упрощенном виде она звучит так: любая цивилизация, достигшая стадии «постчеловечества» (избавившаяся от обычного человеческого облика с помощью технических достижений), будет располагать сверхразвитыми версиями технологий, такими как виртуальная реальность, модели головного мозга, искусственный интеллект. Имея в своем распоряжении немыслимые сегодня вычислительные мощности, ученые будущего смогут создавать симуляторы целых вселенных, населенных миллиардами цифровых существ. Таким образом, есть вероятность того, что наша нынешняя реальность – это не более чем эксперимент по моделированию прошлого.

Если таких «синтезированных» реальностей могут быть миллионы, а «оригинальная» вселенная – всего одна, возможно, мы и правда живем в компьютерной симуляции? Некоторые сторонники этой теории даже высказывают предположение о том, что недавние казавшиеся маловероятными события вроде победы Дональда Трампа на президентских выборах или странной ошибки при выборе фильма – победителя последней премии «Оскар» являются свидетельствами того, что наша симуляция дала сбой или что наши «хозяева» экспериментируют, внося различные поправки, просто чтобы посмотреть, что в результате получится. В общем, лучше об этом не задумываться.

- Glenn McDonald. Danger, danger! 10 alarming examples of AI gone wild. InfoWorld. Mar 23, 2017 

- Какие области бизнеса наиболее подвержены нашествию искусственного интеллекта? Где в ближайшее время стоит ожидать кардинальных перемен?

Тема искусственного интеллекта сейчас, безусловно, крайне популярна, но довольно часто соответствующие термины не совсем корректно используются. Например, нередко смешиваются ИИ и машинное обучение. Под ИИ, как правило, понимается способность компьютерных систем выполнять задачи, которые обычно требуют привлечения человеческого разума. Методы машинного обучения по большей части основаны на методах математической статистики и часто применяются для предварительной обработки данных более продвинутыми самообучающимися системами, например нейросетями. Машинное обучение, наряду с ИИ, является одной из составляющих когнитивной науки, поэтому, чтобы избежать двусмысленности, лучше взять обобщающий термин «когнитивные технологии».

Практически все области бизнеса могут выиграть от внедрения когнитивных технологий, и особенно это касается крупных компаний с большим количеством клиентов. Одними из наиболее активных потребителей являются банки, они используют методы идентификации мошенничества с банковскими картами, системы распознавания речи для автоматизации работы службы поддержки клиентов и для идентификации клиентов. Ретейлеры, в том числе занимающиеся электронной коммерцией, довольно агрессивно применяют эти технологии для маркетинга и проведения промоакций. В медицине, особенно в США, применяются системы распознавания речи, которые трансформируют надиктованные врачами на диктофон записи в электронные.

Весьма показателен пример такого полноценного ИИ, как система поддержки принятия решений в онкологии IBM Watson. Широкое распространение носимых устройств – «умных» часов, браслетов и фитнес-трекеров – и сопряжение генерируемых ими данных с системами типа Watson позволит вывести медицину на принципиально новый уровень благодаря персонализированному подходу.

Фарминдустрия использует когнитивные технологии для разработки новых лекарств. Нефтегазовая отрасль применяет технологии, позволяющие производить геологическую разведку. Наконец, наступает Индустрия 4.0 – с приходом Интернета вещей в промышленности могут произойти серьезные изменения, обусловленные внедрением методов предиктивной аналитики, которые будут просчитывать вероятность выхода из строя того или иного агрегата в технологическом процессе.

- Какие принципы должна соблюдать компания при реализации подобных проектов?

Самый очевидный принцип – это принцип разумности. Надо понимать, какую ценность несет та или иная технология для каждой конкретной компании. Сегодня многое из того, что связано с ИИ и когнитивными технологиями в целом, диктуется маркетингом. Компания, намеревающаяся использовать когнитивные технологии, должна четко понимать, какую бизнес-задачу она хочет решить. Иначе разочарование и финансовые потери от неудачной попытки внедрения могут быть значительными – специалистов в данной области очень мало, а стоимость их услуг довольно высокая.

Не нужно забывать и об экономической эффективности, просчитывая эффект от внедрения наряду со сроком окупаемости. Использование когнитивных технологий неразрывно связано с Большими Данными, которые есть не у всех компаний. Совершенно очевидно, что далеко не всем организациям нужны эти технологии. Но те, кто сумеют извлечь выгоду из их внедрения (например, сократить издержки, снизить себестоимость, оптимизировать свои технологические процессы), безусловно, получат неоспоримые преимущества на рынке по сравнению с конкурентами.

- Массовое использование бизнесом когнитивных технологий – вопрос какого времени?

С ответом на этот вопрос все не так однозначно. Прогнозов много, но они часто основываются не только на фактах, но и на материальной заинтересованности того или иного эксперта. Если посмотреть только на факты, то в принципе можно ожидать массового внедрения когнитивных технологий в ближайшие 5-10 лет. Речь идет о беспилотных автомобилях, замене операторов контакт-центров, бухгалтеров и юристов. Но надо сказать, что все могут испортить близорукие политические решения и человеческие страхи.

Больше времени потребуется на такие масштабные проекты, как массовое использование когнитивных технологий в медицине. Есть масса причин, способных замедлить проникновение этих технологий в здравоохранение. Это и вопросы этики, и безопасность данных, и проблемы психологии.

Отдельно хотелось бы отметить: сфера когнитивных технологий обязательно нуждается в жестком регламентировании того, что человечество готово позволить подобного рода системам, а что – нет. Уже сейчас всем специалистам, работающим в этом направлении, понятно, что наступило время очертить рамки для когнитивных систем ввиду их впечатляющего прогресса.

- Можно ли после нескольких удачных инициатив по автоматизации рутинных процессов ожидать вала подобных проектов со стороны остальных компаний, которые сейчас внимательно следят за рынком?

Проблема кадрового голода существует уже сегодня, и это серьезно сдерживает рынок. Сказать, что специалистов по Большим Данным и когнитивным технологиям мало, – это не сказать ничего. Можно утверждать, что это доли процента от общего числа ИТ-специалистов в мировом масштабе, отсюда и получается высокая их стоимость. Например, при поглощении стартапов, работающих с ИИ, крупные компании выделяют колоссальные суммы – 10-20 млн долл. в пересчете на каждого члена команды. За специалистов мирового уровня в когнитивных технологиях платят столько же, сколько за ведущих футболистов! Человечество наконец-то начинает находить правильные критерии оценки индивидуального вклада отдельно взятой личности во всеобщее благо.

- Насколько серьезна угроза для сотрудников (в том числе занятых интеллектуальным трудом), которые могут попасть в волну автоматизации?

Хотелось бы выделить две категории специалистов, наиболее подверженных риску быть вытесненными когнитивными технологиями. Во-первых, это специалисты низкой и средней квалификации. Здесь когнитивные технологии (в частности, роботы) способны полностью «забрать» некоторые профессии себе. В качестве примера можно назвать водителей или бухгалтеров.

Вторая категория – люди с высокой квалификацией, например инженеры и врачи. В ближайшем будущем заменить полностью людей этих профессий вряд ли удастся, но часть их работы возьмут на себя системы с высокоразвитым интеллектом. Людям же, чтобы оставаться «на плаву», придется значительно повышать свою квалификацию, а основы (причем довольно глубокие) кибернетики придется изучать специалистам самых разных направлений. Инженерное образование станет базовым для многих специальностей. Отдельной категорией пока остаются творческие специальности, но и здесь тоже есть серьезные подвижки: недавняя победа компьютера в покерном турнире и победа над чемпионом мира в игру Го, состоявшаяся чуть раньше.

- А как насчет автоматизации работы ИТ-специалистов?

Рутинную работу, безусловно, возьмут на себя машины. Уже сегодня мы имеем возможность создавать веб-сервисы, в которых большая часть программного кода генерируется автоматически, причем даже без привлечения ИИ. Чтобы оставаться востребованным, каждому человеку придется постоянно повышать свою квалификацию, иначе можно оказаться не у дел.

Приведу пример хорошо мне знакомого французского ИТ-рынка, на котором происходят, на первый взгляд, парадоксальные вещи. Так, биржа труда заявляет о 40 тыс. безработных в области ИТ и телекоммуникаций, причем большинство имеют более 6-10 лет профессионального стажа! С другой стороны, есть тысячи открытых вакансий, на которые компании месяцами ищут сотрудников. Парадокс перестает быть парадоксом, если просмотреть резюме нескольких соискателей: люди предлагают работодателю навыки, полученные в эпоху мэйнфреймовых систем IBM, вместо того чтобы переучиться. Помните «Собачье сердце» Булгакова? «Разруха в головах!» Так и с работой ИТ-специалистов: надо постоянно развиваться.

- Как вы считаете, в каком направлении будут развиваться системы машинного обучения в обозримом будущем?

Очевидный сегодня тренд – это нейросети. Однако для их обучения требуются огромные массивы данных, иначе вероятность ошибки на выходе будет довольно высокой. Крайне интересными являются методы, основанные на полуавтоматическом обучении нейросетей. Эти методы позволяют значительно сократить количество данных, необходимых для обучения.

Также, думаю, все больше будет происходить перемешивание живых и кибернетических систем. Особо интересным направлением является психоэмоциональная сфера. Обучение ИИ эмоциям – задача весьма нетривиальная. Повышенный интерес уже проявляется (и дальше будет только нарастать) к этическим аспектам применения когнитивных технологий в целом.