Новости

В результате интеллектуализации чат-ботов клиенты получили возможность управлять заказами, проверять количество баллов и статус карты, а также узнавать другие персонализированные данные непосредственно в диалоге. В целом за год проникновение в отрасль чат-ботов увеличилось на 23%, а голосовых помощников — на 350%.

В 2023 году ретейлеры усилили инвестиции в автоматизацию дистанционного клиентского сервиса. Количество чат-ботов, внедренных в текстовые каналы, за год выросло на 23%. Этот тип интеллектуальных помощников теперь встречается у каждого третьего представителя розничной торговли. По уровню проникновения чат-ботов ретейл обошел другие отрасли: например, эту технологию в неавторизованной зоне используют 23% банков и 15% страховых компаний. Количество голосовых ботов на телефонных линиях увеличилось на 350% за год, в результате чего проникновение в отрасль составило 12%. По этому показателю розница находится на втором месте, уступая лишь банкам.

Наиболее популярными каналами для внедрения чат-ботов в ретейле стали чат на сайте, мессенджер Telegram и чат в мобильном приложении. На Viber приходится 10% текстовых помощников, на VK — 8%, на WhatsApp — 7%, а на «Одноклассники» — 3%. Чаще всего ретейлеры выбирают один или два канала для внедрения текстовых ботов.

Чат-боты научились оказывать услуги

В 2023 году чат-боты представителей розницы вышли на новый технологический уровень — они не просто оперируют общими сведениями или перенаправляют на страницы, содержащие ответ, а оказывают сервис. Почти половина компаний интегрировала интеллектуального помощника с внутренними системами, благодаря чему прямо в диалоге клиент может как получать информацию, связанную с аккаунтом, так и управлять своими заказами, например, отменять или переносить дату доставки. Также большинство ретейлеров добавляет в ботов кнопки-подсказки (саджесты), чтобы ускорить диалог: в этом году подобную функциональную возможность демонстрировали 88% текстовых помощников.

Как отмечают в Naumen, включение в задачи чат-ботов не только консультаций, но и предоставления сервисов — это путь к получению максимального эффекта от автоматизации. Интеграция бота-помощника с внутренними системами позволяет ему давать конкретные и персонализированные ответы на вопросы клиента, способные решить проблему с первого раза. Это повышает долю диалогов, которые бот обрабатывает без подключения оператора, и дает экономию операционных затрат.

Интересной особенностью работы чат-ботов в ретейле стал сбор данных о проблеме перед переводом клиента в службу поддержки: текстовый помощник уточняет имя пользователя, город, номер заказа и другие детали.

Такой подход часто встречается в случаях, когда чат-бот еще не интегрирован с внутренними системами и не может сам получить нужную информацию из них. Но, собирая данные по клиенту и передавая их человеку, он существенно экономит время операторов в диалоге и высвобождает его для других задач. Кроме того, такой подход неплохо себя показывает в сложных сценариях, которые дорого или проблемно автоматизировать полностью, а частичная автоматизация со сбором данных дает неплохой эффект.

Ретейлеры усиливают IVR-меню голосовым помощником

Голосовые помощники в ретейле также демонстрируют высокий технологический уровень. Практически каждый бот (93%) корректно работает с паузами в речи клиента. 79% помощников могут отделить голос звонящего от сторонних шумов, присутствующих во время беседы. Каждый второй голосовой робот обрабатывает несколько вопросов за одну сессию, а также реагирует на просьбу клиента подождать или повторить. 29% ботов уточняют у звонящего, удалось ли решить его вопрос.

Ретейлеры часто совмещают голосовых помощников с IVR-меню: бот подключается к разговору после активации кнопки и отвечает на вопросы только в рамках соответствующей ей темы. Доля голосовых роботов, встроенных в IVR, не изменилась с прошлого года и составила 29% от всех помощников на телефонных линиях.

Наименее востребованным диалоговым навыком оказалась восприимчивость к перебиванию: в ходе исследования только 7% голосовых помощников реагировали на попытки звонящего перехватить слово.

Возможность перебить голосового помощника делает его более похожим на живого собеседника, но при обслуживании входящих звонков многие компании не стремятся сделать бот максимально человекоподобным. Думая, что разговаривают с человеком, клиенты могут не так четко формулировать проблему, как обычно делают это с ботами, чаще отклоняться от основной темы. А плохо настроенное перебивание, когда бот реагирует на сторонние звуки, как на попытку его прервать, может вообще мешать обслуживанию. При этом, в отличие от исходящих роботизированных обзвонов с целью продажи, у голосовых помощников на входящей линии нет задачи удержать собеседника в диалоге и зацепить его внимание, ведь клиент ужа заинтересован в разговоре, ему нужно решить свой вопрос.

Больше половины голосовых помощников (57%) в ретейле использует технологию синтеза речи при озвучивании реплик. 29% ботов на входящих линиях получают «голос» благодаря дикторским записям. Оставшиеся 14% совмещают в себе оба подхода.

Технология синтеза речи пока не позволяет добиться сильной человекоподобности, но ее применение оправдано, если в сценарии диалогов много переменных данных — суммы, адреса магазинов, имена и фамилии и прочее, которые сложно и долго озвучивать человеку.

Рейтинг

В топ-5 компаний с лучшими чат-ботами по качеству консультаций, диалоговым навыкам и степени масштабирования в цифровые каналы вошли «Спортмастер», «Детский мир», «М.Видео-Эльдорадо», «Сбермегамаркет» и «Лэтуаль».

Пятерку организаций с лучшими голосовыми помощниками по качеству консультаций и диалоговым навыкам составили «Утконос», «М.Видео-Эльдорадо», «Еаптека», «Сбермегамаркет» и «Протек Ригла».

«Метавселенную» описывали, как новый этап развития Интернета: постоянно существующие взаимно соединенные 3D-пространства для работы, игр и не только. Однако технологии, на базе которых предполагалось строить метавселенную, сильно отстали от хайпа вокруг нее, в том числе из-за неудобства и дороговизны очков виртуальной реальности.

Всеобщий ажиотаж сегодня переключился на генеративный искусственный интеллект, его возможности и опасности, а метавселенная отошла в тень. И неудивительно: Meta, бывшая Facebook (признана в России экстремистской организацией и запрещена — Прим. ред.), потратила миллиарды на развитие систем виртуальной реальности, но продажи AR/VR-очков не оправдали ожиданий. Microsoft, в свою очередь, закрыла AltspaceVR, социальную сеть с пространствами виртуальной реальности, купленную корпорацией в 2017 году.

Аналитики Forrester считают, что для метавселенной настала «зима», которая неизвестно сколько продлится, однако сама концепция не исчезнет: в будущем определенно есть место чему-то подобному, некой 3D-надстройке над Интернетом. И в Forrester, и в Gartner считают, что на разработку такой надстройки уйдет еще порядка десятилетия.

Несмотря на утихшую шумиху, разработка ПО и оборудования для метавселенной продолжается: По данным отчета McKinsey, в 2022 году в развитие таких технологий вложили больше 120 млрд долл. Есть даже подвижки в плане стандартизации — появилась организация Metaverse Standards Forum. В 2023 году объявления от ИТ-гигантов по поводу метавселенной сошли на нет, но вместе с тем начался сдвиг в сторону «малых метавселенных», изолированных бизнес-применений систем дополненной и виртуальной реальности.

Оксфордский университет и компания Protiviti в декабре 2022-го — феврале 2023 года провели опрос руководителей в международных компаниях, и 45% респондентов сообщили, что уже пользуются подобными технологиями для взаимодействия с клиентами, в том числе в 79% случаев — для маркетинга и рекламы, а в 43% — для шопинга с дополненной реальностью и моделирования продуктов.

Компании Nike, Lego, Walmart, H&M и Coca-Cola открыли представительства в 3D-мирах игр Roblox, Fortnite и Minecraft Marketplace — их называют ранними формами метавселенной, так же как и цифровые миры на основе блокчейна Decentraland и Sandblox.

При этом сами виртуальные 3D-миры появились уже очень давно: социальная платформа Second Life была запущена еще в 2003 году, а Roblox — три года спустя, хотя популярность последней резко выросла только недавно.

Продавать товары геймерам, населяющим виртуальные миры, может быть очень выгодно: ретейлер одежды Forever 21 в конце прошлого года продал больше миллиона экземпляров виртуальной шапочки в Roblox примерно по доллару каждая, потратив на ее разработку и запуск всего 500 долл. Впоследствии компания начала продавать реальное воплощение шапки, чтобы покупатели могли выглядеть, как их аватары.

В торговле начинают активно применять дополненную реальность: в магазинах Cartier's с помощью AR можно примерять кольца и знакомиться с дорогостоящими ювелирными изделиями, которые продаются только по специальному заказу. Приложения дополненной реальности для дистанционного ознакомления с товарами также есть у Gucci и IKEA.

Что касается попыток задействовать виртуальную и смешанную реальность для совместной работы, согласно анкетированию Forrester 2022 года, лишь 8% из 10 тыс. опрошенных сотрудников еженедельно пользуются VR-очками для рабочих задач, поскольку эти устройства тяжелые, неудобные и дорогостоящие.

Однако такие попытки продолжаются: например, в феврале этого года колумбийский суд провел двухчасовое заседание в виртуальной среде — все участники присутствовали в VR-очках и отображались в цифровом мире в виде аватаров. Виртуальная версия заседания также транслировалось на YouTube. А два шотландских суда предложили жертвам и свидетелям возможность заранее ознакомиться с 3D-репрезентацией зала заседаний с помощью VR-очков, чтобы потом легче было давать показания на реальном суде.

Продолжает разработку технологий метавселенной и Microsoft, хотя и понизила их приоритет. К примеру, недавно было объявлено о создании виртуальных пространств Mesh, в которых сотрудники, надев VR-очки, могут проводить совещания в виде аватаров.

Считается, что к ситуациям применения AR и VR, которые воплотятся в жизнь с наибольшей вероятностью, относится дистанционная помощь, когда опытный специалист связывается с работником через подобную систему, а также удаленное обучение. Что касается последнего, уже существуют компании, успешно работающие в этой области.

Среди участников опроса Оксфордского университета и Protivity 54% тоже считают, что в следующее десятилетие технологии метавселенной будут использоваться для обучения. На втором месте (45%), оказалась совместная работа, а далее следовали подбор кадров (41%) и внутрикорпоративные мероприятия (35%).

Еще одна область инвестиций в корпоративные технологии метавселенной — цифровые двойники, позволяющие ускоренно моделировать различные сценарии, что обходится гораздо дешевле, чем тестирование на реальных объектах. От представлений о метавселенной цифровые двойники пока далеки, но ежегодный объем соответствующего рынка исчисляется миллиардами долларов.

В Mercedez Benz в этом году начали создавать 3D-копии заводского оборудования для планирования и оптимизации процессов путем моделирования. Это делается с помощью инструментария Nvidia Omniverse, который предлагается в качестве «платформы создания и эксплуатации приложений метавселенной». Цифровые двойники применяются в Rolls-Royce, Mars и компании McLaren Group, обслуживающей одноименную команду Formula 1. Важную роль в создании 3D-сред цифровых двойников начинают играть компании Unreal и Unity, разработчики популярных движков для видеоигр, — обе сейчас набирают корпоративных клиентов в различных отраслях.

Отчасти скептицизм по поводу метавселенной связан с низкими продажами AR/VR-очков. В 2022 году, по данным IDC, их поставки упали на 21%, составив 8,8 млн единиц, притом что еще несколько лет назад прогнозировался резкий ежегодный рост. Не исключено, что рынку приложений дополненной реальности в следующем году поможет выход AR-очков Apple Vision Pro, но пока не ясно, собираются ли в Apple предлагать их бизнесу. По сведениям Bloomberg, даже в самой Apple мнения о вероятности успеха этого устройства разделились.

В силу специфики производственных процессов предприятие «Аммоний» предъявляет особые требования к соблюдению требований производственной безопасности и охраны труда, в том числе к перемещению по опасным зонам. Его руководство приняло решение изучить вопрос по использованию системы позиционирования персонала на своем производстве.

В основе системы лежит три элемента: умные каски с радиомодулем, базовая станция, принимающая сигнал, и аналитический сервер. Диспетчер в удобном интерфейсе может в реальном времени видеть геоданные каждого сотрудника, что позволяет контролировать нахождение в опасных зонах, состояние, оперативно получать сигнал о опасном событии.

Кроме того, система регистрирует информацию об ударах, падениях, длительной неподвижности, температуре в зоне работ. Также в функционал решения входит контроль наличия каски на голове сотрудника, экстренный вызов помощи, оповещение оператора и руководства об инцидентах.

В рамках развития проекта планируется провести интеграцию с программной составляющей системы управления охраны труда, а также добавить возможность отслеживания ношения сумки с противогазом.

Влияние чатботов на основе систем генеративного искусственного интеллекта и больших языковых моделей на сферу кибербезопасности является предметом острых дискуссий. В основном говорят о рисках, и на некоторых предприятиях даже запретили использование ChatGPT и подобных сервисов, так как есть опасения, что они могут раскрывать конфиденциальную информацию и что злоумышленники с их помощью будут совершенствовать атаки. Однако при помощи таких чатботов можно и укреплять кибербезопасность на предприятиях. Как именно?

В частности, пользуясь моделями генеративного ИИ, можно значительно улучшить механизмы поиска брешей безопасности в коде. Согласно докладу Cloud Security Alliance, API для модели Codex, созданной в компании OpenAI, можно применять в роли эффективного сканера уязвимостей в коде на Си, C#, Java и JavaScript.

Боты вроде ChatGPT также могут давать пояснения по поводу идентификаторов угроз, обнаруживаемых средствами безопасности. Код угрозы может ни о чем не говорить специалисту, а сервис подробно объяснит, к чему он относится, и приведет пример атаки. В компании OX Security, к примеру, создали OX-GPT — инструмент на базе ChatGPT, интегрируемый в конвейеры поставки ПО, который объясняет сообщения средств контроля о небезопасном коде и предлагает исправления.

На базе сервисов генеративного ИИ также созданы инструменты, которые добавляют конструктивные комментарии к коду, полученному в результате работы декомпиляторов вроде IDA Pro и Ghidra. Еще один инструмент анализирует вызовы API, обнаруженные внутри исполняемых файлов, и разъясняет их назначение — такие средства значительно упрощают изучение потенциально вредоносных программ.

Модели генеративного ИИ можно применять для анализа рисков цепочки поставок. Компания SecurityScorecard запустила платформу рейтинга надежности поставщиков, интегрированную с моделью OpenAI GPT-4 и способную выполнять поиск в Интернете. Клиенты могут задавать ей вопросы наподобие «Найди десятку поставщиков с самым низким рейтингом из числа моих партнеров» или «Перечисли моих важнейших поставщиков, которые за последний год столкнулись со взломом корпоративных систем». Ответы, как обещают в SecurityScorecard, позволят быстро принимать решения, касающиеся управления рисками.

С помощью больших языковых моделей можно не только генерировать текст, но и распознавать текст, написанный системами ИИ. Не исключено, что последнее станет стандартной функцией средств защиты электронной почты, отсеивающих фишинговые сообщения. А благодаря способности обнаруживать закономерности искусственный интеллект также мог бы распознавать полиморфные вирусы, код которых меняется при каждом выполнении, чтобы избежать обнаружения средствами безопасности.

Специалисты по безопасности могут пользоваться способностями ChatGPT и похожих сервисов к формированию кода. Например, с их помощью можно писать запросы к системам наподобие YARA, которая позволяет формировать правила для автоматического распознавания семейств вредоносных программ.

Был также проведен эксперимент с теоретической ситуацией, когда ряд сотрудников организации открыли фишинговое сообщение, но осталось неясным, кто из них запустил вредоносное вложение. ChatGPT попросили написать запрос к антивирусу Microsoft 365 Defender, который бы позволил идентифицировать десять последних попыток входа в системы получателями фишинговых сообщений в течение 30 минут после получения. Сервис мгновенно выдал ответ, благодаря чему можно было бы быстро выявить подозрительные попытки входа. ChatGPT также затем попросили перевести запрос на стандартный язык SQL, и система справилась с задачей — теоретически эта возможность удобна, если средства безопасности на предприятии поддерживают иные языки запросов, чем Defender.

Великобритания рискует столкнуться с растущим разрывом между организациями, которые инвестировали в новые цифровые технологии с поддержкой искусственного интеллекта, и теми, кто этого не сделал.

За последние пять лет только 36% британских работодателей начали внедрение технологий, использующих искусственный интеллект: промышленных роботов, чат-ботов, интеллектуальных помощников и облачных вычислений. Такие результаты дал общенациональный опрос, проведенный исследовательским центром Digital Futures at Work (Digit). При этом лишь 10% работодателей из числа тех, кто еще не начинал внедрение таких технологий, планируют выделить на них средства в ближайшие два года.

Результаты опроса указывают также на растущую проблему квалификации сотрудников. Меньше 10% работодателей видят необходимость инвестировать в обучение сотрудников навыкам работы с цифровыми технологиями, несмотря на то, что 75% отмечают трудности в поиске сотрудников с нужными навыками. Почти 60% работодателей сообщили, что за прошедший год ни один из их сотрудников не проходил формального обучения работе с цифровыми технологиями. Основными причинами отказа от вложений в новые технологии опрошенные называют отсутствие областей применения ИИ в их деловой деятельности, общие риски для бизнеса и необходимость специфических навыков.

Согласно новому прогнозу IDC, объемы продаж на рынке корпоративных приложений в 2027 году достигнут 483,1 млрд долл. при среднегодовом темпе роста в 9,6% за пять лет. Почти весь этот рост будет получен за счет инвестиций в программное обеспечение для публичных облачных сред, на долю которого, как ожидается, в 2027 году будет приходиться более двух третей от общей суммы продаж корпоративных приложений. Опрос IDC SaaSPath, проводившийся в 2023 году и охватывавший 2875 респондентов, показал, что 51% организаций намерены и дальше сохранять у себя существующие приложения, а 46% планируют заменить их в течение ближайших трех лет. В условиях ускорения перехода в облако уровень конкуренции на рынке корпоративных приложений в ближайшие годы будет весьма высок.

Организации продолжат инвестировать в новые инструменты, автоматизируя все свои процессы и используя инновации и многообразие имеющихся данных в стремлении повысить свою креативность и устойчивость. Исследование IDC показало, что многие готовы платить больше за облачную архитектуру, включающую в себя микросервисы и контейнеры, за машинное обучение и искусственный интеллект, а также за прогнозную аналитику. Цифровая эра открывает перед поставщиками корпоративных приложений новые горизонты для создания более качественных и инновационных продуктов с богатыми функциональными возможностями. Рыночное будущее корпоративных приложений определяется их конкурентоспособностью, способностью завоевывать свою долю рынка благодаря отличительным особенностям, заложенным в технологии. Мир корпоративных приложений меняется, и лучшее для него еще впереди. Помимо продолжающейся миграции в облако в IDC выявили на рынке и другие важные изменения, стимулирующие его рост.

— Для ускорения внедрения инноваций, автоматизации повторяющихся бизнес-задач, улучшения процесса принятия организационных решений, персонализации взаимодействия с клиентами и сотрудниками и повышения эффективности бизнеса в целом предприятиям имеет смысл использовать генеративный искусственный интеллект. И поставщикам следует учитывать это.

— Компонуемые модульные приложения становятся хорошей альтернативой программным продуктам, разработанным на заказ, благодаря их низкой стоимости и минимальной зависимости от специалистов по разработке полного стека. Модульный подход позволяет разделять сложное программное обеспечение на более простые компоненты, которые создаются и интегрируются независимо друг от друга.

— Приложения объединяют людей и данные для выполнения задач и принятия решений, направленных на повышение эффективности работы организации. Зачастую поставщики целиком сосредотачиваются на информационной стороне, забывая о необходимости совершенствования пользовательского опыта. Поддержание связи в реальном времени, мобильность сотрудников и доступность ресурсов способствуют существенному улучшению пользовательского опыта (CX).

— Автоматизация становится стандартом, и организации по-прежнему испытывают трудности с выявлением и предотвращением фрода. Поставщикам необходимо расширять функционал антифрода, используя искусственный интеллект и машинное обучение для анализа шаблонов.

Конкуренция на глобальном рынке корпоративных приложений обостряется. Совокупная доля десяти лидеров – SAP, Salesforce, Oracle, Microsoft, Intuit, Workday, Constellation Software, Siemens, Dassault Systemes и Autodesk – в 2022 году составила всего 30,8%. В ведущей десятке за последние два года также произошли определенные изменения в плане объема заказов и рыночной доли. На рынке сегодня представлено как специализированное ПО для конкретной отрасли, так и приложения, способные удовлетворять потребности сразу нескольких отраслей, интегрированные пакеты и автономные приложения, автоматизирующие конкретный функционал: бухгалтерский учет, управление кадрами или цепочками поставок. Рынок корпоративных приложений подразделяется на ряд сегментов, включая ERP, CRM, SCM, инженерные и производственные приложения. 

Эксперты К2Тех провели исследование ситуации на рынке систем хранения данных. По его результатам выяснилось, что сегодня компании enterprise-сегмента проявляют интерес к азиатским решениям, однако для внедрения предпочитают СХД российских производителей. 10% респондентов отметили, что уже приступили к масштабированию своей инфраструктуры с использованием отечественных решений.

Исследование рынка показало, что 74% компаний нацелены как на замещение, так и на расширение парка имеющихся СХД в связи с ростом объема хранимых данных. Поэтому компании сейчас активно рассматривают все доступные на рынке варианты. При этом 16% заявили, что на данном этапе не готовы отказываться от решений, на которых они исторически построили свою ИТ-инфраструктуру. В числе основных вендоров респонденты назвали Dell EMC, IBM, HPE, NetApp, Huawei и Hitachi. Они отметили, что не планируют миграцию до окончания срока их эксплуатации, а потому пользуются услугами сервисной поддержки через ИТ-партнеров или ищут способы закупки запчастей самостоятельно. 10% компаний уже масштабируют свою ИТ-инфраструктуру на доступных на российском рынке аппаратных и программных решениях.

Говоря о допустимых альтернативах для имеющихся СХД, 71% ответили, что рассматривают решения российских вендоров, в том числе включенные в Единый реестр российской радиоэлектронной продукции. 61% готовы прибегнуть к параллельному импорту, чтобы иметь возможность как эксплуатировать привычные решения и дальше, так и приобретать новые модели. И 58% заинтересованы в предложениях азиатских вендоров, таких как Maipu, Infortrend и QSAN. Исключительно российские СХД рассматривают 19% компаний, а исключительно зарубежные (посредством параллельного импорта) — 13%. При этом 16% компаний затрудняются в выборе между отечественными и азиатскими СХД.

Как отмечают эксперты, законодательная инициатива по импортозамещению зарубежных компонентов на всех объектах КИИ стимулировала рост спроса на российские решения. Как следствие, заказчики стали предъявлять к отечественным производителям более высокие требования. Все эти факторы положительно повлияли как на функциональное развитие российских СХД, так и на уровень доверия к ним на рынке. Например, все чаще наблюдается интерес к линейке СХД Tatlin от компании Yadro, а также к программным СХД от BAUM, «Аэродиск» и других вендоров.

В то же время, технологический уровень азиатских СХД сейчас выше отечественных. Однако компании пока не торопятся перейти от этапов тестирования и пилотирования решений к реальным внедрениям. Во-первых, это обусловлено тем, что СХД азиатских производителей не входят в Единый реестр российской радиоэлектронной продукции, а значит не соответствуют в полной мере требованиям регулятора. В большинстве своем интерес к ним проявляют компании, не имеющие критических элементов в инфраструктуре. Во-вторых, азиатские СХД — это относительно новые для российского рынка решения, не имеющие внедрений с зафиксированными показателями эффективности на отечественном ИТ-ландшафте. Заказчики хотят получить максимум информации об этих решениях, чтобы убедиться в их надежности.

Станет ли искусственный интеллект когда-либо достаточно умным, чтобы опрокинуть устои информационной безопасности? Если ИИ уже сегодня помогает защищать компьютеры от атак, то почему бы не применить его же для подрыва стандартных протоколов безопасности? Стремительная эволюция ИИ указывает на то, что это вполне вероятно.

Многие системы машинного обучения в значительной степени полагаются на статистические методы, как и многие виды кибератак и алгоритмы шифрования. В условиях свободной доступности новых инструментариев машинного обучения с ними экспериментируют и взломщики, и специалисты по защите: первые ищут с их помощью уязвимые места, вторые — признаки атак.

Криптограф Пол Кохер, при участии которого в свое время был взломан алгоритм шифрования DES, считает, что ИИ будет лучше справляться с поиском ошибок и проверкой кода, чем фаззинг — подача на вход системы случайных данных с расчетом вызвать отказ. Примеры уже есть: в компании Coinbase, являющейся оператором криптобиржи, попросили ChatGPT проверить смарт-контракт, работавший в блокчейне Ethereum, и сервис выдал перечень слабых мест и рекомендаций по их устранению. Скорее всего, при этом ИИ опирался на ранее проходившие публичные обсуждения аналогичных уязвимостей.

К коммерческому применению такого подхода приступает Microsoft — в корпорации создали AI Securoty Copilot, вариант ChatGPT4 с углубленными знаниями протоколов и алгоритмов шифрования, который может отвечать на вопросы о безопасности.

А специалисты компании Claroty с помощью ChatGPT выиграли конкурс по взлому систем промышленного Интернета вещей Pwn2Own — бот помог им написать код для одновременного использования нескольких уязвимостей. Хакеры могут заставить ИИ менять существующий код — эксперты по безопасности уже говорят о появлении «мутаций» вредоносных программ, созданных искусственным интеллектом, который был обучен на существующих вирусах.

Крупные поставщики ПО безопасности сегодня наделяют свои продукты средствами ИИ для обнаружения аномалий и проблем в корпоративных сетевых средах — при этом используется как машинное обучение, так и статистические методы формирования умозаключений.

Но может ли ИИ обнаруживать слабые места в фундаментальных механизмах кибербезопасности — алгоритмах шифрования? Пока что этого не происходит, но сама проблема широко обсуждается. Большие модели представляют собой наборы статистических связей, сгруппированных в несколько иерархий. По мере роста размера они становятся все более мощными — поразительные результаты последнего времени были достигнуты просто благодаря резкому увеличению количества параметров и весов.

Большие модели машинного обучения сегодня, как правило, опираются на линейную математику с построением цепочек очень больших матриц и тензоров. Лучшие алгоритмы шифрования, между тем, напротив, умышленно реализованы нелинейно. Например, AES и SHA шифруют данные путем многократной обработки с помощью специальных нелинейных функций — S-блоков. При этом используется достаточное количество проходов, чтобы алгоритм был защищен от известных статистических атак. Между тем, некоторые из таких атак имеют немало общего с современным ИИ — специалисты по криптографии с помощью статистики моделируют прохождение данных через алгоритм шифрования практически так же, как системы ИИ моделируют учебные данные.

Известный пример статистической атаки — метод дифференциального криптоанализа. Когда он был предложен в 1990 году Эли Бихамом и Ади Шамиром, то создателям ряда алгоритмов, в том числе стандарта DES, пришлось их дорабатывать с целью защиты от такой атаки. Алгоритмы наподобие AES, защищенные от дифференциального криптоанализа, в теории должны выдержать атаку со стороны ИИ, опирающуюся на аналогичные линейные статистические методы.

Что касается возможности взлома шифров с помощью ИИ, можно также отметить, что алгоритмы криптографии оперируют с числами, имеющими большое количество знаков после запятой, тогда как в алгоритмах машинного обучения подобная точность обычно не нужна. С другой стороны, ничто не мешает заняться их доработкой в этом отношении, и такие исследования уже идут.

Еще один проблемный вопрос — что изменится по мере разрастания масштаба систем ИИ. Ведь возможно, что после какого-то порога они достаточно «поумнеют», чтобы находить больше уязвимостей, чем это удавалось с помощью традиционных дифференциальных алгоритмов.

Ряд ученых ищут пути объединения возможностей больших языковых моделей с логическими подходами и формальными методами. Возможно, использование автоматизированных механизмов для рассуждения о математических концепциях принесет гораздо больше результатов, чем простые попытки повторения закономерностей из обучающей выборки. Как объясняют специалисты, у больших языковых моделей отсутствует символическая модель формируемых ими результатов. Между тем, на сегодня накоплен уже большой опыт применения формальных методов для поиска брешей безопасности.

Исследователи в области ИИ уже работают над тем, чтобы дополнить возможности больших языковых моделей механизмами символьных вычислений. По словам Стивена Вольфрама, создателя пакета Mathematica и базы знаний Wolfram Alpha, он ставит перед собой именно такую цель. Сейчас в языке программирования Wolfram Language, на котором реализована Wolfram Alpha, — масса закодированных знаний на различные темы, объясняет он, но для реализации символьных рассуждений необходимо добавить численные методы, которые позволят системе, скажем, понять, что если объект переместился из пункта А в пункт Б, а затем в В, то это означает, что он из А переместился в В.

А по мнению Уитфилда Диффи, одного из создателей криптографии с открытым ключом, благодаря подобным подходам ИИ со временем, возможно, сможет самостоятельно делать открытия в малоисследованных областях математики. К примеру, объясняет он, это может быть многомерная геометрия: людям может быть трудно охватить эту область сознанием, а машина благодаря отличиям «мышления», возможно, справится. То же относится к криптоанализу, отмечает Диффи, — если ценность вклада ИИ во взлом систем окажется больше, чем понесенные в связи с этим убытки, то искусственным интеллектом обязательно будут пользоваться в этих целях.

Модели стали неотъемлемой частью бизнес-процессов в современном банковском бизнесе. В то же время это несет в себе риски, связанные с недостаточной точностью, некорректными данными или неправильным применением, а также естественной деградацией точности моделей со временем.

Как отмечает Елизавета Розанова, руководитель Центра интегрированного управления рисками Росбанка, сейчас в разработке и эксплуатации моделей задействованы сотрудники практически всех функций банка, а количество значимых моделей давно превысило сотню и постоянно растет. На таких масштабах уже необходимы системы, которые позволяют управлять моделями, повышать качество их использования и контролировать модельные риски.

Продукты Kolmogorov.ai, разработанные Data Sapience, покрывают все этапы жизненного цикла модели – от постановки задачи до внедрения и мониторинга. Большое внимание уделяется процессам обработки данных и обеспечению их качества. Проект реализуется при поддержке GlowByte.

С помощью модуля Kolmogorov Predicate специалисты по анализу данных Росбанка осуществляют мониторинг и валидацию моделей. Инструмент содержит широкий выбор преднастроенных тестов и дает возможность добавлять скрипты собственных экспериментов. Kolmogorov Continuity позволяет сопровождать модели, получать рекомендации по ним и сохранять все связанные артефакты. Kolmogorov Axiom используется как каталог наборов данных и признаков, связанных с моделью, и как инструмент для подготовки данных практически без написания SQL-кода.

Росбанк планирует активно развивать проект и расширять использование системы другими подразделениями за счет возможности кастомизации – создания новых шаблонов сопровождения моделей или иных проектов, собственных метрик для мониторинга моделей и внедрения новых источников для наполнения каталога данных и признаков.

Software 2.0 — это отдельное направление технологий разработки, в которое входят плагин для среды разработки, сервер и сама нейросеть на основе генеративного искусственного интеллекта. Она использует разные сценарии: по запросу разработчика выдает функцию или программный код, анализирует написанный код, предлагает варианты его продолжения.

Как ожидают в МТС, применение Software 2.0 позволит сократить время на поиск и исправление ошибок кода и ускорить весь процесс разработки и вывода новых продуктов экосистемы на рынок. При этом использование специальным образом обученной нейросети гарантирует юридическую чистоту и безопасность систем при использовании кодов из предыдущих проектов или открытых площадок, таких как GitHub и других. Зачастую подобные открытые коды несут риски информационной безопасности и утечек данных пользователей из-за багов в системах.

Нейросеть также поможет программистам оперативно и без лишних вложений исправить legacy-код, который может быть написан не в целевом для компании стеке с использованием устаревших технологий. Software 2.0 автоматически переведет код на новый технологический стек и поможет устранить ошибки, облегчив дальнейшую доработку.

На текущий момент Software 2.0 уже работает с двумя языками программирования — Python и Java. До конца года планируется покрыть также GoLang и JavaScript с различными фреймворками, TypeScript и другие.