Новости

В силу специфики производственных процессов предприятие «Аммоний» предъявляет особые требования к соблюдению требований производственной безопасности и охраны труда, в том числе к перемещению по опасным зонам. Его руководство приняло решение изучить вопрос по использованию системы позиционирования персонала на своем производстве.

В основе системы лежит три элемента: умные каски с радиомодулем, базовая станция, принимающая сигнал, и аналитический сервер. Диспетчер в удобном интерфейсе может в реальном времени видеть геоданные каждого сотрудника, что позволяет контролировать нахождение в опасных зонах, состояние, оперативно получать сигнал о опасном событии.

Кроме того, система регистрирует информацию об ударах, падениях, длительной неподвижности, температуре в зоне работ. Также в функционал решения входит контроль наличия каски на голове сотрудника, экстренный вызов помощи, оповещение оператора и руководства об инцидентах.

В рамках развития проекта планируется провести интеграцию с программной составляющей системы управления охраны труда, а также добавить возможность отслеживания ношения сумки с противогазом.

Влияние чатботов на основе систем генеративного искусственного интеллекта и больших языковых моделей на сферу кибербезопасности является предметом острых дискуссий. В основном говорят о рисках, и на некоторых предприятиях даже запретили использование ChatGPT и подобных сервисов, так как есть опасения, что они могут раскрывать конфиденциальную информацию и что злоумышленники с их помощью будут совершенствовать атаки. Однако при помощи таких чатботов можно и укреплять кибербезопасность на предприятиях. Как именно?

В частности, пользуясь моделями генеративного ИИ, можно значительно улучшить механизмы поиска брешей безопасности в коде. Согласно докладу Cloud Security Alliance, API для модели Codex, созданной в компании OpenAI, можно применять в роли эффективного сканера уязвимостей в коде на Си, C#, Java и JavaScript.

Боты вроде ChatGPT также могут давать пояснения по поводу идентификаторов угроз, обнаруживаемых средствами безопасности. Код угрозы может ни о чем не говорить специалисту, а сервис подробно объяснит, к чему он относится, и приведет пример атаки. В компании OX Security, к примеру, создали OX-GPT — инструмент на базе ChatGPT, интегрируемый в конвейеры поставки ПО, который объясняет сообщения средств контроля о небезопасном коде и предлагает исправления.

На базе сервисов генеративного ИИ также созданы инструменты, которые добавляют конструктивные комментарии к коду, полученному в результате работы декомпиляторов вроде IDA Pro и Ghidra. Еще один инструмент анализирует вызовы API, обнаруженные внутри исполняемых файлов, и разъясняет их назначение — такие средства значительно упрощают изучение потенциально вредоносных программ.

Модели генеративного ИИ можно применять для анализа рисков цепочки поставок. Компания SecurityScorecard запустила платформу рейтинга надежности поставщиков, интегрированную с моделью OpenAI GPT-4 и способную выполнять поиск в Интернете. Клиенты могут задавать ей вопросы наподобие «Найди десятку поставщиков с самым низким рейтингом из числа моих партнеров» или «Перечисли моих важнейших поставщиков, которые за последний год столкнулись со взломом корпоративных систем». Ответы, как обещают в SecurityScorecard, позволят быстро принимать решения, касающиеся управления рисками.

С помощью больших языковых моделей можно не только генерировать текст, но и распознавать текст, написанный системами ИИ. Не исключено, что последнее станет стандартной функцией средств защиты электронной почты, отсеивающих фишинговые сообщения. А благодаря способности обнаруживать закономерности искусственный интеллект также мог бы распознавать полиморфные вирусы, код которых меняется при каждом выполнении, чтобы избежать обнаружения средствами безопасности.

Специалисты по безопасности могут пользоваться способностями ChatGPT и похожих сервисов к формированию кода. Например, с их помощью можно писать запросы к системам наподобие YARA, которая позволяет формировать правила для автоматического распознавания семейств вредоносных программ.

Был также проведен эксперимент с теоретической ситуацией, когда ряд сотрудников организации открыли фишинговое сообщение, но осталось неясным, кто из них запустил вредоносное вложение. ChatGPT попросили написать запрос к антивирусу Microsoft 365 Defender, который бы позволил идентифицировать десять последних попыток входа в системы получателями фишинговых сообщений в течение 30 минут после получения. Сервис мгновенно выдал ответ, благодаря чему можно было бы быстро выявить подозрительные попытки входа. ChatGPT также затем попросили перевести запрос на стандартный язык SQL, и система справилась с задачей — теоретически эта возможность удобна, если средства безопасности на предприятии поддерживают иные языки запросов, чем Defender.

Великобритания рискует столкнуться с растущим разрывом между организациями, которые инвестировали в новые цифровые технологии с поддержкой искусственного интеллекта, и теми, кто этого не сделал.

За последние пять лет только 36% британских работодателей начали внедрение технологий, использующих искусственный интеллект: промышленных роботов, чат-ботов, интеллектуальных помощников и облачных вычислений. Такие результаты дал общенациональный опрос, проведенный исследовательским центром Digital Futures at Work (Digit). При этом лишь 10% работодателей из числа тех, кто еще не начинал внедрение таких технологий, планируют выделить на них средства в ближайшие два года.

Результаты опроса указывают также на растущую проблему квалификации сотрудников. Меньше 10% работодателей видят необходимость инвестировать в обучение сотрудников навыкам работы с цифровыми технологиями, несмотря на то, что 75% отмечают трудности в поиске сотрудников с нужными навыками. Почти 60% работодателей сообщили, что за прошедший год ни один из их сотрудников не проходил формального обучения работе с цифровыми технологиями. Основными причинами отказа от вложений в новые технологии опрошенные называют отсутствие областей применения ИИ в их деловой деятельности, общие риски для бизнеса и необходимость специфических навыков.

Согласно новому прогнозу IDC, объемы продаж на рынке корпоративных приложений в 2027 году достигнут 483,1 млрд долл. при среднегодовом темпе роста в 9,6% за пять лет. Почти весь этот рост будет получен за счет инвестиций в программное обеспечение для публичных облачных сред, на долю которого, как ожидается, в 2027 году будет приходиться более двух третей от общей суммы продаж корпоративных приложений. Опрос IDC SaaSPath, проводившийся в 2023 году и охватывавший 2875 респондентов, показал, что 51% организаций намерены и дальше сохранять у себя существующие приложения, а 46% планируют заменить их в течение ближайших трех лет. В условиях ускорения перехода в облако уровень конкуренции на рынке корпоративных приложений в ближайшие годы будет весьма высок.

Организации продолжат инвестировать в новые инструменты, автоматизируя все свои процессы и используя инновации и многообразие имеющихся данных в стремлении повысить свою креативность и устойчивость. Исследование IDC показало, что многие готовы платить больше за облачную архитектуру, включающую в себя микросервисы и контейнеры, за машинное обучение и искусственный интеллект, а также за прогнозную аналитику. Цифровая эра открывает перед поставщиками корпоративных приложений новые горизонты для создания более качественных и инновационных продуктов с богатыми функциональными возможностями. Рыночное будущее корпоративных приложений определяется их конкурентоспособностью, способностью завоевывать свою долю рынка благодаря отличительным особенностям, заложенным в технологии. Мир корпоративных приложений меняется, и лучшее для него еще впереди. Помимо продолжающейся миграции в облако в IDC выявили на рынке и другие важные изменения, стимулирующие его рост.

— Для ускорения внедрения инноваций, автоматизации повторяющихся бизнес-задач, улучшения процесса принятия организационных решений, персонализации взаимодействия с клиентами и сотрудниками и повышения эффективности бизнеса в целом предприятиям имеет смысл использовать генеративный искусственный интеллект. И поставщикам следует учитывать это.

— Компонуемые модульные приложения становятся хорошей альтернативой программным продуктам, разработанным на заказ, благодаря их низкой стоимости и минимальной зависимости от специалистов по разработке полного стека. Модульный подход позволяет разделять сложное программное обеспечение на более простые компоненты, которые создаются и интегрируются независимо друг от друга.

— Приложения объединяют людей и данные для выполнения задач и принятия решений, направленных на повышение эффективности работы организации. Зачастую поставщики целиком сосредотачиваются на информационной стороне, забывая о необходимости совершенствования пользовательского опыта. Поддержание связи в реальном времени, мобильность сотрудников и доступность ресурсов способствуют существенному улучшению пользовательского опыта (CX).

— Автоматизация становится стандартом, и организации по-прежнему испытывают трудности с выявлением и предотвращением фрода. Поставщикам необходимо расширять функционал антифрода, используя искусственный интеллект и машинное обучение для анализа шаблонов.

Конкуренция на глобальном рынке корпоративных приложений обостряется. Совокупная доля десяти лидеров – SAP, Salesforce, Oracle, Microsoft, Intuit, Workday, Constellation Software, Siemens, Dassault Systemes и Autodesk – в 2022 году составила всего 30,8%. В ведущей десятке за последние два года также произошли определенные изменения в плане объема заказов и рыночной доли. На рынке сегодня представлено как специализированное ПО для конкретной отрасли, так и приложения, способные удовлетворять потребности сразу нескольких отраслей, интегрированные пакеты и автономные приложения, автоматизирующие конкретный функционал: бухгалтерский учет, управление кадрами или цепочками поставок. Рынок корпоративных приложений подразделяется на ряд сегментов, включая ERP, CRM, SCM, инженерные и производственные приложения. 

Эксперты К2Тех провели исследование ситуации на рынке систем хранения данных. По его результатам выяснилось, что сегодня компании enterprise-сегмента проявляют интерес к азиатским решениям, однако для внедрения предпочитают СХД российских производителей. 10% респондентов отметили, что уже приступили к масштабированию своей инфраструктуры с использованием отечественных решений.

Исследование рынка показало, что 74% компаний нацелены как на замещение, так и на расширение парка имеющихся СХД в связи с ростом объема хранимых данных. Поэтому компании сейчас активно рассматривают все доступные на рынке варианты. При этом 16% заявили, что на данном этапе не готовы отказываться от решений, на которых они исторически построили свою ИТ-инфраструктуру. В числе основных вендоров респонденты назвали Dell EMC, IBM, HPE, NetApp, Huawei и Hitachi. Они отметили, что не планируют миграцию до окончания срока их эксплуатации, а потому пользуются услугами сервисной поддержки через ИТ-партнеров или ищут способы закупки запчастей самостоятельно. 10% компаний уже масштабируют свою ИТ-инфраструктуру на доступных на российском рынке аппаратных и программных решениях.

Говоря о допустимых альтернативах для имеющихся СХД, 71% ответили, что рассматривают решения российских вендоров, в том числе включенные в Единый реестр российской радиоэлектронной продукции. 61% готовы прибегнуть к параллельному импорту, чтобы иметь возможность как эксплуатировать привычные решения и дальше, так и приобретать новые модели. И 58% заинтересованы в предложениях азиатских вендоров, таких как Maipu, Infortrend и QSAN. Исключительно российские СХД рассматривают 19% компаний, а исключительно зарубежные (посредством параллельного импорта) — 13%. При этом 16% компаний затрудняются в выборе между отечественными и азиатскими СХД.

Как отмечают эксперты, законодательная инициатива по импортозамещению зарубежных компонентов на всех объектах КИИ стимулировала рост спроса на российские решения. Как следствие, заказчики стали предъявлять к отечественным производителям более высокие требования. Все эти факторы положительно повлияли как на функциональное развитие российских СХД, так и на уровень доверия к ним на рынке. Например, все чаще наблюдается интерес к линейке СХД Tatlin от компании Yadro, а также к программным СХД от BAUM, «Аэродиск» и других вендоров.

В то же время, технологический уровень азиатских СХД сейчас выше отечественных. Однако компании пока не торопятся перейти от этапов тестирования и пилотирования решений к реальным внедрениям. Во-первых, это обусловлено тем, что СХД азиатских производителей не входят в Единый реестр российской радиоэлектронной продукции, а значит не соответствуют в полной мере требованиям регулятора. В большинстве своем интерес к ним проявляют компании, не имеющие критических элементов в инфраструктуре. Во-вторых, азиатские СХД — это относительно новые для российского рынка решения, не имеющие внедрений с зафиксированными показателями эффективности на отечественном ИТ-ландшафте. Заказчики хотят получить максимум информации об этих решениях, чтобы убедиться в их надежности.

Станет ли искусственный интеллект когда-либо достаточно умным, чтобы опрокинуть устои информационной безопасности? Если ИИ уже сегодня помогает защищать компьютеры от атак, то почему бы не применить его же для подрыва стандартных протоколов безопасности? Стремительная эволюция ИИ указывает на то, что это вполне вероятно.

Многие системы машинного обучения в значительной степени полагаются на статистические методы, как и многие виды кибератак и алгоритмы шифрования. В условиях свободной доступности новых инструментариев машинного обучения с ними экспериментируют и взломщики, и специалисты по защите: первые ищут с их помощью уязвимые места, вторые — признаки атак.

Криптограф Пол Кохер, при участии которого в свое время был взломан алгоритм шифрования DES, считает, что ИИ будет лучше справляться с поиском ошибок и проверкой кода, чем фаззинг — подача на вход системы случайных данных с расчетом вызвать отказ. Примеры уже есть: в компании Coinbase, являющейся оператором криптобиржи, попросили ChatGPT проверить смарт-контракт, работавший в блокчейне Ethereum, и сервис выдал перечень слабых мест и рекомендаций по их устранению. Скорее всего, при этом ИИ опирался на ранее проходившие публичные обсуждения аналогичных уязвимостей.

К коммерческому применению такого подхода приступает Microsoft — в корпорации создали AI Securoty Copilot, вариант ChatGPT4 с углубленными знаниями протоколов и алгоритмов шифрования, который может отвечать на вопросы о безопасности.

А специалисты компании Claroty с помощью ChatGPT выиграли конкурс по взлому систем промышленного Интернета вещей Pwn2Own — бот помог им написать код для одновременного использования нескольких уязвимостей. Хакеры могут заставить ИИ менять существующий код — эксперты по безопасности уже говорят о появлении «мутаций» вредоносных программ, созданных искусственным интеллектом, который был обучен на существующих вирусах.

Крупные поставщики ПО безопасности сегодня наделяют свои продукты средствами ИИ для обнаружения аномалий и проблем в корпоративных сетевых средах — при этом используется как машинное обучение, так и статистические методы формирования умозаключений.

Но может ли ИИ обнаруживать слабые места в фундаментальных механизмах кибербезопасности — алгоритмах шифрования? Пока что этого не происходит, но сама проблема широко обсуждается. Большие модели представляют собой наборы статистических связей, сгруппированных в несколько иерархий. По мере роста размера они становятся все более мощными — поразительные результаты последнего времени были достигнуты просто благодаря резкому увеличению количества параметров и весов.

Большие модели машинного обучения сегодня, как правило, опираются на линейную математику с построением цепочек очень больших матриц и тензоров. Лучшие алгоритмы шифрования, между тем, напротив, умышленно реализованы нелинейно. Например, AES и SHA шифруют данные путем многократной обработки с помощью специальных нелинейных функций — S-блоков. При этом используется достаточное количество проходов, чтобы алгоритм был защищен от известных статистических атак. Между тем, некоторые из таких атак имеют немало общего с современным ИИ — специалисты по криптографии с помощью статистики моделируют прохождение данных через алгоритм шифрования практически так же, как системы ИИ моделируют учебные данные.

Известный пример статистической атаки — метод дифференциального криптоанализа. Когда он был предложен в 1990 году Эли Бихамом и Ади Шамиром, то создателям ряда алгоритмов, в том числе стандарта DES, пришлось их дорабатывать с целью защиты от такой атаки. Алгоритмы наподобие AES, защищенные от дифференциального криптоанализа, в теории должны выдержать атаку со стороны ИИ, опирающуюся на аналогичные линейные статистические методы.

Что касается возможности взлома шифров с помощью ИИ, можно также отметить, что алгоритмы криптографии оперируют с числами, имеющими большое количество знаков после запятой, тогда как в алгоритмах машинного обучения подобная точность обычно не нужна. С другой стороны, ничто не мешает заняться их доработкой в этом отношении, и такие исследования уже идут.

Еще один проблемный вопрос — что изменится по мере разрастания масштаба систем ИИ. Ведь возможно, что после какого-то порога они достаточно «поумнеют», чтобы находить больше уязвимостей, чем это удавалось с помощью традиционных дифференциальных алгоритмов.

Ряд ученых ищут пути объединения возможностей больших языковых моделей с логическими подходами и формальными методами. Возможно, использование автоматизированных механизмов для рассуждения о математических концепциях принесет гораздо больше результатов, чем простые попытки повторения закономерностей из обучающей выборки. Как объясняют специалисты, у больших языковых моделей отсутствует символическая модель формируемых ими результатов. Между тем, на сегодня накоплен уже большой опыт применения формальных методов для поиска брешей безопасности.

Исследователи в области ИИ уже работают над тем, чтобы дополнить возможности больших языковых моделей механизмами символьных вычислений. По словам Стивена Вольфрама, создателя пакета Mathematica и базы знаний Wolfram Alpha, он ставит перед собой именно такую цель. Сейчас в языке программирования Wolfram Language, на котором реализована Wolfram Alpha, — масса закодированных знаний на различные темы, объясняет он, но для реализации символьных рассуждений необходимо добавить численные методы, которые позволят системе, скажем, понять, что если объект переместился из пункта А в пункт Б, а затем в В, то это означает, что он из А переместился в В.

А по мнению Уитфилда Диффи, одного из создателей криптографии с открытым ключом, благодаря подобным подходам ИИ со временем, возможно, сможет самостоятельно делать открытия в малоисследованных областях математики. К примеру, объясняет он, это может быть многомерная геометрия: людям может быть трудно охватить эту область сознанием, а машина благодаря отличиям «мышления», возможно, справится. То же относится к криптоанализу, отмечает Диффи, — если ценность вклада ИИ во взлом систем окажется больше, чем понесенные в связи с этим убытки, то искусственным интеллектом обязательно будут пользоваться в этих целях.

Модели стали неотъемлемой частью бизнес-процессов в современном банковском бизнесе. В то же время это несет в себе риски, связанные с недостаточной точностью, некорректными данными или неправильным применением, а также естественной деградацией точности моделей со временем.

Как отмечает Елизавета Розанова, руководитель Центра интегрированного управления рисками Росбанка, сейчас в разработке и эксплуатации моделей задействованы сотрудники практически всех функций банка, а количество значимых моделей давно превысило сотню и постоянно растет. На таких масштабах уже необходимы системы, которые позволяют управлять моделями, повышать качество их использования и контролировать модельные риски.

Продукты Kolmogorov.ai, разработанные Data Sapience, покрывают все этапы жизненного цикла модели – от постановки задачи до внедрения и мониторинга. Большое внимание уделяется процессам обработки данных и обеспечению их качества. Проект реализуется при поддержке GlowByte.

С помощью модуля Kolmogorov Predicate специалисты по анализу данных Росбанка осуществляют мониторинг и валидацию моделей. Инструмент содержит широкий выбор преднастроенных тестов и дает возможность добавлять скрипты собственных экспериментов. Kolmogorov Continuity позволяет сопровождать модели, получать рекомендации по ним и сохранять все связанные артефакты. Kolmogorov Axiom используется как каталог наборов данных и признаков, связанных с моделью, и как инструмент для подготовки данных практически без написания SQL-кода.

Росбанк планирует активно развивать проект и расширять использование системы другими подразделениями за счет возможности кастомизации – создания новых шаблонов сопровождения моделей или иных проектов, собственных метрик для мониторинга моделей и внедрения новых источников для наполнения каталога данных и признаков.

Software 2.0 — это отдельное направление технологий разработки, в которое входят плагин для среды разработки, сервер и сама нейросеть на основе генеративного искусственного интеллекта. Она использует разные сценарии: по запросу разработчика выдает функцию или программный код, анализирует написанный код, предлагает варианты его продолжения.

Как ожидают в МТС, применение Software 2.0 позволит сократить время на поиск и исправление ошибок кода и ускорить весь процесс разработки и вывода новых продуктов экосистемы на рынок. При этом использование специальным образом обученной нейросети гарантирует юридическую чистоту и безопасность систем при использовании кодов из предыдущих проектов или открытых площадок, таких как GitHub и других. Зачастую подобные открытые коды несут риски информационной безопасности и утечек данных пользователей из-за багов в системах.

Нейросеть также поможет программистам оперативно и без лишних вложений исправить legacy-код, который может быть написан не в целевом для компании стеке с использованием устаревших технологий. Software 2.0 автоматически переведет код на новый технологический стек и поможет устранить ошибки, облегчив дальнейшую доработку.

На текущий момент Software 2.0 уже работает с двумя языками программирования — Python и Java. До конца года планируется покрыть также GoLang и JavaScript с различными фреймворками, TypeScript и другие.

Как подсчитали аналитики, 85% российского бизнеса в своей операционной деятельности использует системы класса ERP – средства автоматизации основной деятельности предприятия. При этом наибольшей популярностью пользуются решения «1C» и SAP. Подавляющее большинство респондентов отмечают высокую необходимость в перепроектировании целевых бизнес-процессов, а 81% указывает на необходимость в кастомизации стандартных ИТ-решений.

Большинство опрошенных компаний (60%) не планируют переходить на другую ERP-систему. При этом больше всего нежелающих менять свой ERP-инструментарий наблюдается в отрасли ИТ, а также в секторе банков, финансов и страхования. Респонденты, которые намерены перейти на новую ERP-систему, ориентируются в основном на горизонт 1-3 лет и делают выбор в пользу «1С».

56% отечественных компаний, готовых перейти на новую ERP, говорят о переводе на новую платформу всех процессов предприятия целиком. Кроме того, значительный процент участников опроса планирует обновить ИТ-решения только в периметре отдельных функций, в частности сосредоточившись на закупках (33%), отчетности (28%), финансах и бухгалтерии (33%).

Большинство компаний намерены сохранить или расширить текущий штат ИТ-специалистов. В ближайший год в связи с импортозамещением переобучить или заменить основную массу своего ИТ-штата планируют только 8% компаний, тогда как свыше половины респондентов готовы заниматься развитием ИТ-функции выборочно, охватывая не более 10% общей численности ИТ-персонала.

Система автоматизации подсчета круглого леса с помощью алгоритмов компьютерного зрения и машинного обучения внедряется на предприятиях Segezha Group в Карелии и Вологодской области с 2021 года. Согласно данным годового отчета холдинга, нейросети помогли им еще эффективнее контролировать сырьевой поток, значительно повысить точность измерений лесоматериалов, а также сократить время, затрачиваемое на измерение древесины ручным способом.

Со старта внедрения решения Smart Timber количество объектов его использования выросло. Была проведена интеграция с другими системами холдинга, значительно расширен функционал решения. В 2023 году планируется доработать и протестировать работу алгоритмов в составе программно-аппаратного комплекса и работу с разными интерфейсами взаимодействия, увеличить количество источников данных в системе Smart Timber и их детализацию.

Команда «Систем компьютерного зрения» регулярно совершенствует приложение и делает его еще удобнее для конечных пользователей. Последние обновления включают разработку автоматически размечаемого эталона. Приспособление представляет собой рейку с маркерами на концах – это позволяет автоматически отмечать эталон на изображении с высокой точностью и сокращать время измерения.