Новости

Специалисты в области LLM Security – одни из самых редких и высокооплачиваемых на рынке ИТ. В hh.ru подсчитали, что в 2024 году число вакансий разработчиков, связанных с кибербезопасностью в области ИИ, достигло 878, тогда как в 2023 их было всего 154. Спрос на функционал, связанный с работой в сфере LLM Security за год вырос почти в 5,5 раз. Примерно та же картина с вакансиями аналитиков в области безопасности ИИ: по данным hh.ru, их стало больше в 5 раз (555 в 2024 году против 107 в 2023-м). При этом, что касается разработчиков в области ИИ в целом, их востребованность даже немного снизилась: в 2024 году было открыто 483 вакансии, на 14% меньше, чем в 2023. А вот тестировщики с функционалом в области ИИ на рынке по-прежнему очень нужны: количество вакансий для них выросло почти в трое. В 2024 году самая высокая предлагаемая зарплата в вакансиях, связанных с ИИ, была на уровне 10 тыс. долл.

В Swordfish Security уверены, что потребность в продвинутых data-аналитиках с функциями LLM Security в ближайшие годы будет расти. Если говорить про сверхмассовое использование ИИ для бизнеса, очень востребованными будут разработчики, которые понимают, как поставить большую языковую модель себе на службу, при этом минимизируя потенциальные риски. Компании-новаторы в том или ином формате уже активно применяют большие языковые модели в работе, но массово вопрос кибербезопасности ИИ остро встанет чуть позже. Пока же это нечто неизведанное, интересная новая «игрушка». Но безопасность всегда следует рука об руку с разработкой, поэтому в ближайшие 2-3 года можно ожидать рост запросов на создание центров компетенций по LLM Security для коммерческих компаний.

Некоторые потенциальные риски уже очевидны. К примеру, массовое применение чат-ботов на рынке В2С зачастую приводит к репутационным потерям, ведь встроенной этики у бота нет. В числе потенциальных угроз в больших языковых моделях – инъекции вредоносного кода в промпт, уязвимости в цепочках поставок, выдача ошибочной информации за истину на этапе обучения модели и даже кража модели злоумышленниками. Для бизнеса, который не учел эти риски, отсутствие экспертизы в LLM Security может привести к серьезным потерям.

По оценкам Swordfish Security, не менее 40% крупных компаний в России так или иначе внедряют ИИ в бизнес-процессы. Большие языковые модели используют для анализа данных, предиктивной аналитики, поиска, оценки ресурса механических узлов промышленных агрегатов, написания кода для ПО. А значит, потребность в специалистах, которые сумеют обеспечить безопасность использования ИИ, будет расти.

В ВШЭ работают более 12 тыс. преподавателей и исследователей, общее число студентов и аспирантов – более 55 тыс. человек. Ежедневно обрабатывается свыше 200 приказов по учебному процессу, формируется отчетность в Московский социальный регистр, выгружаются данные в Федеральный реестр сведений документов об образовании и внутренние вспомогательные системы университета.

Образовательный процесс ранее был автоматизирован на базе иностранного ПО, первая версия которого внедрялась в 2006 году и затем активно дорабатывалась. С годами потребности университета расширились, стали применяться новые современные сервисы и системы («1С:Документооборот», MDM, «Вышка-BPM» и многие другие), развивались образовательные стандарты, у студентов появились Индивидуальный учебный план (ИУП), Единый личный кабинет, расширялись программы внутренней и международной мобильности. Появились запросы на интеграцию с государственными информационными системами. Со временем сопровождение системы становилось все более затратным.

Руководство вуза приняло решение о внедрении новой современной системы управления учебным процессом, которая позволила бы учесть все потребности и нюансы образовательного процесса, такие как работа в условиях фактически 100% индивидуализации и поддержки собственных образовательных стандартов. Одной из основных целей внедрения руководством ставилось снижение рисков в развитии системы в долгосрочной перспективе. Решающую роль при выборе продукта сыграла поддержка политики импортозамещения, отечественная платформа и ее широкое распространение на отечественном рынке и наличие готовых специалистов.

В новой системе требовалось организовать оперативное управление всеми этапами учебного процесса. Для реализации поставленных задач было решено разработать собственный программный продукт на платформе «1С:Предприятие», который получил название HSE.Reg.

В новой системе работают около 1 тыс. сотрудников «Вышки»: специалисты дирекции основных образовательных программ, дирекции по интернационализации, центра международной студенческой мобильности, дирекции по развитию студенческого потенциала, центра стипендиальных и благотворительных программ. В HSE.Reg реализованы прямые интеграции с другими системами университета: «1С:Бухгалтерия государственного учреждения», «1С: Зарплата и Кадры», «1С:Документооборот», MDM, «1С:Миграционный учет», «Вышка-ВРМ», «Сервис верификации документов об образовании» и пр. – всего более 15 ключевых систем и сервисов НИУ ВШЭ.

В результате реализации проекта были автоматизированы ключевые задачи управления образовательным процессом: от зачисления студента до проведения ГИА и формирования дипломов. Прямые интеграции HSE.Reg с сервисами НИУ ВШЭ помогают избегать дублирования данных и увеличивают скорость формирования отчетности. Из HSE.Reg в Сервис электронных ведомостей выгружаются ведомости, а обратно загружаются оценки учащихся. Реализован двусторонний обмен с мастер-системой хранения справочной информации о работниках вуза, учащихся, контрагентах. Данные о дипломах выгружаются в Федеральный реестр сведений о документах об образовании. Таким образом, ежедневно в систему загружается и выгружается порядка 70-100 тыс. объектов из более чем 15 вспомогательных систем.

На 20% ускорен ввод документов и поиск данных в системе. Этому способствовало стандартный интерфейс систем «1С». Менеджеры теперь вносят данные в систему по определенным шаблонам, которые минимизируют ошибки и несоответствия. Например, ИНН, СНИЛС, данные паспорта, автосклонение по падежам. Вся справочная информация хранится в карточке студента, при выборе студента в приказе все данные в документе заполняются автоматически.

Прямая интеграция с системой «1С:Документооборот» вдвое ускорила работу с приказами по контингенту учащихся. Из HSE.Reg в СЭД транслируются все приказы по зачислению и отчислению, переводам, отпускам и пр., обратно в HSE.Reg поступает информация о статусе приказа и его утверждении. Таким образом, менеджер работает в режиме одного окна, данные о статусе приказа обновляются автоматически, не требуя ручного ввода и корректировки, как было в прежней системе.

В новой системе реализован контроль корректности действий пользователей системы, строго регламентированы бизнес-процессы, автоматизирован учет расчетов со студентами (договоры и оплаты). Все это ускорило работу пользователей, существенно сократило количество ошибок и повысило достоверность информации.

Открытый код новой системы дает неограниченный потенциал развития, а инструменты для командной разработки позволяют адаптировать систему по многим задачам одновременно, сочетая как внутренние, так и внешние ресурсы, в том числе разные команды разработки.

В результате вуз получил современную систему управления на отечественной платформе с долгосрочной поддержкой разработчика, максимально совместимую с ИТ-ландшафтом университета. HSE.Reg не только покрывает, но и значительно превышает функциональность прежней системы. Ее сопровождение и развитие на данный момент обеспечивают штатные программисты НИУ ВШЭ.

В прошлом году в среднем на одной производственной линии было зафиксировано убытков на сумму около 37 млн руб., которые снизились на 13 млн руб. из-за использования проактивного ИТ-мониторинга. В крупных металлургических и химических производствах на одной линии убытки могли достигать 100-150 млн руб., и в этом случае использование современных средств анализа и обработки данных позволило предприятиям сэкономить десятки миллионов.

Производственные компании сталкиваются с огромным количеством различных сбоев. Это могут быть поломки технологического оборудования, перебои в электропитании и нарушения работы систем охлаждения, сбои в ИТ-инфраструктуре. Также возможны человеческие ошибки при настройке или обслуживании автоматизированных систем. Даже кратковременная остановка одной технологической линии может иметь эффект домино и приводить к серьезным потерям во всей цепочке производства.

Сбои на производственных предприятиях обычно приводят к масштабным негативным последствиям. Любой простой оборудования ведет к росту расходов и непредвиденным убыткам. Прежде всего, могут возникнуть прямые финансовые потери из-за остановки производственного цикла и невыполнения обязательств перед заказчиками. Также может произойти порча сырья и продукции, если инцидент происходит во время критических этапов производства. Серьезной проблемой для компаний может стать увеличение расходов на ремонт и срочную логистику запчастей. Наконец, возможен риск штрафных санкций и снижение репутации в случае срыва сроков поставок. Убытки от сбоев могут измеряться миллионами рублей. Это особенно критично в отраслях с непрерывным циклом производства – например, в металлургии или пищевом производстве.

ИТ-мониторинг эффективно помогает производственным компаниям уменьшить убытки от сбоев. В первую очередь, снижение убытков достигается за счет предотвращения аварийных ситуаций. Система предиктивного анализа (predictive maintenance) сигнализирует о нестандартных нагрузках и износе оборудования заранее. Также ИТ-мониторинг способствует сокращению времени простоя. Автоматическое переключение на аварийные мощности и быстрое реагирование на инцидент позволяют избежать длительных остановок. Помимо этого, благодаря использованию систем мониторинга возможна минимизация брака. Постоянный контроль параметров качества позволяет снизить риск выпуска дефектной продукции. Наконец, современные решения в области мониторинга помогают осуществить оптимизацию логистики и техобслуживания. Плановое сервисное обслуживание, основанное на реальном состоянии машин и механизмов, обходится дешевле и надежнее аварийных ремонтов.

Lamoda выбрала облачную версию VK HR Tek. Основными критериями выбора стали функциональность решения, его оптимальная стоимость и поддержка VK Tech на всех этапах работы.

Уже оцифрованы такие кадровые процессы, как пребординг, прием на работу, график отпусков и оформление различных видов отсутствий, переводы, увольнения и многое другое. Сейчас в системе работает 1,2 тыс. специалистов центрального офиса компании. Полный переход на КЭДО для всех сотрудников Lamoda планируется завершить в первом квартале 2025 года.

Как отмечает Екатерина Хрусталева, директор департамента по кадровому администрированию в Lamoda, с опорой на стратегические цели компания искала функциональное решение с возможностью быстрого масштабирования. Важно, что VK HR Tek предоставляет широкие возможности для адаптации решения под задачи компании.

Робот-штабелер относится к категории автономных мобильных роботов (AMR). В отличие от автоматизированных транспортных средств типа AGV (Automated Guided Vehicle), он перемещается в полностью автономном формате без дополнительной инфраструктуры и не требует внедрения магнитных и прочих лент, выставления реперных точек или других направляющих элементов для корректировки маршрута. В том числе, благодаря более продвинутой системе восприятия окружающей среды робот-штабелер способен более гибко приспосабливаться к внешним условиям, ориентируясь с помощью датчиков, камер, стереокамер, различных типов лидаров. Кроме того, автономные мобильные роботы применяют различные уникальные алгоритмы, в том числе построенные на базе нейросетевых технологий, что позволяет нивелировать различные неоднородности, характерные для промышленных условий.

На складе «Северсталь-метиза» робот осуществлял загрузку и разгрузку европаллет в рамках целевого маршрута, который включал перемещение как на складе, так и в цеховых условиях. За счет автономного передвижения появилась возможность увеличить скорость обработки груза и повысить производительность труда. Штабелер также доказал соответствие правилам функциональной промышленной безопасности: он автоматически обнаруживает препятствия и людей и останавливается перед ними, оповещает сигналом о приближении и тем самым снижает риск аварий и травматизма. Функция сканирования QR- и штрих-кодов и интеграция ПО робота с WMS и MES-системами предприятия увеличивает эффективность процесса инвентаризации, также других логистических операций.

Как отметил Денис Колупаев, руководитель направления R&D АО «Северсталь-инфоком», использование технологий AMR представляет собой новый уровень автоматизации логистических процессов. С их помощью можно ускорить погрузочно-разгрузочные работы, а также более эффективно вести складской учет. Важным преимуществом подобных роботов является их способность маневрировать в ограниченных пространствах, что актуально для крупных складов с плотной загрузкой.

Диалоговая система с интеллектуальным помощником и доступом к базе знаний, реализованная в «РСХБ-Лизинг», построена на решении CraftTalk при поддержке экспертов R-Style Softlab. Цифровой консультант помогает клиентам оперативно получать информацию об услугах, а компании эффективно анализировать запросы и потребности бизнеса.

Чат-бот создан на базе последних достижений в области машинного обучения, способен анализировать вопросы, обучаться, синтезировать новые ответы на основании известных ему данных. При этом программа не владеет чувствительной информацией, не дает персонифицированных ответов, но помогает построить оптимальный маршрут по решению бизнес-задач. По имеющемуся опыту, чат-боты, реализованные на платформе CraftTalk, могут ответить на 80% поступающих рутинных вопросов.

Как отмечает Роман Букреев, начальник отдела ИТ «РСХБ Лизинг», компания оптимизирует бизнес-процессы с помощью внедрения современных диалоговых интерфейсов, чат-ботов и искусственного интеллекта. Сервисы, основанные на больших данных, искусственном интеллекте и машинном обучении, позволяют эффективнее решать задачи, стоящие перед бизнесом. Диалоговые системы, позволяющие получать ответы на вопросы, заданные в свободной текстовой форме, помогают выстроить оперативную связь и продуктивную коммуникацию с клиентами.

Финансовый сектор остается одним из наиболее уязвимых, опережая по объему утечек госсектор и ИТ-отрасль. По данным центра мониторинга внешних цифровых угроз Solar AURA, самые крупные инциденты произошли в январе и марте 2024 года – 115 млн и 200 млн строк соответственно.

В результате анализа 230 инцидентов ИБ, выявленных при пилотировании DLP-системы Solar Dozor, основными каналами утечек данных по вине инсайдеров стали мессенджеры (35% от всех инцидентов) и корпоративная электронная почта (23%). В 15% случаев утечка информации происходила через публикацию данных в открытых источниках в интернете, облачных хранилищах и на файлообменниках.

В ходе пилотирования Solar Dozor эксперты ГК «Солар» анализируют движение конфиденциальных данных между пользователями внутри организаций и их передачу за пределы по различным каналам коммуникаций. Это позволяет выявить нарушения и оптимизировать политики для предотвращения неправомерной передачи информации. При фиксации нарушения DLP-система показывает данные об активности пользователя за рабочим компьютером и перехваты его коммуникационных каналов.

Согласно данным экспертов «Солара», мессенджеры являются самым популярным каналом для утечки информации из компаний, составляя 35% случаев. Telegram и WhatsApp (принадлежит корпорации Meta, которая признана в РФ экстремистской и запрещена на территории России) продолжают широко использоваться в корпоративных коммуникациях даже в крупных организациях. В половине случаев мессенджеры применяются для передачи коммерческой тайны. Сканы любых официальных документов, такие как сканы с подписями, могут существенно повлиять на рынок, например, если информация о финансовых проблемах крупной компании станет доступной третьим сторонам.

Несмотря на то, утечки в организациях чаще случаются по неосторожности, чем по злому умыслу, человеческий фактор признается основной причиной увеличения числа скомпрометированных данных. Так, 82% инцидентов в организациях вызвано ошибками сотрудников, в то время как только 18% является следствием умышленных действий.

Почти четверть утечек (23%) происходит через корпоративную электронную почту. Например, сотрудник может отсканировать свой паспорт и отправить его на личную почту, полагая, что это не является нарушением. Однако если сотрудник отправляет свои персональные данные с рабочего компьютера на личный адрес, это считается передачей персональных данных физического лица за пределы компании. Для Роскомнадзора это означает нарушение ФЗ-152, связанное с нецелевым использованием и передачей конфиденциальных данных без мер защиты. В негативном сценарии организация может столкнуться со значительными санкциями.

В 15% случаев утечка информации происходит через публикацию данных в открытых источниках в интернете, облачных хранилищах и на файлообменниках. Далее по частоте инцидентов идут съемные носители (12%). Как и файлообменники, они чаще всего используются именно со злым умыслом, для скачивания клиентских баз и других больших объемов данных. Кроме того, еще 12% информации утекает вследствие демонстрации экрана третьим лицам во время видеоконференций. Реже всего злоумышленники используют печать на принтере (3%). Это, как правило, связано с тем, что печатные документы сложнее вынести с работы и процесс печати может привлечь внимание коллег.

Решение, реализованное в «Шереметьево Хэндлинг», построено на современном технологическом стеке и адаптировано под две версии: мобильное приложение на операционных системах Android и iOS, а также веб-приложение для работы через браузер. Платформа позволяет авиакомпаниям оперативно создавать заказы, а сотрудникам компании обрабатывать их, обеспечивая мониторинг занятости ресурсов и загрузки персонала в реальном времени. К системе подключены уже более 10 ведущих авиакомпаний, самолеты которых обслуживаются в международном аэропорту Шереметьево.

Решение, реализованное совместно с «Т1 проект», объединяет все заинтересованные стороны на единой централизованной платформе и обеспечивает оптимизацию работы наземных служб. Это сокращает время реагирования на запросы от авиакомпаний, а также повышает качество обслуживания воздушных судов, базирующихся в «Шереметьево». Внедрение автоматизированной платформы поможет повысить эффективность наземного обслуживания и соответствует общему тренду на цифровизацию в авиационной отрасли.

Платформа качества данных, созданная в «Самолете», позволяет настраивать и запускать как стандартные, так и персонализированные проверки данных, что сокращает время на ручные операции и минимизирует ошибки. При этом она автоматизирует проверки данных и позволяет запускать их по расписанию, обеспечивает параметризацию запросов, собирает статистику, агрегирует результаты в единый дашборд, содержит инструменты мониторинга. Это комплексный продукт с широкими возможностями.

Платформа вносит ценный вклад в комплекс решений по управлению данными и помогает достигать высоких результатов. Так показатель качества данных достиг 97%, что является очень высоким критерием доверия к данным. Благодаря платформе было создано более 72 тыс. автоматизированных тестов, 116 очисток данных и исправлено более 2 тыс. ошибок.

Как отмечает Ольга Свитнева, директор по данным группы «Самолет», на каждом шаге, начиная с интеграции источников с LakeHouse до предоставления информации в готовых витринах, платформа качества участвует в процессах очистки данных. При этом платформа качества помогает не только проверять данные, но и гарантирует, что они соответствуют стандартам и требованиям бизнеса. Это очень важные критерии в цикле управления данными, что позволяет формировать из информации доступный и ликвидный актив для компании.

Еще одной особенностью платфомы является то, что она отслеживает все известные метрики качества: своевременности (оценка актуальности данных), целостности (проверка данных на потерю и искажения в процессе передачи), полноты (содержание достаточной информации), точности (соответствие ожидаемым стандартам), согласованности (подтверждение, что данные не противоречат друг другу и различным источникам), валидности (соответствия данных заданным форматам заполнения). Это позволяет эффективно контролировать качество всей информации в контуре централизованных данных компании.

При выборе нового решения, которое заменило две ранее использовавшиеся западные ИТ-системы, ITMS ориентировалась на соотношение цены и функциональности, а также наличие успешных кейсов внедрения. В условиях строгого законодательного регулирования табачной отрасли и пристального внимания к выпуску никотиносодержащей продукции со стороны надзорных органов ITMS искала вендора, готового предложить кастомизируемый low-code инструмент, а не готовое коробочное ПО.

Сейчас на платформе BPMSoft при помощи «Интех Консалтинг» настроено более 20 схем согласований для двух ключевых бизнес-процессов компании. Во-первых, это процесс согласования новой упаковки: от поступления коммерческих предложений маркетинговых агентств в облачную учетную систему до юридического согласования макетов. Во-вторых, запуск инновационной продукции, проходящий через отделы разработки и производства.

Всего в системе активно работают более 150 сотрудников. В ней фиксируются статусы согласований и экспертные заключения – например, результаты химических проверок на соответствие допустимым нормам содержания никотина. В случае отказа система автоматически возвращает задачу на предыдущий этап с обязательными комментариями согласующих. Она также анализирует количество итераций для каждого согласования, что позволяет улучшать процессы, оценивать KPI отделов и рассчитывать стоимость работы внешних маркетинговых агентств.

Внедрение параметра SLA для контроля времени выполнения задач стало ключевым нововведением, которое ранее отсутствовало. Теперь сотрудники получают автоматические уведомления о просрочках, что повышает эффективность ведения и реализации проектов. Для упрощения работы международных команд в BPMSoft реализована поддержка двух языков — русского и английского. Многоязычные уведомления позволяют эффективно взаимодействовать как с внутренними, так и с внешними партнерами.