Влияние чатботов на основе систем генеративного искусственного интеллекта и больших языковых моделей на сферу кибербезопасности является предметом острых дискуссий. В основном говорят о рисках, и на некоторых предприятиях даже запретили использование ChatGPT и подобных сервисов, так как есть опасения, что они могут раскрывать конфиденциальную информацию и что злоумышленники с их помощью будут совершенствовать атаки. Однако при помощи таких чатботов можно и укреплять кибербезопасность на предприятиях. Как именно?
В частности, пользуясь моделями генеративного ИИ, можно значительно улучшить механизмы поиска брешей безопасности в коде. Согласно докладу Cloud Security Alliance, API для модели Codex, созданной в компании OpenAI, можно применять в роли эффективного сканера уязвимостей в коде на Си, C#, Java и JavaScript.
Боты вроде ChatGPT также могут давать пояснения по поводу идентификаторов угроз, обнаруживаемых средствами безопасности. Код угрозы может ни о чем не говорить специалисту, а сервис подробно объяснит, к чему он относится, и приведет пример атаки. В компании OX Security, к примеру, создали OX-GPT — инструмент на базе ChatGPT, интегрируемый в конвейеры поставки ПО, который объясняет сообщения средств контроля о небезопасном коде и предлагает исправления.
На базе сервисов генеративного ИИ также созданы инструменты, которые добавляют конструктивные комментарии к коду, полученному в результате работы декомпиляторов вроде IDA Pro и Ghidra. Еще один инструмент анализирует вызовы API, обнаруженные внутри исполняемых файлов, и разъясняет их назначение — такие средства значительно упрощают изучение потенциально вредоносных программ.
Модели генеративного ИИ можно применять для анализа рисков цепочки поставок. Компания SecurityScorecard запустила платформу рейтинга надежности поставщиков, интегрированную с моделью OpenAI GPT-4 и способную выполнять поиск в Интернете. Клиенты могут задавать ей вопросы наподобие «Найди десятку поставщиков с самым низким рейтингом из числа моих партнеров» или «Перечисли моих важнейших поставщиков, которые за последний год столкнулись со взломом корпоративных систем». Ответы, как обещают в SecurityScorecard, позволят быстро принимать решения, касающиеся управления рисками.
С помощью больших языковых моделей можно не только генерировать текст, но и распознавать текст, написанный системами ИИ. Не исключено, что последнее станет стандартной функцией средств защиты электронной почты, отсеивающих фишинговые сообщения. А благодаря способности обнаруживать закономерности искусственный интеллект также мог бы распознавать полиморфные вирусы, код которых меняется при каждом выполнении, чтобы избежать обнаружения средствами безопасности.
Специалисты по безопасности могут пользоваться способностями ChatGPT и похожих сервисов к формированию кода. Например, с их помощью можно писать запросы к системам наподобие YARA, которая позволяет формировать правила для автоматического распознавания семейств вредоносных программ.
Был также проведен эксперимент с теоретической ситуацией, когда ряд сотрудников организации открыли фишинговое сообщение, но осталось неясным, кто из них запустил вредоносное вложение. ChatGPT попросили написать запрос к антивирусу Microsoft 365 Defender, который бы позволил идентифицировать десять последних попыток входа в системы получателями фишинговых сообщений в течение 30 минут после получения. Сервис мгновенно выдал ответ, благодаря чему можно было бы быстро выявить подозрительные попытки входа. ChatGPT также затем попросили перевести запрос на стандартный язык SQL, и система справилась с задачей — теоретически эта возможность удобна, если средства безопасности на предприятии поддерживают иные языки запросов, чем Defender.
