AppGuard уменьшает поверхность атаки и останавливает угрозы в режиме реального времени
AppGuard уменьшает поверхность атаки и останавливает угрозы в режиме реального времени
Команды обеспечения безопасности предприятий все чаще полагаются на платформы EDR, XDR и SIEM с поддержкой ИИ для более быстрого обнаружения угроз, обработки оповещений, восстановления хронологии действий злоумышленников и планирования ответных мер. Поставщики позиционируют эти возможности как революционные. Однако задокументированный инцидент в производственной среде показывает, как ограничения безопасности и конфиденциальности, заложенные в коммерческие модели ИИ, могут привести к сбоям или низкой эффективности этих же уровней именно тогда, когда требуется новый, критически важный анализ.
Пример из реальной жизни: взлом системы автономного ИИ в Hugging Face.
В июле 2026 года компания Hugging Face сообщила о том, что автономная система ИИ-агентов совершила сквозное вторжение в часть её производственной инфраструктуры. Вредоносный набор данных использовал два пути выполнения кода в конвейере обработки данных. Затем агент повысил свои привилегии, получил учетные данные облака и кластера и переместился по внутренним кластерам. Он выполнил тысячи действий (более 17 000 зарегистрированных событий) в роях кратковременно работающих песочниц с самоперемещающимся управлением и контролем, и всё это за одни выходные.
Hugging Face обнаружила активность с помощью собственной системы обнаружения и анализа аномалий с использованием искусственного интеллекта. Когда группа безопасности попыталась провести углубленный криминалистический анализ реальных журналов атак, эксплойтов и артефактов управления с использованием коммерческих моделей, доступных через стандартные API, запросы были заблокированы. Системы безопасности поставщиков не смогли отличить легитимных специалистов по реагированию на инциденты от злоумышленников.
Судебно-криминалистический анализ удался только после того, как команда перешла на саморазмещаемую модель с открытым исходным кодом (без ограничений по безопасности и конфиденциальности работы модели), работающую на собственной инфраструктуре Hugging Face. Такой подход также позволил сохранить конфиденциальные данные и учетные данные внутри организации.
Почему коммерческие модели ИИ ограничивают анализ реальных атак
Коммерческие модели ИИ, используемые в инструментах обеспечения безопасности, вводят ограничения по двум взаимосвязанным, но различным причинам.
Ограничения безопасности предназначены для предотвращения создания моделями вредоносных действий или содействия им. Когда модели предоставляется реальный эксплойт-код, последовательности команд злоумышленника или новые полезные нагрузки, ее классификаторы часто рассматривают входные данные как потенциальное неправомерное использование и отклоняют или жестко фильтруют запрос. Цель состоит в том, чтобы предотвратить помощь модели в создании или совершенствовании атак.
Ограничения конфиденциальности направлены на защиту личных и корпоративных конфиденциальных данных. Модели и сервисы, которые их используют, настраиваются таким образом, чтобы ограничивать хранение, обучение или раскрытие идентификаторов, таких как IP-адреса, имена пользователей, имена сотрудников или другие данные, которые могут раскрыть личности или внутренние системы. На практике это может означать редактирование, отказ или ограничение обработки именно тех контекстных данных (подозрительные IP-адреса, учетные записи или имена хостов), которые необходимы аналитикам безопасности для корреляции и получения достоверной информации.
Оба набора ограничений существуют по уважительным причинам: снижение риска неправомерного использования, соответствие требованиям законодательства и защита данных клиентов. Однако при применении к реальным телеметрическим данным инцидентов они могут ухудшить возможности обнаружения, сортировки, реагирования и анализа инцидентов, которые команды безопасности ожидают от систем EDR, XDR и SIEM на основе искусственного интеллекта.
Ограничения в области безопасности и конфиденциальности ИИ дают противникам преимущество перед защитниками.
Злоумышленники, использующие неограниченные или самостоятельно размещаемые неограниченные модели (с открытым исходным кодом), не сталкиваются с аналогичными препятствиями. Их агенты могут обрабатывать, генерировать и адаптироваться к любым данным без фильтров безопасности или сокрытия конфиденциальной информации. Защитники, использующие коммерческие сервисы ИИ, напротив, могут столкнуться с блокировками или неполным анализом в момент появления новых артефактов.
Эта асимметрия особенно заметна в противостоянии угрозам со стороны автономных агентов. Автономные агенты генерируют большой объем изменчивой, адаптивной активности, что уже само по себе создает проблемы для традиционного сопоставления образов. Когда уровень ИИ, предназначенный для принятия решений с высокой степенью достоверности, сам ограничен, защитники теряют скорость и контекст. Противники выигрывают время.
Расширение «окна нанесения ущерба»: больше времени для успеха злоумышленников.
Период, в течение которого вредоносное ПО может нанести ущерб, начинается с момента его запуска и заканчивается после того, как средства киберзащиты пресекают его работу. Чем больше мер необходимо контролировать и чем больше зависимость от внешних ресурсов, тем дольше сохраняется период, в течение которого вредоносное ПО может причинить вред и распространиться.
Атаки с использованием агентов по своей сути расширяют окно возможностей. Они быстро адаптируются и создают новые артефакты, требующие более тщательного наблюдения. Когда ограничения безопасности или конфиденциальности еще больше замедляют или ухудшают работу систем анализа и криминалистики с использованием ИИ, окно возможностей для нанесения ущерба становится еще шире. В результате происходит больше краж данных, их распространение становится более масштабным, и у злоумышленника появляется больше возможностей для того, чтобы заблокировать или вывести из строя инструменты обнаружения угроз на конечных устройствах до того, как они смогут обеспечить значимую информацию.
Модели самостоятельного размещения оказались эффективными для одного поставщика, но насколько они практичны для большинства предприятий?
Компания Hugging Face добилась успеха, запустив модель с открытым исходным кодом (с открытым исходным кодом) на собственной инфраструктуре, избежав как блокировок, так и утечки данных извне. Такое решение требует наличия специалистов, обладающих опытом выбора, развертывания, обслуживания и защиты подобных моделей, а также инфраструктуры для их запуска в масштабе, необходимом для быстрого анализа инцидентов. Крайним примером является попытка запустить модель размером с Kimi K3, которая требует значительных вычислительных ресурсов и памяти, которых у многих предприятий просто нет для выделенного внутреннего использования в целях реагирования на инциденты.
Есть ли у вашей организации готовые и проверенные до инцидента специалисты и ресурсы? Для большинства предприятий ответ — нет. Создание и эксплуатация собственных аналитических возможностей на основе ИИ — это значительные инвестиции, которые сегодня недоступны большинству команд безопасности.
Поставщики будут развиваться, но компромиссы еще долгое время будут сохраняться.
Со временем поставщики решений в области кибербезопасности будут стремиться сбалансировать более мощные возможности обнаружения и реагирования с требованиями безопасности и конфиденциальности. Некоторые будут дополнять коммерческие модели альтернативными решениями с открытым исходным кодом. Другие будут разрабатывать методы, позволяющие избежать передачи наиболее конфиденциальных данных в инструменты ИИ, стремясь при этом сохранить эффективность. Также может возникнуть более тесное взаимодействие между уровнями кибербезопасности, поскольку поставщики стремятся к более полному контексту.
Каждый из этих путей сопряжен со своими рисками и сложностями — потенциальная утечка данных клиентов в случае компрометации компонентов, обеспечивающих взвешивание открытых данных, снижение аналитической ценности при сокрытии конфиденциальных идентификаторов и новые проблемы интеграции. Для достижения правильного баланса потребуется время. Искусственный интеллект будет продолжать предоставлять новые возможности, но, как и большинство мощных инструментов, он будет нести в себе постоянные компромиссы.
Как AppGuard снижает риски, связанные с искусственным интеллектом, без этих ограничений.
Как минимум, AppGuard сокращает объем работы, выполняемой уровнями обнаружения и реагирования, ограничивая действия вредоносного ПО и несанкционированных процессов на конечной точке. Это достигается за счет локальных, ориентированных на конкретные методы контроля — авторизации запуска, изоляции процессов и изоляции критически важных ресурсов — которые работают без коммерческих моделей ИИ, внешних API или связанных с ними ограничений безопасности и конфиденциальности. В большинстве случаев AppGuard вообще предотвращает открытие «окна риска».
Если ваши существующие инструменты обнаружения и реагирования не могут вовремя выявить или остановить что-либо, AppGuard может остановить это в режиме реального времени. Поскольку управление осуществляется локально и фокусируется на том, что разрешено делать процессам, а не пытается классифицировать каждое новое поведение постфактум, оно остается эффективным даже в случаях задержки, ограничения или неполноты анализа с помощью ИИ. AppGuard разработан как дополнительный слой, который закрывает пробелы в выполнении, оставленные инструментами обнаружения, а не как их полная замена.
AppGuard, будучи решением, ориентированным на контроль, а не на обнаружение угроз, не требует сбора потенциально конфиденциальных данных клиентов и стремится этого избегать. В то время как инструменты обнаружения должны наблюдать и фиксировать обширные данные об активности (включая идентификаторы и контекст, которые могут быть конфиденциальными) для формирования шаблонов, AppGuard функционирует скорее как стена, которая просто предотвращает несанкционированные действия, не требуя сбора или анализа этих данных.
Практические шаги для руководителей служб безопасности.
- Провести инвентаризацию областей применения коммерческих возможностей ИИ в процессах обнаружения, сортировки, реагирования и криминалистической экспертизы, а также оценить последствия ограничения этих возможностей во время инцидента с новым агентом или агентом.
- Усильте механизмы контроля, ограничивающие то, что может запускаться и что может делать запускаемая программа, тем самым сократив количество этапов, которые злоумышленник может пройти до обнаружения или анализа.
- Оценивайте требования к суверенитету данных на ранних этапах; для многих организаций обеспечение прямого контроля над конфиденциальными материалами злоумышленников становится практической необходимостью.
Существующие рекомендации AppGuard по сдерживанию рисков, связанных с автономными агентами, представляют собой конкретную отправную точку, которая распространяется на более широкий класс угроз, проиллюстрированный инцидентом с «обнимающимся лицом».
Заключение – Превентивная защита
Ограничения безопасности и конфиденциальности в коммерческих моделях ИИ выполняют важные защитные функции, однако они могут привести к тому, что уровни обнаружения и реагирования, основанные на ИИ, будут давать сбои или работать неэффективно против реальных, новых атак. В результате расширяется «окно возможностей для нанесения ущерба», благоприятствующее противникам.
Система предотвращения, блокирующая выполнение вредоносных действий на ранней стадии — без опоры на ограниченный анализ с помощью ИИ — напрямую закрывает или сужает это окно возможностей. AppGuard обеспечивает эту возможность локально, без недостатков в области безопасности и конфиденциальности, которые присущи уровням, зависящим от ИИ. Она останавливает в режиме реального времени то, что упускают другие инструменты, одновременно повышая устойчивость всей киберсистемы.
