Acalvio представила Deception Guardrails для обеспечения безопасности агентов искусственного интеллекта
Acalvio представила Deception Guardrails для обеспечения безопасности агентов искусственного интеллекта
Acalvio Technologies, лидер в области технологий защиты от автономного кибер-обмана, объявила о запуске Deception Guardrails, новаторской системы превентивной защиты, разработанной специально для обеспечения безопасности агентов искусственного интеллекта. Новая система устраняет критический пробел в безопасности агентов ИИ: традиционные средства защиты в основном сосредоточены на входных и выходных данных и обеспечивают ограниченную видимость поведения агентов после взлома. Deception Guardrails внедряет проактивные механизмы обнаружения, обмана, нарушения и предотвращения вредоносной активности агентов до того, как это повлияет на корпоративные системы.
По мере того, как предприятия быстро внедряют агентные системы искусственного интеллекта, способные к автономному мышлению и выполнению задач с помощью инструментов и API, поверхность атаки коренным образом изменилась. Недавние инциденты с участием агентов ИИ показали, как быстро скомпрометированные агенты могут использовать учетные данные, инструменты и внешние системы таким образом, чтобы обходить традиционные средства защиты. Большинство средств защиты ИИ в основном сосредоточены на контроле и фильтрации входных и выходных данных агентов, оставляя группы безопасности в неведении, как только злоумышленник их обходит.
«Реактивные средства защиты призваны поддерживать работоспособность корректно работающих систем ИИ, но они ничего не делают для предотвращения взлома агента, управляемого злоумышленником», — заявил Рам Варадараджан, генеральный директор Acalvio. «С помощью наших запатентованных средств защиты от обмана мы переводим отрасль с реактивной фильтрации на превентивную защиту. Если агент ИИ выходит из-под контроля или его инфраструктура подвергается манипуляциям, наши средства обмана быстро обнаруживают несоответствие, передают злоумышленнику сфабрикованные данные и оповещают центр управления безопасностью до того, как будут скомпрометированы реальные корпоративные активы».
Необходимость противодействия угрозам со стороны ИИ-агентств была подчеркнута недавним инцидентом с Hugging Face. В аналитической записке , подготовленной ведущими экспертами по кибербезопасности из Cloud Security Alliance, SANS и RSAC, была дан четкий совет по использованию методов обмана, «поскольку агентам нелегко отличить действительные учетные данные или системы от ловушек, развертывать поддельные личности, учетные данные, реестры пакетов, наборы данных, API-интерфейсы ловушек и кластеры ловушек, чтобы замедлить действия злоумышленников и создать высокодостоверные индикаторы».
«Компания Acalvio годами совершенствовала технологии обмана для обнаружения изощренных злоумышленников в корпоративных средах. Распространение этих же принципов на агентов ИИ — это естественное и убедительное развитие. Внедряя средства обмана непосредственно в рабочие процессы агентов и окружая инфраструктуру ИИ ложными целями, организации получают новый мощный уровень обнаружения, дополняющий существующие средства обеспечения безопасности и управления ИИ», — сказал Лоуренс Пингри, руководитель отдела исследований в Software Analyst Cyber Research.
Помимо обнаружения скомпрометированных агентов, Deception Guardrails предоставляют высоконадежные ранние предупреждения, которые помогают группам безопасности снизить риски, связанные с ИИ, и реагировать до того, как будут затронуты критически важные для бизнеса системы.
Решение Deception Guardrails от Acalvio расширяет возможности отмеченной наградами платформы ShadowPlex, объединяя агентский обман и ловушки-токены и приманки на основе ИИ с комплексным корпоративным обманом в локальных и облачных средах.
Основные характеристики ограждений Deception Guardrails включают в себя:
- Полное покрытие предприятия: обширный набор «медовых токенов» и «ловушек», развернутых в локальных и облачных средах. Эта комплексная система обмана на уровне предприятия гарантирует быстрое обнаружение любых нарушений или несанкционированного перемещения внутренних агентов ИИ в корпоративную инфраструктуру.
- Агентский обман: внедряет высоконадежные «медовые токены» и «медовые навыки» в файлы и конфигурационные поверхности, которые агенты ИИ считывают как оперативный контекст. Если скомпрометированный агент попытается получить доступ к этим инструментам или использовать их, срабатывают высокоточные оповещения.
- Инфраструктура ИИ-приманки: окружает экосистему ИИ обманчивой реальностью, включая серверы-приманки MCP (Model Context Protocol), системы-приманки RAG (Retrieval-Augmented Generation) и агентов ИИ-приманки.
- Обнаружение несоответствий в реальном времени: выявляет вредоносные манипуляции, действия, связанные с взломом системы, и внедрение вредоносного ПО в режиме реального времени, отслеживая взаимодействие с обманными механизмами защиты и нейтрализуя угрозы до того, как они смогут переместиться в производственную среду.
По мере перехода организаций от экспериментов с ИИ к его внедрению в масштабах предприятия, Deception Guardrails обеспечивают необходимую прозрачность и упреждающую защиту для управления рисками, связанными с использованием ИИ, без замедления инноваций.
О компании Acalvio Technologies
Acalvio — компания, занимающаяся разработкой технологий защиты от обмана на основе искусственного интеллекта, ориентированная на противодействие вторжениям в идентификационные системы и инфраструктуру, осуществляемым с помощью ИИ. Ее платформа 360 Deception ShadowPlex создает превентивную защиту, сочетая динамические «ловушки» (HoneyPaths) и маскировку производственных ресурсов в рамках системы обмана, чтобы препятствовать автоматической разведке, злоупотреблению учетными данными и горизонтальному перемещению в системах идентификации, конечных точках, облаке, сети и киберфизических средах. Изменяя то, что злоумышленники могут воспринимать и чему доверять, Acalvio переводит обнаружение с анализа после компрометации на анализ до момента воздействия, позволяя организациям обнаруживать, задерживать, пресекать и блокировать вредоносную активность на машинной скорости. Компания обслуживает корпоративные и государственные организации, стремящиеся пресечь автоматические вторжения в источнике их возникновения.
