С помощью Tenable One AI Exposure вы можете постоянно обнаруживать и отслеживать все случаи использования ИИ в вашей организации, включая теневой ИИ, агенты, плагины для браузеров и многое другое. Есть возможность составить карту сложных рабочих процессов ИИ, чтобы выявить уязвимости и контролировать соблюдение политик безопасности в контексте допустимого использования ИИ.
Основные выводы
- Теперь, будучи общедоступным в платформе Tenable One Exposure Management Platform, Tenable One AI Exposure предоставляет командам по безопасности возможности для мониторинга и защиты рабочих процессов, основанных на ИИ.
- Есть возможность составить карту сложных рабочих процессов ИИ, чтобы выявить, как приложения, инфраструктура, идентификация, агенты и данные сочетаются, создавая уязвимости с серьезными последствиями.
- Снижение рисков ИИ (prompt injection, jailbreaking) и контроль утечек конфиденциальных данных через ИИ-запросы.
Быстрая интеграция ИИ в приложения и инфраструктуру опередила возможности традиционных средств контроля безопасности. По мере того как автономные агенты и облачный ИИ становятся центральным элементом предприятия, команды по безопасности сталкиваются с трудностями в управлении новым классом рисков, которые не были предусмотрены в старых инструментах, что приводит к критическому разрыву в управлении уязвимостью ИИ.
Tenable One AI Exposure был создан, чтобы предоставить командам по безопасности возможности, необходимые для устранения этого разрыва и снижения рисков безопасности ИИ. Эти возможности, которые теперь доступны в рамках платформы Tenable One Exposure Management Platform, позволяют организациям защитить свои рабочие процессы, основанные на ИИ, без замедления инноваций.
Объяснение разрыва в управлении рисками, связанными с ИИ
Разрыв в управлении рисками, связанными с ИИ, относится к трем проблемам, с которыми сталкиваются команды по безопасности: могут ли они видеть, как сотрудники используют ИИ, где он работает и как риски, связанные с ИИ, накапливаются во взаимосвязанных системах – как внутри, так и вне организации.
Риски, связанные с ИИ, трудно оценить по целому ряду причин. Во-первых, они не похожи на традиционные киберриски. Они не сосредоточены в одной системе. Они не проявляются в виде уязвимостей. И они не ждут, пока злоумышленники воспользуются ими, чтобы нанести ущерб. Риски безопасности ИИ проявляются в следующих областях:
- Платформы ИИ для сотрудников, такие как ChatGPT, Copilot и встроенные функции SaaS
- Облачные сервисы ИИ и конвейеры моделей
- API, агенты и плагины для браузеров
- Приложения и сервисы для общего пользования
Большая часть этого происходит вне традиционных рабочих процессов безопасности. Теневые ИИ-развертывания, забытые тестовые среды, небезопасные интеграции и службы с избыточными разрешениями незаметно расширяют поверхность атаки, часто без ведома команд безопасности.
В то же время рабочие нагрузки ИИ зависят от сложных цепочек инфраструктуры, идентификационных данных, API и доступа к данным. Одна неверная конфигурация или слишком широкие права доступа могут превратить рутинное использование ИИ в угрозу с серьезными последствиями.
Поскольку взаимодействие с ИИ происходит постоянно посредством запросов, загрузок, ответов и автоматических действий, даже утвержденное использование может непреднамеренно привести к раскрытию конфиденциальных данных, если не обеспечить надлежащую видимость и меры защиты.
Наконец, уязвимость ИИ редко проявляется в виде единичного предупреждения или уязвимого актива. Вместо этого она возникает через связи. Например:
- Сотрудник использует утвержденный сторонний инструмент
- Этот инструмент вызывает внутренний сервис или агент ИИ
- Агент имеет доступ к конфиденциальным данным или системам
- Неправильная конфигурация или уязвимая конечная точка делают этот доступ возможным
По отдельности каждый компонент может казаться безобидным. Вместе они создают реальный риск.
Традиционные инструменты безопасности, как правило, рассматривают эти элементы изолированно: здесь – состояние облака, там – разрешения на доступ, где-то еще – риски приложений. Не имея возможности связать эти сигналы между собой, команды по безопасности вынуждены реагировать на симптомы, а не управлять уязвимостью.
ОбзорTenable One AI Exposure
Tenable One AI Exposure помогает командам устранить этот разрыв в видимости, постоянно обнаруживая, контекстуализируя и приоритизируя связанные с ИИ уязвимости в вашей организации – внутренние и внешние, локальные и облачные – чтобы предоставить полное, учитывающее риски представление о том, где работает ИИ, каковы его связи и где он создает уязвимости.
В отличие от точечных инструментов кибербезопасности на базе ИИ, которые выявляют отдельные проблемы, Tenable One объединяет всю цепочку действий в едином окне, показывая, как приложения ИИ, инфраструктура, идентификация, агенты и данные сочетаются, создавая реальный риск. Сопоставляя эти взаимосвязи, Tenable One помогает вашим командам по безопасности расставить приоритеты в отношении наиболее важных уязвимостей ИИ, чтобы снизить риски безопасности ИИ во всех средах.
Как Tenable One помогает защитить поверхность атаки ИИ
Идентификация использования сервисов ИИ в вашей организации
Вы не сможете управлять рисками ИИ, если не знаете, где он существует.
Tenable One постоянно выявляет использование ИИ во внутренних средах и на внешней поверхности атаки, помогая командам устранять слепые зоны и поддерживать актуальное понимание своего следа ИИ. Это включает в себя видимость санкционированного и теневого ИИ в приложениях, конечных точках, облачных рабочих нагрузках, API, агентах и публично доступных сервисах.
Службы безопасности могут видеть, где работают службы ИИ, какие технологии используются и насколько внешняя уязвимость соответствует внутренней осведомленности.
Анализ и устранение уязвимостей связанных с ИИ
Одного обнаружения недостаточно. Риски ИИ возникают из-за взаимодействия систем.
Tenable One отображает рабочие процессы ИИ на облачных платформах и в облачных сервисах, показывая, как взаимодействуют модели ИИ, инфраструктура, хранилища, сети и средства контроля доступа. Он выявляет уязвимости и неправильные конфигурации в программном обеспечении и облачных ресурсах, связанных с ИИ, а также предоставляет контекст о том, к каким данным и системам могут получить доступ эти компоненты.
Соединяя инфраструктуру ИИ с путями идентификации и доступа, команды получают четкое представление о том, где на самом деле возникает уязвимость, а не только о том, где существует ИИ.
Защита рабочих нагрузок, сервисов и доступа ИИ
Снижение рисков ИИ означает устранение пробелов, которые используют злоумышленники.
Tenable One помогает командам выявлять и устранять рискованные конфигурации в рабочих нагрузках ИИ и модельных средах, прежде чем они могут быть использованы злоумышленниками. Он также выявляет чрезмерные разрешения и слабые места в идентификации, связанные с сервисами и агентами ИИ, что позволяет командам обеспечить доступ с минимальными привилегиями и сократить количество путей атаки, которые ставят под угрозу критически важные ресурсы ИИ.
Эта информация об уязвимостях, основанная на идентичности, помогает группам безопасности сосредоточиться на наиболее важных комбинациях слабых мест.
Управление использованием ИИ и потоком данных
Внедрение ИИ не должно происходить за счет безопасности или соответствия нормативным требованиям.
Tenable One обеспечивает видимость того, как сотрудники и агенты взаимодействуют с платформами ИИ, включая такие инструменты, как ChatGPT, Copilot и встроенные генеративные функции ИИ. Он также показывает, как данные проходят через эти взаимодействия. Команды могут идентифицировать конфиденциальные данные, передаваемые через подсказки или загрузки, обеспечивать соблюдение политик допустимого использования ИИ и применять меры безопасности, которые направляют пользователей к более безопасному поведению ИИ.
Платформа также обнаруживает угрозы и злоупотребления, связанные с ИИ, такие как попытки внезапного внедрения и jailbreak, и предоставляет высокоточный контекст для обеспечения быстрого и уверенного реагирования.
Безопасное внедрение ИИ без замедления инноваций
ИИ не должен быть вашим самым большим слабым местом, а безопасность не должна сдерживать инновации. С Tenable One AI Exposure организации могут уверенно двигаться вперед, зная, что у них есть проактивный подход к управлению рисками ИИ по всей поверхности атаки, основанный на предотвращении нарушений.
Вы новичок в Tenable?
Запросите демонстрацию Tenable One AI Exposure.
Вы уже являетесь клиентом? Обратитесь к своей команде по работе с клиентами, чтобы расширить покрытие Tenable One и включить в него AI Exposure.
Источник: Introducing Tenable One AI Exposure: A New Standard for Securing AI Usage at Scale
