За допомогою Tenable One AI Exposure ви можете постійно виявляти та відстежувати всі випадки використання ШІ у вашій організації, включаючи тіньовий ШІ, агенти, плагіни для браузерів та багато іншого. Є можливість скласти карту складних робочих процесів ШІ, щоб виявити вразливості та контролювати дотримання політик безпеки в контексті допустимого використання ШІ.
Основні висновки
- Тепер Tenable One AI Exposure, який є загальнодоступним на платформі Tenable One Exposure Management Platform, надає командам з безпеки можливості для моніторингу та захисту робочих процесів, заснованих на ШІ.
- Є можливість скласти карту складних робочих процесів ШІ, щоб виявити, як додатки, інфраструктура, ідентифікація, агенти та дані поєднуються, створюючи вразливості з серйозними наслідками.
- Зниження ризиків ШІ (prompt injection, jailbreaking) та контроль витоків конфіденційних даних через ШІ-запити.
Швидка інтеграція ШІ в додатки та інфраструктуру випередила можливості традиційних засобів контролю безпеки. По мірі того як автономні агенти та хмарний ШІ стають центральним елементом підприємства, команди з безпеки стикаються з труднощами в управлінні новим класом ризиків, які не були передбачені в старих інструментах, що призводить до критичного розриву в управлінні вразливістю ШІ.
Tenable One AI Exposure було створено, щоб надати командам з безпеки можливості, необхідні для усунення цього розриву та зниження ризиків безпеки ШІ. Ці можливості, які тепер доступні в рамках платформи Tenable One Exposure Management Platform, дозволяють організаціям захистити свої робочі процеси, засновані на ШІ, без уповільнення інновацій.
Пояснення розриву в управлінні ризиками, пов’язаними з ШІ
Розрив в управлінні ризиками, пов’язаними з ШІ, відноситься до трьох проблем, з якими стикаються команди з безпеки: чи можуть вони бачити, як співробітники використовують ШІ, де він працює і як ризики, пов’язані з ШІ, накопичуються у взаємопов’язаних системах – як всередині, так і поза організацією.
Ризики, пов’язані з ШІ, важко оцінити з цілої низки причин. По-перше, вони не схожі на традиційні кіберризики. Вони не зосереджені в одній системі. Вони не проявляються у вигляді вразливостей. І вони не чекають, поки зловмисники скористаються ними, щоб завдати шкоди. Ризики безпеки ШІ проявляються в таких сферах:
- Платформи ШІ для співробітників, такі як ChatGPT, Copilot і вбудовані функції SaaS
- Хмарні сервіси ШІ і конвеєри моделей
- API, агенти і плагіни для браузерів
- Додатки і сервіси для загального користування
Більша частина цього відбувається поза традиційними робочими процесами безпеки. Тіньові ШІ-розгортання, забуті тестові середовища, небезпечні інтеграції та служби з надмірними дозволами непомітно розширюють поверхню атаки, часто невідомо для команд безпеки.
Водночас робочі навантаження ШІ залежать від складних ланцюжків інфраструктури, ідентифікаційних даних, API та доступу до даних. Одна хибна конфігурація або занадто широкі права доступу можуть перетворити рутинне використання ШІ на загрозу з серйозними наслідками.
Оскільки взаємодія з ШІ відбувається постійно за допомогою запитів, завантажень, відповідей та автоматичних дій, навіть затверджене використання може ненавмисно призвести до розкриття конфіденційних даних, якщо не забезпечити належну видимість та заходи захисту.
Нарешті, вразливість ШІ рідко проявляється у вигляді поодинокого попередження або вразливого активу. Натомість вона виникає через зв’язки. Наприклад:
- Співробітник використовує затверджений сторонній інструмент
- Цей інструмент викликає внутрішній сервіс або агент ШІ
- Агент має доступ до конфіденційних даних або систем
- Неправильна конфігурація або вразлива кінцева точка роблять цей доступ можливим
Окремо кожен компонент може здаватися нешкідливим. Разом вони створюють реальний ризик.
Традиційні інструменти безпеки, як правило, розглядають ці елементи ізольовано: тут – стан хмари, там – дозволи на доступ, десь ще – ризики додатків. Не маючи можливості пов’язати ці сигнали між собою, команди з безпеки змушені реагувати на симптоми, а не керувати вразливістю.
Огляд Tenable One AI Exposure
Tenable One AI Exposure допомагає командам усунути цю прогалину у видимості, постійно виявляючи, контекстуалізуючи та пріоритизуючи пов’язані з ШІ вразливості у вашій організації – внутрішні та зовнішні, локальні та хмарні – щоб надати повне, з урахуванням ризиків уявлення про те, де працює ШІ, які його зв’язки та де він створює вразливості.
На відміну від точкових інструментів кібербезпеки на базі ШІ, які виявляють окремі проблеми, Tenable One об’єднує весь ланцюжок дій в єдиному вікні, показуючи, як додатки ШІ, інфраструктура, ідентифікація, агенти та дані поєднуються, створюючи реальний ризик. Зіставляючи ці взаємозв’язки, Tenable One допомагає вашим командам з безпеки розставити пріоритети щодо найбільш важливих вразливостей ШІ, щоб знизити ризики безпеки ШІ у всіх середовищах.
Як Tenable One допомагає захистити поверхню атаки ШІ
Ідентифікація використання сервісів ШІ у вашій організації
Ви не зможете керувати ризиками ШІ, якщо не знаєте, де він існує.
Tenable One постійно виявляє використання ШІ у внутрішніх середовищах і на зовнішній поверхні атаки, допомагаючи командам усунути сліпі зони та підтримувати актуальне розуміння свого сліду ШІ. Це включає в себе видимість санкціонованого та тіньового ШІ в додатках, кінцевих точках, хмарних робочих навантаженнях, API, агентах та публічно доступних сервісах.
Служби безпеки можуть бачити, де працюють служби ШІ, які технології використовуються і наскільки зовнішня вразливість відповідає внутрішній обізнаності.
Аналіз та усунення вразливостей, пов’язаних з ШІ
Одного виявлення недостатньо. Ризики ШІ виникають через взаємодію систем.
Tenable One відображає робочі процеси ШІ на хмарних платформах і в хмарних сервісах, показуючи, як взаємодіють моделі ШІ, інфраструктура, сховища, мережі та засоби контролю доступу. Він виявляє вразливості та неправильні конфігурації в програмному забезпеченні та хмарних ресурсах, пов’язаних з ШІ, а також надає контекст про те, до яких даних і систем можуть отримати доступ ці компоненти.
Поєднуючи інфраструктуру ШІ із засобами ідентифікації та доступу, команди отримують чітке уявлення про те, де насправді виникає вразливість, а не тільки про те, де існує ШІ.
Захист робочих навантажень, сервісів та доступу ШІ
Зниження ризиків ШІ означає усунення прогалин, які використовують зловмисники.
Tenable One допомагає командам виявляти та усувати ризиковані конфігурації в робочих навантаженнях ШІ та модельних середовищах, перш ніж вони можуть бути використані зловмисниками. Він також виявляє надмірні дозволи та слабкі місця в ідентифікації, пов’язані з сервісами та агентами ШІ, що дозволяє командам забезпечити доступ з мінімальними привілеями та скоротити кількість шляхів атаки, які ставлять під загрозу критично важливі ресурси ШІ.
Ця інформація про вразливості, заснована на ідентичності, допомагає групам безпеки зосередитися на найбільш важливих комбінаціях слабких місць.
Управління використанням ШІ та потоком даних
Впровадження ШІ не повинно відбуватися за рахунок безпеки або відповідності нормативним вимогам.
Tenable One забезпечує видимість того, як співробітники та агенти взаємодіють з платформами ШІ, включаючи такі інструменти, як ChatGPT, Copilot та вбудовані генеративні функції ШІ. Він також показує, як дані проходять через ці взаємодії. Команди можуть ідентифікувати конфіденційні дані, що передаються через підказки або завантаження, забезпечувати дотримання політик допустимого використання ШІ та застосовувати заходи безпеки, які направляють користувачів до більш безпечної поведінки ШІ.
Платформа також виявляє загрози та зловживання, пов’язані з ШІ, такі як спроби раптового впровадження та jailbreak, і надає високоточний контекст для забезпечення швидкого та впевненого реагування.
Безпечне впровадження ШІ без уповільнення інновацій
ШІ не повинен бути вашим найбільшим слабким місцем, а безпека не повинна стримувати інновації. З Tenable One AI Exposure організації можуть впевнено рухатися вперед, знаючи, що вони мають проактивний підхід до управління ризиками ШІ по всій поверхні атаки, заснований на запобіганні порушенням.
Ви початківець у Tenable?
Замовте демонстрацію Tenable One AI Exposure.
Ви вже є клієнтом? Зверніться до своєї команди з роботи з клієнтами, щоб розширити покриття Tenable One і включити в нього AI Exposure.
Джерело: Introducing Tenable One AI Exposure: A New Standard for Securing AI Usage at Scale
