То, чего вы не знаете, может (и безусловно) навредить вам
-
Теневой ИИ – это не просто несанкционированный инструмент, а неконтролируемое перемещение данных в больших объемах.
-
Блокировка генеративного ИИ тормозит инновации, но игнорирование этой проблемы может привести к утечке конфиденциальных данных.
-
Службам безопасности необходимы прозрачность, классификация и контроль для управления рисками, связанными с генеративным ИИ.
Shadow AI – несанкционированное использование инструментов генеративного ИИ (Gen AI) – создает тихую, но значительную угрозу для предприятий, поскольку децентрализованное внедрение продолжает распространяться. Каждый сотрудник, который бессистемно вводит проприетарный код, списки клиентов или финансовые данные в общедоступный Gen AI, становится невидимым источником угрозы. То, что начинается как невинный способ повышения производительности, становится новым путем для утечки данных, с которым традиционные модели безопасности не справляются.
Хотя полная блокировка Gen AI может помешать производительности и инновациям (и, честно говоря, это просто неразумно), разрешение неограниченного использования практически гарантирует утечку конфиденциальных данных из вашей организации. Для эффективного управления Shadow AI организациям необходим более интуитивный и сбалансированный подход. Такой подход должен учитывать, как Gen AI фактически используется, позволять контекстуально оценивать риски и быстро применять меры контроля без нарушения рабочих процессов.
Ведущие в отрасли решения по предотвращению потери данных (DLP) разработаны с учетом этого. Динамичный инструмент DLP обеспечивает трехэтапную стратегию безопасности данных, которая решает проблемы как видимости, так и контроля, позволяя организациям выйти за рамки полного запрета и внедрить тонкий, точно настроенный подход.
Давайте подробнее рассмотрим каждый этап и его идеальные результаты.
Трехэтапная стратегия обеспечения безопасности данных
Этап 1: Управление
Поиск практической информации и аналитики
Проблема: Невозможно контролировать то, чего не видно. Одной из самых больших проблем, с которой сталкиваются службы безопасности, является выявление того, кто использует Gen AI, какие сайты они посещают и сколько корпоративных данных потенциально подвергается риску. Объем и скорость внедрения новых инструментов Gen AI делают эту задачу бесконечной игрой в кошки-мышки.
Решение: Высококлассный инструмент DLP обеспечивает необходимую видимость деятельности теневого ИИ с помощью:
- Аудит обнаружения. Аудит функционирует как мощный инструмент обнаружения теневого ИТ, обеспечивая критически важную видимость деятельности пользователей в приложениях SaaS и на веб-сайтах в режиме реального времени. Он отслеживает данные о пользователях, общее использование и ключевые действия, такие как загрузка или скачивание. Это обеспечивает детализированные данные, необходимые для определения, какие пользователи и команды получают доступ к регулируемым инструментам Gen AI.
- Мониторинг ресурсов в режиме реального времени. Возможности оперативного контроля позволяют видеть весь трафик, что решает проблему быстрого появления новых ИИ-сервисов. Службам безопасности достаточно выбрать фильтр «Генеративный ИИ», чтобы увидеть полный перечень активных ресурсов и статистику их использования по всей организации.
- Эффективная отчетность. Функции плановой отчетности позволяют периодически получать полную картину использования и рисков. Эти отчеты преобразуют необработанные данные о деятельности в непрерывный, управляемый процесс обеспечения безопасности, предоставляя последовательную информацию о тенденциях внедрения и потенциальных угрозах.
Этап 2: Категоризация
Принятие решений на основе оценки рисков
Задача: Не все инструменты искусственного интеллекта первого поколения представляют одинаковый уровень риска, и службы безопасности должны учитывать такие факторы, как практика хранения данных, соблюдение нормативных требований и потенциальное неправомерное использование. Без правильного контекста организации рискуют ввести чрезмерные ограничения или позволить инструментам с высоким уровнем риска работать без контроля.
Решение: Опция DLP, которая предлагает категоризацию на основе рисков с помощью:
- Анализ рисков и оценки угроз. Как только использование генеративного ИИ выявлено с помощью инструментов аудита и мониторинга, администраторы могут использовать собранные данные и результаты анализа безопасности для классификации приложений. Это важнейший этап, на котором к полученным данным применяются политики организации.
- Санкционированная и несанкционированная классификация. На основе этой оценки инструменты Gen AI могут быть классифицированы как санкционированные или несанкционированные. Санкционированные инструменты разрешены к использованию (обычно с определенными средствами контроля), а несанкционированные инструменты ограничены.
- Согласование политик. На этом этапе данные об использовании преобразуются в политику безопасности, что напрямую влияет на настройку средств контроля доступа и политик DLP для обеспечения надлежащего управления организацией.
Этап 3: Постепенное внедрение и контроль
Где происходит волшебство (политика)
Задача: Службам безопасности необходимо найти способ обеспечить соблюдение политики с учетом нюансов: блокировать доступ к наиболее рискованным приложениям и одновременно разрешать контролируемое и безопасное использование одобренных приложений.
Решение: Детальные настройки в рамках правильного решения DLP позволяют организациям безопасно внедрять Gen AI без ущерба для безопасности данных путем:
- Блокировки несанкционированных приложений. Приложения Gen AI с высоким уровнем риска и несоответствующие требованиям, помеченные как «Несанкционированные», могут быть полностью заблокированы, чтобы предотвратить доступ к услугам, представляющим недопустимый риск.
- Гранулированный условный доступ: Вместо подхода «все или ничего» доступ можно ограничить в зависимости от пользователя/группы, состояния устройства (например, BYOD) или определенных функций, таких как загрузка файлов или передача больших объемов данных.
- Предотвращение потери данных в режиме реального времени: DLP-контроль проверяет запросы и полезные данные в режиме реального времени, когда пользователи взаимодействуют с инструментами Gen AI. Если обнаруживается конфиденциальная информация (например, проприетарный исходный код, PII, финансовые данные), передача может быть заблокирована, что предотвращает попадание информации вашей организации на серверы поставщика Gen AI или ее использование для обучения их моделей.
Не ищите дальше – Symantec DLP Cloud
Что отвечает всем этим требованиям и даже больше? Symantec Data Loss Prevention Cloud обеспечивает полную защиту на протяжении всего жизненного цикла, необходимую для выявления теневого ИИ и надежной защиты ваших наиболее конфиденциальных данных. Благодаря этому надежному, получившему признание в отрасли решению DLP, команды могут перейти от реактивных мер защиты к продуманному, постоянному управлению путем:
-
Непрерывный мониторинг использования Shadow AI
-
Блокировка несанкционированных приложений Gen AI, представляющих высокий риск
-
Применение точных мер контроля к санкционированным инструментам, в том числе:
— Блокировка загрузки файлов с помощью политик DLP Cloud Protect
— Проверка подсказок и полезных данных для обнаружения и блокировки конфиденциальных данных в режиме реального времени
— Ограничение доступа к утвержденным инструментам Gen AI по пользователям/группам
Вот как это выглядит на практике:
Хотите посмотреть использование сайта Gen AI по трафику? Вы можете составить список, охватывающий всю организацию.
На этом исчерпывающие и понятные данные не заканчиваются. Произведите впечатление на руководство и держите команды в курсе событий с помощью отчета 360°, в котором освещается текущая ситуация с Shadow AI. Отчет будет отправляться на электронную почту в любое удобное для вас время.
Источник: The Crisis of the Unknown: Shadow AI and Corporate Data Risk
