Генеративный ИИ быстро изменил представление мира о возможностях искусственного интеллекта, и его массовое внедрение может показаться шокирующим для многих, кто не работает в сфере технологий. Он вызывает благоговение и тревогу – а зачастую и то, и другое одновременно.
Каковы же его последствия для предприятия и кибербезопасности?
Точка перегиба в технологии
Генеративный ИИ работает на основе нейронных сетей с системами глубокого обучения, подобно тому, как работает мозг. Эти системы похожи на процессы человеческого обучения. Но в отличие от человеческого обучения, мощь данных из массовых источников в сочетании с правильной информацией в генеративном ИИ означает, что обработка ответов будет происходить в разы быстрее. То, на что у отдельного человека может уйти 30 лет, может занять всего один миг. Это преимущество может быть получено в зависимости от качества и огромных объемов данных, которые могут быть поданы в систему.
Это научная и инженерная революция для предприятия. Технология, которая может значительно повысить эффективность организаций, позволяя им быть значительно более продуктивными при том же количестве человеческих ресурсов. Но шок от того, как быстро появились такие приложения генеративного ИИ, как ChatGPT, Bard и GitHub Copilot, казалось бы, за одну ночь, по понятным причинам застал ИТ-лидеров предприятий врасплох. Настолько быстро, что всего за шесть месяцев популяризация инструментов генеративного ИИ технология уже достигла точки технологического перегиба.
Проблемы кибербезопасности
Генеративный ИИ, включая ChatGPT, в основном предоставляется третьими лицами по модели «программное обеспечение как услуга» (SaaS). Одна из проблем, возникающих при этом, заключается в том, что взаимодействие с генеративным ИИ требует предоставления данных третьей стороне. Большие модели обучения (LLM), на которых основаны эти инструменты ИИ, требуют хранения этих данных, чтобы интеллектуально реагировать на последующие запросы.
Использование искусственного интеллекта создает значительные проблемы, связанные с потерей конфиденциальных данных и соблюдением нормативных требований. Предоставление конфиденциальной информации программам генеративного ИИ, такой как персонально идентифицируемые данные (PII), защищенная медицинская информация (PHI) или интеллектуальная собственность (IP), должно рассматриваться в том же ключе, что и другие отношения между обработчиком и контролером данных. Поэтому необходимо обеспечить надлежащий контроль.
Информация, поступающая в инструменты искусственного интеллекта, такие как ChatGPT, становится частью его пула знаний. Любой подписчик ChatGPT имеет доступ к этому общему набору данных. Это означает, что любые данные, загруженные или запрошенные, могут быть воспроизведены в определенных рамках приложения для других сторонних пользователей, задающих аналогичные вопросы. Стоит отметить, что это очень похоже на проблемы приложений «программное обеспечение как услуга» (SaaS), поскольку данные могут повлиять на ответ будущих запросов при использовании их в качестве обучающего набора. На сегодняшний день большинство инструментов генеративного ИИ не имеют конкретной политики безопасности данных, предоставляемых пользователями.
Инсайдерская угроза также становится значительной благодаря ИИ. Инсайдеры с глубокими знаниями о своем предприятии могут использовать ChatGPT для создания очень реалистичной электронной почты. Они могут дублировать стиль другого человека, опечатки и все остальное. Более того, злоумышленники могут точно копировать веб-сайты.
Что нужно предприятиям для обеспечения безопасности
К счастью, существуют решения Generative AI Protection, такие как Symantec DLP Cloud, Adaptive Protection в Symantec Endpoint Security Complete (SESC) и Real Time Link в защите электронной почты, которые решают эти возникающие проблемы и блокируют атаки различными целевыми способами.
Symantec DLP Cloud расширяет возможности Generative AI Protection для предприятий, предоставляя им возможности, необходимые для обнаружения, а затем мониторинга и контроля взаимодействия с инструментами Generative AI в их организациях. Помимо прочих преимуществ, DLP может использовать ИИ для ускорения приоритизации инцидентов, помогая старшим аналитикам сортировать наиболее значимые и распознавать те, которые не представляют критической угрозы для предприятия.
Преимущества включают:
- Предоставление предприятиям возможности понимать риски, которым они подвергаются, на основе каждого инструмента с помощью генеративного ИИ.
- Обеспечение безопасного и надежного использования популярных инструментов ИИ путем предоставления необходимых средств защиты для блокирования загрузки или размещения конфиденциальных данных намеренно или непреднамеренно.
- Идентификация, классификация и документирование соответствия требованиям PHI, PII и других критически важных данных.
Итог: Symantec Generative AI Protection позволяет предприятиям сказать «да» инновациям генеративного ИИ, повышающим производительность, без ущерба для безопасности данных и соответствия нормативным требованиям.
Источник: Implications of Generative AI for Enterprise Security
