Генеративний ШІ швидко змінив уявлення світу про можливості штучного інтелекту, та його масове впровадження може здатися шокуючим для багатьох, хто не працює у сфері технологій. Він викликає благоговіння та тривогу – а найчастіше і те, й інше одночасно.
Які ж його наслідки для підприємства та кібербезпеки?
Точка перегину у технології
Генеративний ШІ працює на основі нейронних мереж із системами глибокого навчання, подібно до того, як працює мозок. Ці системи нагадують процеси людського навчання. Але на відміну від людського навчання, міць даних з масових джерел у поєднанні з правильною інформацією у генеративному ШІ означає, що обробка відповідей відбуватиметься у рази швидше. Те, на що в окремої людини може піти 30 років, може зайняти лише одну мить. Ця перевага може бути отримана залежно від якості та величезни обсягів даних, які можуть бути подані до системи.
Це наукова та інженерна революція для підприємства. Технологія, яка може значно підвищити ефективність організацій, дозволяючи їм бути значно продуктивнішими за тієї ж кількості людських ресурсів. Але шок від того, як швидко з’явилися такі додатки генеративного ШІ, як ChatGPT, Bard і GitHub Copilot, здавалося б, за одну ніч, зі зрозумілих причин застав ІТ-лідерів підприємств зненацька. Настільки швидко, що за шість місяців популяризація інструментів генеративного ШІ технологія вже досягла точки технологічного перегину.
Проблеми кібербезпеки
Генеративний ШІ, включаючи ChatGPT, в основному надається третіми особами за моделлю “програмне забезпечення як послуга” (SaaS). Одна з проблем, що виникають при цьому, полягає в тому, що взаємодія з генеративним ШІ вимагає надання даних третій стороні. Великі моделі навчання (LLM), на яких засновані ці ШІ інструменти, вимагають зберігання цих даних, щоб інтелектуально реагувати на наступні запити.
Використання штучного інтелекту створює значні проблеми, пов’язані з втратою конфіденційних даних та дотриманням нормативних вимог. Надання конфіденційної інформації програмам генеративного ШІ, такої як персонально ідентифіковані дані (PII), захищена медична інформація (PHI) або інтелектуальна власність (IP), має розглядатися в тому ж ключі, що й інші відносини між обробником та контролером даних. Тому необхідно забезпечити належний контроль.
Інформація, що надходить до інструментів штучного інтелекту, таких як ChatGPT, стає частиною його знань. Будь-який передплатник ChatGPT має доступ до цього загального набору даних. Це означає, що будь-які дані, завантажені або запитані, можуть бути відтворені в певних рамках програми для інших користувачів, які задають аналогічні питання. Варто зазначити, що це дуже схоже на проблеми програм “програмне забезпечення як послуга” (SaaS), оскільки дані можуть вплинути на відповідь майбутніх запитів при використанні їх як навчального набору. Сьогодні більшість інструментів генеративного ШІ не має конкретної політики безпеки даних, наданих користувачами.
Інсайдерська загроза також стає значною завдяки ШІ. Інсайдери з глибокими знаннями про своє підприємство можуть використовувати ChatGPT для створення дуже реалістичної електронної пошти. Вони можуть дублювати стиль іншої людини, друкарські помилки і все інше. Більше того, зловмисники можуть точно копіювати веб-сайти.
Що потрібно підприємствам для забезпечення безпеки
На щастя, існують рішення Generative AI Protection, такі як Symantec DLP Cloud, Adaptive Protection в Symantec Endpoint Security Complete (SESC) і Real Time Link у захисті електронної пошти, які вирішують ці проблеми і блокують атаки різними цільовими способами.
Symantec DLP Cloud розширює можливості Generative AI Protection для підприємств, надаючи їм можливості, необхідні для виявлення, а потім моніторингу та контролю взаємодії з інструментами Generative AI у їхніх організаціях. Крім інших переваг, DLP може використовувати ШІ для прискорення пріорітизації інцидентів, допомагаючи старшим аналітикам сортувати найбільш значущі та розпізнавати ті, які не становлять критичної загрози для підприємства.
Переваги включають:
- Надання підприємствам можливості розуміти ризики, на які вони наражаються, на основі кожного інструменту за допомогою генеративного ШІ.
- Забезпечення безпечного та надійного використання популярних інструментів ШІ шляхом надання необхідних засобів захисту для блокування завантаження чи розміщення конфіденційних даних навмисно чи ненавмисно.
- Ідентифікація, класифікація та документування відповідності вимогам PHI, PII та інших критично важливих даних.
Підсумок: Symantec Generative AI Protection дозволяє підприємствам сказати “так” інноваціям генеративного ШІ, що підвищують продуктивність, без шкоди для безпеки даних та відповідності нормативним вимогам.
Джерело: Implications of Generative AI for Enterprise Security
