Інформація про інновації в портфелі продуктів Broadcom
Підприємства з неймовірною швидкістю впроваджують застосування генеративного штучного інтелекту. Їм потрібно захистити себе від потенційних ризиків.
Генеративний ШІ – це інновація, яка перетворює все. Наскільки сильно та якими способами – предмет численних дискусій та суперечок. Але, як і в багатьох інших нових технологіях, тривоги, які він викликає, можуть бути пов’язані скоріше зі страхом перед майбутнім, ніж тим, яким це майбутнє буде.
ChatGPT та поява генеративного ШІ
Занепокоєння цілком зрозуміле. Справді, ще десять років тому деякі експерти попереджали, що штучний інтелект призведе до того, що до 2033 року ми втратимо близько 50% нинішніх робочих місць. Але зараз ми вже майже на півдорозі до цього, а ми навіть не маємо повноцінних автономних автомобілів з автономним керуванням.
Приводом для цієї розмови стала, здавалося б, миттєва поява генеративного ШІ та його найвідомішого додатку – ChatGPT від Open AI. Реальність дуже схожа на ранні етапи становлення багатьох технологій, що змінюють парадигму. Саме в такому становищі ми знаходимося сьогодні із генеративним ШІ. Усього за півроку ми вже бачимо, що він досягнув точки перелому у розвитку технологій, оскільки підприємства поспішають запровадити широке використання додатків генеративного ШІ.
Наслідки для безпеки підприємства
Для більшості підприємств поточний момент – це процес освіти. Підприємства розглядають генеративний ШІ як спосіб підвищення ефективності своєї роботи. Однак, поспішаючи з використанням, вони наражаються на ризик.
Деякі з цих ризиків мають випадковий характер. Вони пов’язані з копіюванням або розміщенням конфіденційних корпоративних даних, файлів або зображень у загальнодоступних програмах Generative AI. Пул знань ChatGPT – це по суті весь Інтернет. Інформація, завантажена до нього, стає даними, до яких має доступ будь-який інший абонент. Саме витік даних сьогодні є головною проблемою безпеки генеративного ШІ на підприємствах.
Іншою серйозною проблемою є порушення авторських прав та інтелектуальної власності (ІВ). Кому що належить, коли на виході виходить щось, що є власною ІВ підприємства та поєднується з чужою у загальнодоступному сервісі третьої сторони? Генеративний ШІ не перевіряє упередженість, авторство чи захист авторських прав.
Третя серйозна проблема – використання його як інструмента кіберзловмисників. Тут важливо відзначити, що генеративний ШІ сьогодні – це механізм розробки контенту. ChatGPT може розповісти про те, як зловмисники зламували ту чи іншу операційну систему, але він не може самостійно розробити новий спосіб, який ще ніколи не застосовувався. Принаймні поки що не може. І, ймовірно, не зможе протягом п’яти та більше років.
То як же нам утримати поїзд із генеративним штучним інтелектом, забезпечивши при цьому безпеку підприємства?
Важливість політики
Захист підприємства від потенційних ризиків кібербезпеки генеративного ШІ починається не з технологій. Він починається з бізнес-політики організації – з навчання та створення основи для розуміння та усвідомлення ризиків, які несе у собі генеративний ШІ. Важливість політики поширюється і на сферу регулювання. Так, зовсім недавно низка лідерів у галузі ШІ закликали призупинити розвиток окремих його аспектів, допоки не буде розроблена офіційна нормативна база, яка б дозволила встановити захисні бар’єри.
І нарешті, підприємства мають запровадити засоби контролю, які дозволять їм застосовувати та автоматизувати політики для моніторингу використання генеративного ШІ та мінімізації ризиків для підприємства.
Symantec та генеративний штучний інтелект
Компанія Symantec давно працює зі штучним інтелектом. Ключовим напрямком діяльності Symantec є захист користувацької та корпоративної інформації. Організації повинні відчувати себе особливо впевнено, коли йдеться про загрозу, що походить від генеративних систем штучного інтелекту, якщо вони вже мають засоби захисту даних, такі як Symantec Data Loss Prevention Cloud.
Ми досі перебуваємо на початковому етапі розвитку генеративного штучного інтелекту. Саме тому Symantec має велику команду інженерів, яка прагне до того, щоб Symantec була в авангарді цієї технології. Дійсно, Symantec використовує багато з тих самих інструментів машинного навчання і навіть генеративного штучного інтелекту для виявлення шкідливої поведінки, які використовуються для його створення.
Коли йдеться про генеративний штучний інтелект, питання не в тому, виграє підприємство чи ні. Підприємства, які не приймуть його, будуть у вкрай невигідному становищі. Підприємствам необхідно інвестувати в безпеку, щоб безпечно використати всі переваги технології, яка перетворює все довкола.
