Близько двох місяців тому деякі важкоатлети технологічної індустрії, такі як Ілон Маск і Стів Возняк, опублікували відкритий лист із закликом призупинити дослідження та розробки в галузі ШІ. Лист підписали понад 1000 технологічних лідерів та дослідників.
Незважаючи на заклики до паузи, лист явно не зупинив розвиток ШІ. Більше того, він навіть не зупинил деяких з тих, хто його підписав, оскільки Ілон Маск оголосив про розробку TruthGPT, свого власного конкурента ChatGPT. Проте, оскільки багато дослідників, технологічних експертів і споживачів стурбовані, залишається питання, як ми можемо гарантувати, що генеративний ШІ не буде загрожувати суспільству, людству та безпеці?
Чи можемо ми насправді призупинити розвиток генеративного ШІ? Коротка відповідь – ні. Нещодавно у травні творець ChatGPT Сем Альтман виступив у Конгресі, щоб обговорити саме це, закликаючи до повсюдного регулювання. ШІ існує вже багато років, і на ньому засновано багато з того, що ми робимо. До появи ChatGPT наприкінці минулого року ніхто не розумів перетворюючої сили генеративного ШІ. Тепер, коли компанії та приватні особи починають розуміти його потенціал, а бар’єри доступності усунуто, ми спостерігаємо прискорення процесу впровадження ШІ та досліджень, а також активізацію розмов про регулювання його використання. Аналіз даних та надання відповідей на основі правил були тренувальними колесами індустрії ШІ, і тепер, коли ми просунулися вперед, немає можливості згорнути з цього шляху.
Крім того, спроби призупинити прогрес ШІ в окремих країнах загрожують наслідками, особливо з точки зору безпеки. Оскільки закордонні компанії продовжують розробку генеративного ШІ, користувачі країн, які призупинили розвиток ШІ, зрештою почнуть використовувати іноземні версії зі зростанням їхньої переваги. У свою чергу, це може призвести до того, що потенційно конфіденційна інформація опиниться в руках іноземних компаній з більш м’якими правилами безпеки, що відкриє додаткові ризики щодо конфіденційності та ідентифікації.
Які ризики ШІ?
Щоб зрозуміти, чому деякі експерти закликають призупинити розвиток, важливо спочатку зрозуміти, які ризики несе у собі генеративний ШІ. У кіберпросторі ми вже бачимо, як хакери використовують інструменти генеративного ШІ для створення більш реалістичних фішингових атак, що імітують бренди і тон, або легшого перекладу копій кількома мовами, що ускладнює їх ідентифікацію та полегшує зв’язок хакерів із глобальною аудиторією.
Зловмисники можуть використовувати технологію ШІ для створення глибоких підробок. Здатність відрізняти справжнє від штучного – від інформації, відео, музики та іншого – продовжуватиме стирати кордони для споживачів. З точки зору макроекономіки, ця технологія здатна ще більше підірвати довіру до Інтернету та сприяти поширенню дезінформації. Користувачам Інтернету постійно доведеться ставити собі питання, наскільки є “реальними” знайдені ними зображення, відео чи інформація. Нещодавно згенероване ШІ зображення Папи Римського у білому пуховику та прикрашеному коштовностями розп’ятті стало вірусним та обдурило тисячі людей. Хоча це досить доброякісний приклад, зловмисники також можуть використовувати технологію для створення хибних зображень, відео або аудіокліпів, які руйнують репутацію високопосадовців.
Які переваги дає штучний інтелект?
Незважаючи на існуючі ризики, генеративний ШІ має потенціал для зміни ситуації. Особисті завдання вже почали переходити у світ ШІ: деякі використовують генеративний ШІ для складання планів харчування, маршрутів подорожей та розкладу справ, дозволяючи користувачам зосередитися на інших, більш пріоритетних завданнях.
Генеративний ШІ також може виступати як інструмент з низьким рівнем кодування або без кодування. Організації можуть використовувати його для створення нових продуктів, які описуються людиною, а не розробляються кодером. Це значно знижує вартість та технічні бар’єри для виходу на ринок багатьох продуктів. Деякі стверджують, що це дозволяє суб’єктам загроз швидко генерувати шкідливе програмне забезпечення. Однак функціональність генеративного ШІ зробить додатки безпечнішими і ускладнить злам загроз. Ми повинні використовувати ШІ для боротьби з ШІ.
Генеративний ШІ може швидше та ефективніше аналізувати код на предмет вразливостей у системі безпеки, звільняючи експертів з безпеки для виконання менш виснажливих та обтяжливих завдань. Ми вже бачимо, як технологічні компанії, такі як Microsoft, впроваджують асистентів ШІ у додатки безпеки, щоб допомогти командам розробників та фахівців з безпеки у виявленні, ідентифікації та пріоритизації загроз. В ідеалі ця технологія повинна створювати менше вразливостей, а не більше, тому що ШІ виявлятиме і усуватиме проблеми до того, як суб’єкти загроз скористаються ними. А оскільки генеративний ШІ навчається все більше в міру того, як людина надає йому дані, команди з безпеки можуть впровадити його у процес розробки, щоб створювати дедалі безпечніший код.
Ми знаходимося на передньому краї цієї технології і досі не до кінця розуміємо, на що вона здатна. Як і більшість інших технологій, те, чи будемо ми вважати ШІ благом чи шкодою для суспільства, залежить від того, як він використовуватиметься.
Ми не можемо повернути генеративний ШІ назад. Суб’єкти загроз та кіберзлочинці не перестануть використовувати ШІ через заборону. Ми повинні продовжувати розвивати цю технологію та використовувати її з позитивною метою. Хоча ШІ є певною проблеоюи для суспільства щодо потенційного скорочення робочих місць, що може викликати деякі збої в роботі, можна координувати ці технічні досягнення при розумному нагляді, що вже робилося неодноразово.
Джерело: AI Has Gone Mainstream — So Let’s Innovate and Regulate
