У нещодавно опублікованому відкритому листі експертів у галузі штучного інтелекту (ШІ) та технологій міститься заклик до негайної та мінімальної шестимісячної паузи у навчанні систем ШІ, більш потужних, ніж GPT-4. Заявлений каталізатор цього листа: “Глибокі ризики для суспільства і людства”.
Якщо історія чомусь і навчила нас, то це тому, що інновації, що виникають, важко стримати, як тільки вони з’являються в природі. Згадайте появу автомобіля чи Інтернету, й у обох випадках були як скептики, так і перші послідовники. Стоячи на порозі передбачуваного прогресу, можливостей для бізнесу чи політичних переваг, ми, як глобальне суспільство, рідко зупинялися. Найімовірніше, цього не станеться і зараз.
З одного боку, така пауза має відбутися у глобальному масштабі, щоб не дозволити одним країнам отримати переваги від перерви, зробленої іншими. Враховуючи поточну геополітичну ситуацію – та й будь-яку іншу геополітичну ситуацію, насправді – очікувати на це, напевно, нереально. З іншого боку, більшість досліджень і розробок, що проводяться в галузі генеративного ШІ, вже доступні через моделі з відкритим вихідним кодом, що робить його ще більш важким для стримування.
У недавньому інтерв’ю 60 Minutes генеральний директор Google Сундар Пічаї заявив, що суспільство має адаптуватися, щоб зробити ШІ безпечним для світу. “Це не компанія має вирішувати”, – сказав він. “Саме тому я вважаю, що у розробці цього повинні брати участь не лише інженери, а й соціологи, етики, філософи тощо”.
Трансформаційний потенціал ШІ
Позитивне застосування генеративного ШІ має історичну перспективу допомогти людям у всьому світі – від освіти та охорони здоров’я до зміни клімату, продовольчої безпеки, кібербезпеки та не тільки. Головне питання у тому, як ми повинні діяти, щоб максимізувати користь та стримати ризики зловживання чи корупційного застосування.
За даними World Justice Project, наприклад, 83 відсотки респондентів опитування в Індії, які повідомили про правові проблеми, не змогли отримати відповідну “інформацію, пораду чи представництво”. Це посилюється величезним відставанням у правовій системі: минулого року уряд повідомив про 40 мільйонів справ, які очікують на розгляд в індійських судах. ШІ здатний змінити цю реальність, допомагаючи людям зрозуміти свої права, знайти необхідну інформацію та звернутися за юридичною допомогою. Для юристів та судових органів ШІ може спростити складні юридичні дослідження, тим самим допомагаючи значно скоротити відставання у розгляді справ, що призведе до величезних соціальних вигод. Справді, якщо інтернет колись давав обіцянку інклюзивності та доступності, то цілком можливо, що ШІ допоможе її виконати.
ШІ вже надає інструменти для зниження ризиків сьогоднішнього дня, в той час як ми адаптуємося до нових посягань на особистість і справжність. Організації використовують ШІ для зміцнення заходів безпеки, а компанія Microsoft нещодавно запустила продукт, побудований на Chat GPT-4. Security Copilot – це інструмент кібербезпеки, який допомагає адміністраторам безпеки отримати структурований огляд можливих загроз для ІТ-інфраструктури компанії “зі швидкістю та масштабом штучного інтелекту”. Природно, як і будь-який інструмент на основі штучного інтелекту, Security Copilot не завжди все робить правильно, і Microsoft намагається сформулювати те, що часто не береться до уваги в заголовках: “Контент, що генерується ШІ, може містити помилки”.
Це важливе зізнання, до якого ми ще повернемося.
Оцінка загроз
Тепер давайте поговоримо про “глибокі ризики для суспільства”.
Головним із них є зростання потенціалу для шахрайства. За допомогою засобів штучного інтелекту зловмисники можуть легко створити повну та повністю синтетичну особу в Інтернеті. Якщо додати до цього широко розрекламовану технологію глибокої підробки, то небезпека стає очевидною та реальною – тепер нелегко визначити, що вам дзвонить шахрай телефоном або навіть у режимі відеоконференції. Це особливо небезпечно в контексті величезної кількості PII (персональної інформації, що ідентифікується), яка просочилася, була зібрана або викрадена в останні роки. Якщо ви ведете будь-які конфіденційні розмови з будь-ким, цей ризик повинен бути на першому місці.
У ширшому масштабі генеративні системи на основі ШІ використовувалися для створення іншого шкідливого контенту, починаючи від майстерно розроблених фішингових атак і закінчуючи повноцінними пропагандистськими кампаніями та “фальшивими новинами”.
Існують також небезпеки, пов’язані з більш прозовим використанням генеративного ШІ. Все частіше ШІ використовується експериментально у таких галузях, як право, наука, медицина, де проблема полягає в тому, що ми не завжди знаємо, чого не знаємо.
Виявилося, що й штучний інтелект також. Розробники ChatGPT попередили, що інструмент “іноді пише правдоподібні, але неправильні чи безглузді відповіді”. Насправді це визначальна слабкість ШІ: Він не знає, що правильно, а що ні. Дійсно, боти з галюцинаціями – добре відоме явище.
Саме такі ризики наголошують на небезпеці, з якою ми справді стикаємося. Розглянемо випадки, коли цифрові угоди високої вартості ґрунтуються на результатах таких галюцинацій – наприклад, аналіз страхових договорів за допомогою ШІ або юридичні умови та положення, які можуть бути згенеровані ШІ для включення до іпотеки або купівлі комерційної нерухомості. Що робити, якщо робот передумав?
У контексті невизначеності щодо того, що є реальним та істинним, цифрова взаємодія має бути захищена таким чином, щоб кожен крок був неприступним та незаперечним – від початкової ідентифікації сторін до розподіленого обліку взаємодії та її артефактів. Коротше кажучи, ідея у тому, щоб забезпечити повний потенціал взаємодії людини з людиною.
Враховуючи, що цей потенціал може бути посилений штучним інтелектом, дійсно є сенс встановити обмежувальні рамки навколо розробки генеративних інструментів на основі штучного інтелекту, а не зупиняти розробку повністю. Ці огорожі, зумовлені регулюванням та аудитом, зрештою повинні гарантувати, що будь-які негативні сторони значно переважать переваги.
Рекомендовані подальші кроки
У рамках плану протидії шахрайству на основі ШІ підприємства повинні зосередитися на перевірці ідентифікаційних даних та безперервній універсальній автентифікації для забезпечення цілісності взаємодій, транзакцій та угод.
Підприємствам також слід оцінити конкретні вразливості, пов’язані з їх цифровими угодами, та розглянути рішення для моніторингу та виявлення відповідних загроз. Наприклад, якщо цифрові угоди виконуються у відеосередовищі, може знадобитися включити у відеосередовище підтвердження особи. Аналогічний підхід рекомендується і для інших середовищ, таких як електронні переклади або мобільні програми.
Більше того, враховуючи здатність ШІ “підроблювати” справжність ділових угод та артефактів угод, а також потенційну можливість “глибокої підробки” всього – від ділового контракту до документа про власність, блокчейн відіграватиме вирішальну роль, коли справа дійде до доказу та захисту особистості.
І останнє зауваження щодо захисту цілісності цифрових угод у зв’язку з ШІ, який може передумати. Основна проблема, з якою ми стикаємося, полягає в наступному: якщо одного дня він говорить вам одне, а наступного дня – зовсім інше, як ви дізнаєтеся, що є що?
Відповідь зводиться до можливості зберігати докази того, що спочатку було передано, за допомогою заходів безпечного зберігання. Незалежно від того, було це первісне повідомлення правдивим чи ні, можливість доступу до незаперечних доказів того, що було зроблено ким, коли і як стане новою цінністю у світі, керованому ШІ.
Джерело: Key considerations for ensuring integrity and authenticity
