Около двух месяцев назад некоторые тяжеловесы технологической индустрии, такие как Илон Маск и Стив Возняк, опубликовали открытое письмо с призывом приостановить исследования и разработки в области ИИ. Письмо подписали более 1000 технологических лидеров и исследователей.
Несмотря на призывы к паузе, письмо явно не остановило развитие ИИ. Более того, оно даже не остановило некоторых из подписавших его, поскольку Илон Маск объявил о разработке TruthGPT, своего собственного конкурента ChatGPT. Тем не менее, поскольку многие исследователи, технологические эксперты и потребители обеспокоены, остается вопрос, как мы можем гарантировать, что генеративный ИИ не будет представлять угрозу для общества, человечества и безопасности?
Можем ли мы на самом деле приостановить развитие генеративного ИИ? Короткий ответ – нет. Недавно, в мае, создатель ChatGPT Сэм Альтман выступил в Конгрессе, чтобы обсудить именно это, призывая к повсеместному регулированию. ИИ существует уже много лет, и на нем основано многое из того, что мы делаем. До появления ChatGPT в конце прошлого года никто не понимал преобразующую силу генеративного ИИ. Теперь, когда компании и частные лица начинают понимать его потенциал, а барьеры доступности устранены, мы наблюдаем ускорение процесса внедрения ИИ и исследований, а также активизацию разговоров о регулировании его использования. Анализ данных и предоставление ответов на основе правил были тренировочными колесами индустрии ИИ, и теперь, когда мы продвинулись вперед, нет возможности свернуть с этого пути.
Кроме того, попытки приостановить прогресс ИИ в отдельных странах чреваты последствиями, особенно с точки зрения безопасности. Поскольку зарубежные компании продолжают разработку генеративного ИИ, пользователи стран, приостановивших развитие ИИ, в конечном итоге начнут использовать иностранные версии по мере роста их превосходства. В свою очередь, это может привести к тому, что потенциально конфиденциальная информация окажется в руках иностранных компаний с более мягкими правилами безопасности, что откроет дополнительные риски в области конфиденциальности и идентификации.
Каковы риски ИИ?
Чтобы понять, почему некоторые эксперты призывают приостановить развитие, важно сначала понять, какие риски несет в себе генеративный ИИ. В киберпространстве мы уже видим, как хакеры используют инструменты генеративного ИИ для создания более реалистичных фишинговых атак, имитирующих бренды и тон, или более легкого перевода копий на несколько языков, что усложняет их идентификацию и облегчает связь хакеров с глобальной аудиторией.
Злоумышленники также могут использовать технологию ИИ для создания глубоких подделок. Способность отличать настоящее от искусственного – от информации, видео, музыки и прочего – будет продолжать стирать границы для потребителей. С точки зрения макроэкономики, эта технология способна еще больше подорвать доверие к Интернету и способствовать распространению дезинформации. Пользователям Интернета постоянно придется задавать себе вопрос, насколько «реальны» найденные ими изображения, видео или информация. Недавно сгенерированное ИИ изображение Папы Римского в белом пуховике и украшенного драгоценностями распятия стало вирусным и обмануло тысячи людей. Хотя это достаточно доброкачественный пример, злоумышленники также могут использовать технологию для создания ложных изображений, видео- или аудиоклипов, которые разрушают репутацию высокопоставленных лиц.
Какие преимущества дает искусственный интеллект?
Несмотря на существующие риски, генеративный ИИ обладает потенциалом для изменения ситуации. Личные задачи уже начали переходить в мир ИИ: некоторые используют генеративный ИИ для составления планов питания, маршрутов путешествий и расписания дел, позволяя пользователям сосредоточиться на других, более приоритетных задачах.
Генеративный ИИ также может выступать в качестве инструмента с низким уровнем кодирования или без кодирования. Организации могут использовать его для создания совершенно новых продуктов, которые описываются человеком, а не разрабатываются кодером. Это значительно снижает стоимость и технические барьеры для выхода на рынок многих продуктов. Некоторые утверждают, что это позволяет субъектам угроз быстро генерировать вредоносное ПО. Однако функциональность генеративного ИИ сделает приложения более безопасными и затруднит взлом угроз. Мы должны использовать ИИ для борьбы с ИИ.
Генеративный ИИ может быстрее и эффективнее анализировать код на предмет уязвимостей в системе безопасности, освобождая экспертов по безопасности для выполнения менее утомительных и трудоемких задач. Мы уже видим, как технологические компании, такие как Microsoft, внедряют ассистентов ИИ в приложения безопасности, чтобы помочь командам разработчиков и специалистов по безопасности в обнаружении, идентификации и приоритизации угроз. В идеале эта технология должна создавать меньше уязвимостей, а не больше, потому что ИИ будет выявлять и устранять проблемы до того, как субъекты угроз воспользуются ими. А поскольку генеративный ИИ учится все больше по мере того, как человек предоставляет ему данные, команды по безопасности могут внедрить его в процесс разработки, чтобы создавать все более безопасный код.
Мы находимся на переднем крае этой технологии и все еще не до конца понимаем, на что она способна. Как и большинство других технологий, то, будем ли мы считать ИИ благом или вредом для общества, зависит от того, как он будет использоваться.
Мы не можем вернуть генеративный ИИ назад. Угрожающие субъекты и киберпреступники не перестанут использовать ИИ из-за запрета. Мы должны продолжать развивать эту технологию и использовать ее в позитивных целях. Хотя ИИ представляет определенные проблемы для общества в плане потенциального сокращения рабочих мест, что может вызвать некоторые сбои в работе, можно координировать эти технические достижения при разумном надзоре, что уже делалось неоднократно.
Источник: AI Has Gone Mainstream — So Let’s Innovate and Regulate
