В недавно опубликованном открытом письме экспертов в области искусственного интеллекта (ИИ) и технологий содержится призыв к немедленной и минимальной шестимесячной паузе в обучении систем ИИ, более мощных, чем GPT-4. Заявленный катализатор этого письма: «глубокие риски для общества и человечества».
Если история чему-то и научила нас, так это тому, что возникающие инновации трудно сдержать, как только они появляются в природе. Вспомните появление автомобиля или Интернета, и в обоих случаях были как скептики, так и первые последователи. Стоя на пороге предполагаемого прогресса, возможностей для бизнеса или политических преимуществ, мы как глобальное общество редко останавливались. Скорее всего, этого не произойдет и сейчас.
С одной стороны, такая пауза должна произойти в глобальном масштабе, чтобы не позволить одним странам получить преимущества от перерыва, сделанного другими. Учитывая текущую геополитическую ситуацию – да и любую другую геополитическую ситуацию, на самом деле – ожидать этого, наверное, нереально. С другой стороны, большая часть исследований и разработок, проводимых в области генеративного ИИ, уже доступна через модели с открытым исходным кодом, что делает его еще более трудным для сдерживания.
В недавнем интервью 60 Minutes генеральный директор Google Сундар Пичаи заявил, что общество должно адаптироваться, чтобы сделать ИИ безопасным для мира. «Это не компания должна решать», – сказал он. «Именно поэтому я считаю, что в разработке этого должны участвовать не только инженеры, но и социологи, этики, философы и так далее».
Трансформационный потенциал ИИ
Позитивное применение генеративного ИИ имеет историческую перспективу помочь людям во всем мире – от образования и здравоохранения до изменения климата, продовольственной безопасности, кибербезопасности и не только. Главный вопрос в том, как мы должны действовать, чтобы максимизировать пользу и сдержать риски злоупотребления или коррупционного применения.
По данным World Justice Project, например, 83 процента респондентов опроса в Индии, сообщивших о правовых проблемах, не смогли получить соответствующую «информацию, совет или представительство». Это усугубляется огромным отставанием в правовой системе: в прошлом году правительство сообщило о 40 миллионах дел, ожидающих рассмотрения в индийских судах. ИИ способен изменить эту реальность, помогая людям понять свои права, найти необходимую информацию и обратиться за юридической помощью. Для юристов и судебных органов ИИ может упростить сложные юридические исследования, тем самым помогая значительно сократить отставание в рассмотрении дел, что приведет к огромным социальным выгодам. Действительно, если интернет когда-то давал искупительное обещание инклюзивности и доступности, то вполне возможно, что ИИ поможет его выполнить.
ИИ уже предоставляет инструменты для снижения рисков сегодняшнего дня, в то время как мы адаптируемся к завтрашним новым посягательствам на личность и подлинность. Организации используют ИИ для укрепления мер безопасности, а компания Microsoft недавно запустила продукт, построенный на Chat GPT-4. Security Copilot – это инструмент кибербезопасности, который помогает администраторам безопасности получить структурированный обзор возможных угроз для ИТ-инфраструктуры компании «со скоростью и масштабом искусственного интеллекта». Естественно, как и любой инструмент на основе искусственного интеллекта, Security Copilot не всегда все делает правильно, и Microsoft старается сформулировать то, что часто упускается из виду в заголовках: «Контент, генерируемый ИИ, может содержать ошибки».
Это важное признание, к которому мы еще вернемся.
Оценка угроз
Теперь давайте поговорим о «глубоких рисках для общества».
Главным из них является возросший потенциал для мошенничества. С помощью средств искусственного интеллекта злоумышленники могут легко создать полную и полностью синтетическую личность в Интернете. Если добавить к этому широко разрекламированную технологию глубокой подделки, то опасность становится очевидной и реальной – теперь нелегко определить, что вам звонит мошенник по телефону или даже в режиме видеоконференции. Это особенно опасно в контексте огромного количества PII (персональной идентифицируемой информации), которая просочилась, была собрана или украдена в последние годы. Если вы ведете какие-либо конфиденциальные разговоры с кем бы то ни было, этот риск должен быть на первом месте.
В более широком масштабе генеративные системы на основе ИИ использовались для создания другого вредоносного контента, начиная от искусно разработанных фишинговых атак и заканчивая полноценными пропагандистскими кампаниями и «фальшивыми новостями».
Существуют также опасности, связанные с более прозаическим использованием генеративного ИИ. Все чаще ИИ используется экспериментально в таких областях, как право, наука, медицина, где проблема заключается в том, что мы не всегда знаем, чего не знаем.
Оказалось, что и искусственный интеллект тоже. Разработчики ChatGPT предупредили, что инструмент «иногда пишет правдоподобные, но неправильные или бессмысленные ответы». На самом деле это определяющая слабость ИИ: Он не «знает», что правильно, а что нет. Действительно, боты с галлюцинациями – хорошо известное явление.
Именно такие риски подчеркивают опасность, с которой мы действительно сталкиваемся. Рассмотрим случаи, когда цифровые соглашения высокой стоимости основаны на результатах таких галлюцинаций – например, анализ страховых договоров с помощью ИИ или юридические условия и положения, которые могут быть сгенерированы ИИ для включения в ипотеку или покупку коммерческой недвижимости. Что делать, если бот передумал?
В контексте неопределенности в отношении того, что является реальным и истинным, цифровое взаимодействие должно быть защищено таким образом, чтобы каждый шаг был неприступным и неопровержимым – от первоначальной идентификации сторон до распределенного учета взаимодействия и его артефактов. Короче говоря, идея заключается в том, чтобы обеспечить полный потенциал взаимодействия человека с человеком.
Учитывая, что этот потенциал может быть усилен искусственным интеллектом, действительно имеет смысл установить ограничительные рамки вокруг разработки генеративных инструментов на основе искусственного интеллекта, а не останавливать разработку полностью. Эти ограждения, обусловленные регулированием и аудитом, в конечном итоге должны гарантировать, что любые отрицательные стороны значительно перевесят преимущества.
Рекомендуемые дальнейшие шаги
В рамках плана по противодействию мошенничеству на основе ИИ предприятия должны сосредоточиться на проверке идентификационных данных и непрерывной универсальной аутентификации для обеспечения целостности взаимодействий, транзакций и соглашений.
Предприятиям также следует оценить конкретные уязвимости, связанные с их цифровыми соглашениями, и рассмотреть решения для мониторинга и обнаружения соответствующих угроз. Например, если цифровые соглашения выполняются в видеосреде, может потребоваться включить в видеосреду подтверждение личности. Аналогичный подход рекомендуется и для других сред, таких как электронные переводы или мобильные приложения.
Более того, учитывая способность ИИ «подделывать» подлинность деловых соглашений и артефактов сделок, а также потенциальную возможность «глубокой подделки» всего – от делового контракта до документа о собственности, блокчейн будет играть решающую роль, когда дело дойдет до доказательства и защиты личности.
И последнее замечание, касающееся защиты целостности цифровых соглашений в связи с ИИ, который может передумать. Основная проблема, с которой мы сталкиваемся, заключается в следующем: если в один день он говорит вам одно, а на следующий день – совсем другое, как вы узнаете, что есть что?
Ответ сводится к возможности хранить доказательства того, что было первоначально передано, с помощью мер безопасного хранения. Независимо от того, было ли это первоначальное сообщение правдивым или нет, возможность доступа к неопровержимым доказательствам того, что было сделано кем, когда и как, станет новой ценностью в мире, управляемом ИИ.
Источник: Key considerations for ensuring integrity and authenticity
