Информация об инновациях в портфеле продуктов Broadcom
Предприятия с невероятной скоростью внедряют приложения генеративного искусственного интеллекта. Им необходимо защитить себя от потенциальных рисков.
Генеративный ИИ – это инновация, которая преобразует все. Насколько сильно и какими способами – предмет многочисленных дискуссий и споров. Но, как и во многих других новых технологиях, тревоги, которые он вызывает, могут быть связаны скорее со страхом перед будущим, чем с тем, каким это будущее будет.
ChatGPT и появление генеративного ИИ
Беспокойство вполне объяснимо. Действительно, еще десять лет назад некоторые эксперты предупреждали, что искусственный интеллект приведет к тому, что к 2033 году мы потеряем около 50% нынешних рабочих мест. Но сейчас мы уже почти на полпути к этому, а у нас даже нет полноценных автономных автомобилей с автономным управлением.
Поводом для этого разговора послужило, казалось бы, мгновенное появление генеративного ИИ и его наиболее известного приложения – ChatGPT от Open AI. Реальность очень похожа на ранние этапы становления многих технологий, меняющих парадигму. Именно в таком положении мы находимся сегодня с генеративным ИИ. Всего за полгода мы уже видим, что он достиг точки перелома в развитии технологий, поскольку предприятия спешат внедрить широкое использование приложений генеративного ИИ.
Последствия для безопасности предприятия
Для большинства предприятий текущий момент – это образовательный процесс. Предприятия рассматривают генеративный ИИ как способ повышения эффективности своей работы. Однако, торопясь с внедрением, они подвергают себя риску.
Некоторые из этих рисков носят случайный характер. Они связаны с копированием или размещением конфиденциальных корпоративных данных, файлов или изображений в общедоступных приложениях Generative AI. Пул знаний ChatGPT – это, по сути, весь Интернет. Информация, загруженная в него, становится данными, к которым имеет доступ любой другой абонент. Именно утечка данных является сегодня главной проблемой безопасности генеративного ИИ на предприятиях.
Другой серьезной проблемой является нарушение авторских прав и интеллектуальной собственности (ИС). Кому что принадлежит, когда на выходе получается нечто, что является собственной ИС предприятия и объединяется с чужой в общедоступном сервисе третьей стороны? Генеративный ИИ не проверяет предвзятость, авторство или защиту авторских прав.
Третья серьезная проблема – использование его в качестве инструмента киберзлоумышленников. Здесь важно отметить, что генеративный ИИ сегодня – это механизм разработки контента. ChatGPT может рассказать о том, как злоумышленники взламывали ту или иную операционную систему, но он не может самостоятельно разработать новый способ, который еще никогда не применялся. По крайней мере, пока не может. И, вероятно, не сможет в течение пяти и более лет.
Так как же нам удержать поезд с генеративным искусственным интеллектом, обеспечив при этом безопасность предприятия?
Важность политики
Защита предприятия от потенциальных рисков кибербезопасности генеративного ИИ начинается не с технологий. Она начинается с бизнес-политики организации – с обучения и создания основы для понимания и осознания рисков, которые несет в себе генеративный ИИ. Важность политики распространяется и на сферу регулирования. Так, совсем недавно ряд лидеров в области ИИ призвали приостановить развитие отдельных аспектов ИИ, пока не будет разработана официальная нормативная база, позволяющая установить защитные барьеры.
И наконец, предприятия должны внедрить средства контроля, которые позволят им применять и автоматизировать политики для мониторинга использования генеративного ИИ и минимизации рисков для предприятия.
Symantec и генеративный искусственный интеллект
Компания Symantec давно работает с искусственным интеллектом. Ключевым направлением деятельности Symantec является защита пользовательской и корпоративной информации. Организации должны чувствовать себя особенно уверенно, когда речь заходит об угрозе, исходящей от генеративных систем искусственного интеллекта, если у них уже есть средства защиты данных, такие как Symantec Data Loss Prevention Cloud.
Мы все еще находимся на начальном этапе развития генеративного искусственного интеллекта. Именно поэтому у Symantec есть большая команда инженеров, которая стремится к тому, чтобы Symantec была в авангарде этой технологии. Действительно, Symantec использует многие из тех же самых инструментов машинного обучения и даже генеративного искусственного интеллекта для выявления вредоносного поведения, которые используются для его создания.
Когда речь идет о генеративном искусственном интеллекте, вопрос не в том, выиграет предприятие или нет. Предприятия, которые не примут его, окажутся в крайне невыгодном положении. Предприятиям необходимо инвестировать в безопасность, чтобы безопасно использовать все преимущества технологии, которая преобразует все вокруг.
Источник: Generative AI and the Transformation of Everything
