Delinea исповедует философию совместного проектирования, создавая инновационные продукты вместе со своими клиентами. Такое партнерство гарантирует, что инновации Delinea являются одновременно новаторскими и основанными на реальных потребностях.
«Возглавляя инкубационную команду в Delinea, я всячески способствую развитию стартап-мышления. Прежде чем достичь стадии минимального жизнеспособного продукта (MVP), мы разрабатываем рабочий тезис, концепцию и прототип. Этот динамический процесс включает многочисленные итерации, обогащенные отзывами наших заказчиков дизайна. Это творческое путешествие, где неожиданные открытия могут привести к увлекательным прорывам” – говорит Боб Янссен, технологический лидер, занимающийся развитием искусственного интеллекта и инноваций в Delinea.
…трансформационное влияние ИИ в ближайшие пять лет часто недооценивают
«Это сотрудничество особенно важно в работе с искусственным интеллектом (ИИ). Среди ажиотажа вокруг ИИ очень важно сохранять сбалансированную перспективу. Хотя некоторые могут переоценивать краткосрочные достижения, я уверен, что трансформационное влияние ИИ в последующие пять лет часто недооценивают. ИИ должен стать неотъемлемой частью нашей жизни.
Каждое наше взаимодействие с клиентами Delinea подчеркивает их борьбу за внедрение искусственного интеллекта в свои ИТ- и операции безопасности осмысленным способом. ИИ не является магическим решением; он требует вдумчивого, прагматичного подхода. В Delinea мы верим, что нужно делать взвешенные и безопасные шаги сегодня, чтобы ускорить прогресс завтра», – комментирует Боб Янссен.
Ниже представлены некоторые из самых часто задаваемых вопросов, которые задают клиенты Delinea, а также ответы Боба Янссена на них. Они пригодятся вам, когда вы будете разрабатывать собственную дорожную карту внедрения искусственного интеллекта и изучать, как Delinea и безопасность идентичности на основе искусственного интеллекта могут помочь вам в достижении ваших целей.
Q1. Зачем использовать искусственный интеллект для принятия решений об авторизации?
Предположим, вы запрашиваете доступ к привилегиям, и ваш коллега или начальник должен одобрить его. Каждый день у компании может возникать 40 таких запросов. В какой-то момент просто сказать «одобряю» становится мышечной памятью. Вы даже не смотрите на запрос.
Именно здесь искусственный интеллект может помочь провести тщательную, последовательную, основанную на правилах проверку запроса. Он может спросить: «Эй, это Боб? Какова его текущая оценка риска? Соответствует ли его запрос секретности или имеют привилегии, которые он спрашивает, слишком большой объем? Противоречит ли это нашей политике распределения обязанностей? Это почти как человеческая проблема, ведь ИИ может действовать очень похоже на человека.
Q2. Как ИИ может помочь в выявлении угроз для идентификации личности?
ИИ может выявить закономерности, которые человеку часто сложно и долго распознать, не говоря уже о сортировке и поиске различных предупреждений. ИИ может помочь вам инвентаризировать и постоянно выявлять идентификационные данные, выявлять и устранять неправильные конфигурации, такие как отключенный MFA, слишком большие права и неактуальные учетные записи, выявлять аномальное поведение идентификационных данных по сравнению с базовыми действиями и даже реагировать на угрозы идентификаций с помощью автоматизированных действий и аналитических материалов.
Q3. Как вы тестируете и совершенствуете ИИ Delinea, чтобы обеспечить его надежность?
Мы прошли через многочисленные итерации, чтобы создать решение, прочно основанное на кураторских знаниях. Когда мы начали разрабатывать Delinea Expert, мы быстро добились 50% надежности. Однако достижение 80% требовало больших усилий, и даже тогда мы чувствовали, что этого недостаточно. Для дальнейшего усовершенствования мы внедрили замкнутую систему обратной связи, позволяющую пользователям сообщать о проблемах, добавлять документацию и уточнять результаты. Благодаря постоянному обновлению модели, мы успешно повысили надежность с 80% до 95%.
Кроме того, мы интегрировали в модель механизм самопроверки, на который подана заявка на получение патента, чтобы оценить уверенность ИИ в своих ответах. Если ИИ не уверен, он предлагает рекомендации, а не дает окончательного ответа.
Q4. Как Delinea обеспечивает нравственное использование ИИ в своих продуктах?
В Delinea мы придаем приоритет нравственному использованию ИИ, соблюдая строгие рекомендации и постоянно контролируя системы ИИ на предмет предвзятости и справедливости. Мы тесно сотрудничаем с нашими клиентами, чтобы обеспечить прозрачность и укрепить доверие к решениям на основе ИИ.
Q5. Для тех, кто начинает использовать АИ для защиты идентификационных данных, какое первое AI решение вы бы порекомендовали принять?
Важно сосредоточиться не только на искусственном интеллекте, но и на внедрении комплексной платформы для защиты идентификационных данных, такой как платформа Delinea. Мы интегрируем возможности искусственного интеллекта таким образом, чтобы они соответствовали уровню зрелости вашей организации и толерантности к рискам, связанным с искусственным интеллектом. Такой подход позволяет эффективно использовать преимущества искусственного интеллекта в пределах надежной и безопасной среды.
Q6. Можно ли доверять искусственному интеллекту? Может ли он быть коррумпированным или манипулированным?
Справедливый вопрос. К ИИ мы задавали этот вопрос о коде. Но это была меньшая проблема, потому что у вас был код, предназначенный только для одной вещи. Вы могли проверить код и убедиться, что он работает правильно. Но если ИИ имеет более 30 млрд параметров, вы никогда не сможете проверить все, что в нем есть.
Возможно, есть нечто неактивное, которое может быть использовано посторонним субъектом для злоупотреблений. Вы должны иметь контроль над этим. Это означает тщательный контроль доступа к вашим АИ-агентам и моделям, чтобы избежать отравления АИ или каких-либо злоупотреблений.
Q7. Как лучше защитить своих ИИ-агентов от атак?
Агентов ИИ можно рассматривать как машину или бесчеловечную личность (NHI). Поэтому убедитесь, что у вас есть полная инвентаризация всех агентов ИИ, работающих в вашей организации, и свяжите каждого из них с человеком-владельцем и процессами или приложениями, к которым они привязаны. Как и с любой NHI или машинной идентификацией, тщательно контролируйте все секреты, разблокирующие ваших агентов ИИ в хранилища корпоративного уровня, регулярно меняйте секреты, проводите аудит и убедитесь, что срок их действия истекает, когда они больше не нужны.
Q8. Что вы можете рассказать о дорожной карте Delinea AI?
Мы в восторге от нашей дорожной карты в области АI. Она включает в себя внедрение основных функций искусственного интеллекта, таких как Delinea Expert+, для улучшения процесса принятия решений и оптимизации операций. Мы разрабатываем решения с искусственным интеллектом, такие как Session Anomaly Detection и Automated Approvals, чтобы проактивно обнаруживать угрозы и ускорять привилегированный доступ, делая безопасность идентификационных данных более интуитивно понятной и отказоустойчивой.
Кроме того, мы сосредоточимся на выявлении и управлении моделями ИИ с помощью надежных фреймворков, обеспечивающих прозрачность и подотчетность, помогая нашим клиентам обеспечить прозрачность в санкционированном использовании технологий искусственного интеллекта.
