Генеративный искусственный интеллект (ИИ) представляет собой новый рубеж для трансформации производительности.
Более 300 000 клиентов по всему миру используют решения SolarWinds, основанные на данных, поэтому компания SolarWinds имеет все возможности для использования ИИ, чтобы улучшить жизнь ИТ-специалистов, которых она обслуживает. Но для того, чтобы эта захватывающая технология со временем принесла реальную пользу, очень важно создать ее на устойчивой основе.
С 2021 года принципы Secure by Design лежат в основе подхода SolarWinds к обеспечению безопасности и киберустойчивости. Теперь SolarWinds расширяет эту модель, чтобы выработать оптимальную практику в области искусственного интеллекта. AI by Design – это подход SolarWinds к разработке искусственного интеллекта, состоящий из четырех основополагающих принципов. Они создают основу для того, чтобы помочь клиентам установить безопасные, продуктивные и длительные отношения с решениями SolarWinds на основе искусственного интеллекта. В серии статей, которые появятся на Orange Matter в ближайшие недели, будут подробно рассмотрены все четыре принципа AI by Design. А пока давайте вкратце рассмотрим каждый из них:
Принцип 1: Конфиденциальность и безопасность
В SolarWinds инновации означают безопасные инновации. Принцип конфиденциальности и безопасности AI by Design диктует сбор, хранение, использование и защиту персональных данных. Это включает регулирование доступа с помощью управления доступом на основе ролей (RBAC), многофакторной аутентификации (MFA) и управления привилегированным доступом (PAM) для предотвращения несанкционированного доступа. Методы анонимизации и псевдонимизации помогают снизить риски конфиденциальности, удаляя или заменяя идентифицируемую информацию. Надежные механизмы аудита и мониторинга позволяют обнаруживать несанкционированный доступ и своевременно реагировать на нарушения безопасности. Это лишь некоторые из подходов, которые SolarWinds активно внедряет для достижения максимальной безопасности данных и искусственного интеллекта.
Принцип 2: Подотчетность и добросовестность
Без надлежащих мер предосторожности системы искусственного интеллекта могут закрепить предубеждения, присутствующие в данных, использованных для их обучения, что приведет к дискриминационным результатам. Принцип подотчетности и справедливости AI by Design обеспечивает присутствие человека, который регулирует решения, принимаемые ИИ. Встроенные механизмы обратной связи и проверки позволяют должным образом фиксировать и устранять негативный опыт пользователей. Например, функция Agent Assist в Gen-AI позволяет агенту-человеку редактировать ответы, сгенерированные ИИ, перед отправкой их заказчику. Отзывы о предложениях ИИ регулярно собираются и анализируются, чтобы со временем улучшить поведение модели.
Принцип 3: Прозрачность и доверие
Чтобы выстроить прочные рабочие отношения с системами ИИ, решения должны сопровождаться пояснениями. Такая прозрачность способствует более глубокому доверию к результатам процессов, управляемых ИИ. Хорошо проработанный конвейер операций машинного обучения (MLOps) облегчает демонстрацию обоснования действий, генерируемых ИИ, позволяя постоянно совершенствовать их в зависимости от меняющихся потребностей. Прозрачность подразумевает раскрытие процессов, лежащих в основе решений и результатов ИИ. Это создает доверие, которое, возможно, является наиболее важным компонентом для стимулирования положительной реакции на новые технологии.
Принцип 4: Простота и доступность
Для ИТ-отделов и команд DevOps, управляющих критически важными приложениями, пользовательский опыт, связанный с искусственным интеллектом, имеет решающее значение. Простота и интуитивная понятность предотвращают усталость и ускоряют процесс принятия решений. Такая простота использования неоценима для команд, обрабатывающих огромные потоки данных из различных рабочих нагрузок. Ключевым аспектом воплощения простоты в опыте, основанном на ИИ, является учет процедур, к которым привыкли пользователи. Вместо того чтобы внедрять совершенно новый опыт (требующий обучения и вызывающий дополнительную когнитивную нагрузку), SolarWinds выявляет знакомые паттерны и опирается на них. Одним из примеров являются оповещения на основе аномалий, разработанные для снижения утомляемости, вызванной штормами оповещений. Взяв за отправную точку существующие модели поведения и практики, SolarWinds помогают облегчить переход к новой технологии.
AI by Design: Эволюционирующая концепция
Учитывая захватывающие перспективы искусственного интеллекта, легко поспешить с разработкой и интеграцией. Это может привести к непредвиденным последствиям. AI by Design использует экспертные знания из частной и государственной сфер, чтобы дать возможность разумно подходить к искусственному интеллекту. AI by Design разработан для того, чтобы клиенты SolarWinds могли использовать все лучшее, что может предложить ИИ, и при этом свести к минимуму возможные недостатки. Важно отметить, что это не статичная основа, а динамичный и развивающийся набор рекомендаций, который будет адаптироваться к новым знаниям.
Источник: Introducing AI by Design: Principles for Responsible AI
