Генеративний штучний інтелект (ШІ) є новим рубежем для трансформації продуктивності.
Більше 300 000 клієнтів по всьому світу використовують рішення SolarWinds, засновані на даних, тому компанія SolarWinds має всі можливості для використання ШІ, щоб покращити життя ІТ-фахівців, яких вона обслуговує. Але для того, щоб ця захоплююча технологія з часом принесла реальну користь, дуже важливо створити її на стійкій основі.
З 2021 року принципи Secure by Design лежать в основі підходу SolarWinds до забезпечення безпеки та кіберстійкості. Тепер SolarWinds розширює цю модель, щоб виробити оптимальну практику у сфері штучного інтелекту. AI by Design – це підхід SolarWinds до розробки штучного інтелекту, що складається з чотирьох основних принципів. Вони створюють основу для того, щоб допомогти клієнтам встановити безпечні, продуктивні та тривалі відносини з рішеннями SolarWinds на основі штучного інтелекту. У серії статей, які з’являться на Orange Matter протягом найближчих тижнів, будуть детально розглянуті всі чотири принципи AI by Design. А поки що давайте коротко розглянемо кожен із них:
Принцип 1: Конфіденційність та безпека
У SolarWinds інновації означають безпечні інновації. Принцип конфіденційності та безпеки AI by Design диктує збирання, зберігання, використання та захист персональних даних. Це включає регулювання доступу за допомогою управління доступом на основі ролей (RBAC), багатофакторної автентифікації (MFA) та управління привілейованим доступом (PAM) для запобігання несанкціонованому доступу. Методи анонімізації та псевдонімізації допомагають знизити ризики конфіденційності, видаляючи або замінюючи інформацію, що ідентифікується. Надійні механізми аудиту та моніторингу дозволяють виявляти несанкціонований доступ та своєчасно реагувати на порушення безпеки. Це лише деякі з підходів, які SolarWinds активно впроваджує для досягнення максимальної безпеки даних та штучного інтелекту.
Принцип 2: Підзвітність та сумлінність
Без належних запобіжних заходів системи штучного інтелекту можуть закріпити упередження, присутні у даних, використаних для їх навчання, що призведе до дискримінаційних результатів. Принцип підзвітності та справедливості AI by Design забезпечує присутність людини, яка регулює рішення, які приймає ШІ. Вбудовані механізми зворотного зв’язку та перевірки дозволяють належним чином фіксувати та усувати негативний досвід користувачів. Наприклад, функція Agent Assist у Gen-AI дозволяє агенту-людині редагувати відповіді, згенеровані ШІ, перед відправкою їх замовнику. Відгуки про пропозиції ШІ регулярно збираються та аналізуються, щоб згодом покращити поведінку моделі.
Принцип 3: Прозорість та довіра
Щоб побудувати міцні робочі відносини із системами ШІ, рішення мають супроводжуватися поясненнями. Така прозорість сприяє більш глибокій довірі до результатів процесів, керованих ШІ. Добре опрацьований конвеєр операцій машинного навчання (MLOps) полегшує демонстрацію обґрунтування дій, що генеруються ШІ, дозволяючи постійно вдосконалювати їх залежно від потреб.Прозорість має на увазі розкриття процесів, що лежать в основі рішень та результатів ШІ. Це створює довіру, яка, можливо, є найважливішим компонентом стимулювання позитивної реакції на нові технології.
Принцип 4: Простота та доступність
Для ІТ-відділів та команд DevOps, що управляють критично важливими програмами, користувацький досвід, пов’язаний із штучним інтелектом має вирішальне значення. Простота та інтуїтивна зрозумілість запобігають втомі та прискорюють процес прийняття рішень. Така простота використання неоціненна для команд, що обробляють величезні потоки даних із різних робочих навантажень. Ключовим аспектом втілення простоти в досвіді, що базується на ШІ, є облік процедур, до яких звикли користувачі. Замість того, щоб впроваджувати абсолютно новий досвід (що вимагає навчання та викликає додаткове когнітивне навантаження), SolarWinds виявляє знайомі патерни та спирається на них. Одним із прикладів є оповіщення на основі аномалій, розроблені для зниження стомлюваності, викликаної штормами оповіщень. Взявши за відправну точку існуючі моделі поведінки та практики, SolarWinds допомагають полегшити перехід до нової технології.
AI by Design: Еволюційна концепція
З огляду на захоплюючі перспективи штучного інтелекту легко поспішити з розробкою та інтеграцією. Це може спричинити непередбачувані наслідки. AI by Design використовує експертні знання з приватної та державної сфер, щоб дати можливість розумно підходити до штучного інтелекту. AI by Design розроблений для того, щоб клієнти SolarWinds могли використовувати все найкраще, що може запропонувати ШІ, і при цьому мінімізувати можливі недоліки. Важливо, що це не статична основа, а динамічний набір рекомендацій, що розвивається, який буде адаптуватися до нових знань.
Джерело: Introducing AI by Design: Principles for Responsible AI
