Киберпреступники используют генеративный искусственный интеллект (GenAI) для совершенствования стратегий атак и проникновения в системы. При этом преимущество остается за ними. Они сочетают возможности GenAI со всеми тактиками социальной инженерии, чтобы обманом заставить пользователей выдать свои учетные данные. Получив эту информацию, они входят в систему без взлома. По сути, вы предоставляете им неограниченный доступ к своим системам. За последний год эта тенденция сильно возросла, поскольку GenAI становится все более распространенным. Согласно отчету IBM за 2024 год, число атак с использованием действительных учетных данных выросло на 71 % по сравнению с прошлым годом.
На данный момент мы все хорошо знаем основные рекомендации. Будьте осторожны с электронными письмами и ссылками. Не нажимайте, не открывайте и не вступайте в контакт с незнакомыми людьми. Не открывайте и не скачивайте вложения от неизвестного отправителя. Будьте внимательны к орфографическим ошибкам и никогда не сообщайте о себе никакой информации. Но сегодня нам уже следует опасаться убедительных и естественно звучащих текстовых сообщений от вашей команды. А может быть, фальшивой юридической повестки из легитимного источника или голосовой записки от вашего генерального директора. Были даже зафиксированы случаи, когда Zoom-звонки были заполнены дипфейками всех ваших коллег. Последняя тенденция – рост числа злоумышленников, использующих GenAI, чтобы подловить вас в те моменты, когда вы отвлекаетесь.
Что имеется в виду под словом «отвлекаться»?
Отвлекаясь, вы становитесь главной мишенью для киберпреступников. Что имеется в виду? Киберпреступники используют моменты, когда вы отвлекаетесь, когда вы думаете о чем-то новом, пробуете что-то новое или встречаетесь с новыми людьми. Праздники – самое подходящее время для того, чтобы вы потеряли бдительность. Поступают сообщения о поддельных ссылках от рекрутеров для тех, кто находится в поиске работы. Подумайте о таких глобальных событиях, как Олимпийские игры или выборы. Скорее всего все мы получаем поток электронных писем и текстовых сообщений от кандидатов, участвующих в избирательной кампании в наших регионах. Как вы можете быть уверены, что ссылка, которую вам только что прислали, действительно принадлежит их кампании, или же это вредоносная ловушка? Даже возвращение в школу – отличная мишень. Подумайте о том, как много сообщений и хаоса связано с возвращением в школу ваших детей.
Скорее всего, вы будете принимать, открывать или отвечать на сообщения от неизвестных людей или организаций. Киберпреступники умны. Они знают, что вы начинаете что-то новое, и могут быстро попытаться подражать вашему новому учителю, родителям или руководству школьного округа. Вся необходимая информация часто находится на ваших аккаунтах в социальных сетях. Вспомните все те милые школьные фотографии, которые вы делаете каждый год и с гордостью выкладываете. На многих из них указаны любимые занятия вашего ребенка, а иногда даже школы и имена учителей. Это все, что им нужно для создания убедительной приманки.
Каким образом киберпреступники используют GenAI:
Усовершенствованные методы социальной инженерии и фишинга
Киберпреступники используют информацию, полученную о вас в Интернете. GenAI может быстро и емко собирать персональные данные и привычки. Он также может узнать подробности о вкусах, способах общения и сетях. Технология стала настолько совершенной, что киберпреступники могут генерировать тексты, электронные письма или телефонные звонки, которые имитируют тон и стиль легитимной переписки. Действительно, в ход идут письменные, цифровые и видеоматериалы, и жертвам становится все труднее распознать их как мошенничество. Повышенная персонализация делает распознавание этих хитроумных уловок все более сложным для ничего не подозревающих жертв. Особенно когда они отвлечены.
Технология создания подделок видео и голоса
Дипфейки используют GenAI для создания поддельного, но реалистичного аудио- и видеоконтента. В руках киберпреступников эта технология может выдавать себя за человека при вишинге (голосовом фишинге) или видеоатаках. Тем самым жертвы обманываются, думая, что разговаривают со знакомым человеком. В итоге это открывает путь к мошенничеству или краже информации.
Масштабная разведка
GenAI может масштабироваться до огромных объемов данных, которые киберпреступники могут использовать для усиления своих атак. Автоматизация охватывает цели с минимальными усилиями. Подумайте о разнице между несколькими попытками связаться с вами в неделю и 1000 различных способов застать вас врасплох за один день.
Расширенный взлом паролей
Инструменты на базе искусственного интеллекта теперь взламывают обычные пароли за считанные минуты. Киберпреступники используют огромные массивы данных, генерируя варианты для быстрого взлома слабых защитных систем. Согласно отчетам, значительная часть паролей быстро поддается этим продвинутым атакам, что подчеркивает острую необходимость в усилении мер цифровой безопасности.
Инъекция запроса
Новая для большинства угроза – киберпреступники могут перехватить исходящие данные Large Language Models (LLM), чтобы отменить запросы пользователя, вставив любой текст по своему усмотрению в ответы, сгенерированные ИИ. Эта техника позволяет скрытно внедрять вредоносный код, нарушая целостность результатов работы ИИ и потенциально нанося вред ничего не подозревающим пользователям.
Эволюция вымогательского ПО
Теперь киберпреступники используют искусственный интеллект для усиления атак с использованием программ-вымогателей. Умные алгоритмы определяют прибыльные цели в сетях, а автоматизированные системы распространяют вредоносное ПО с безжалостной эффективностью. Это смертоносное сочетание усиливает финансовый ущерб, делая каждый удар более выгодным для цифровых вымогателей.
Атаки на цепочки поставок
Атаки с использованием искусственного интеллекта теперь представляют угрозу для цепочек поставок. Хакеры внедряют вредоносный код в доверенное программное и аппаратное обеспечение. Этот метод позволяет им обходить обнаружение. Они используют легитимные каналы, компрометируя организации изнутри. Поэтому перед компаниями все чаще встает задача защиты своих цифровых систем от этих современных атак.
Разработка эксплойтов
Инструменты GenAI позволяют исследовать системы в поисках уязвимых мест, анализировать найденные данные и создавать специальные эксплойты. Результат? Вредоносное ПО учится, адаптируется и проскальзывает мимо защитных систем, используя уроки прошлых вторжений. Эта эволюционирующая угроза представляет собой серьезную проблему для кибербезопасности во всем мире.
Атаки DDoS
Атаки типа «отказ в обслуживании» (DDoS) также могут быть более масштабными и изощренными. Скоординированные стаи ботов GenAI обрушивают на цели потоки данных. Эти синтетические атаки перегружают системы, парализуя работу критически важных сервисов и сея цифровой хаос.
Интеграции и API
С быстрым распространением приложений на базе GenAI и увеличением числа интеграций и API они создают новые точки входа в сети компаний. Эти цифровые двери, если их не охранять, могут стать уязвимыми местами в системе безопасности. Чтобы защитить свою цифровую инфраструктуру от возникающих угроз, компаниям необходимо сочетать инновации с надежными средствами защиты.
Кража интеллектуальной собственности
GenAI также помогает киберпреступникам автоматизировать процесс кражи интеллектуальной собственности. Он анализирует большие массивы данных, чтобы найти ценные коммерческие тайны и конфиденциальную информацию. Это позволяет злоумышленникам похищать их, чтобы получить конкурентное преимущество. Эти достижения свидетельствуют о двойственном характере ИИ.
Человеческий фактор
Бдительность в отношении развивающихся угроз имеет первостепенное значение для организаций и сотрудников. Сегодня это не только технологическая, но и человеческая проблема. Очень важно продолжать обучать и тренировать сотрудников, чтобы они всегда были внимательны и бдительны в своей профессиональной и личной жизни. Особенно сейчас, когда наступают периоды повышенной отвлекаемости, такие как праздники, возвращение в школу, выборы в правительство и т. д. Также важно напомнить сотрудникам о необходимости пересмотреть настройки конфиденциальности и безопасности в приложениях социальных сетей и следовать передовым методам обеспечения безопасности своих сообщений в социальных сетях. Кроме того, сотрудники должны убедиться, что они используют одобренные, современные и безопасные коммуникационные платформы для совместной работы, даже на личных устройствах.
Как сохранять бдительность и укреплять киберустойчивость
Что касается технологий, то компания Veritas рекомендует внедрять надежные средства защиты, такие как многофакторная аутентификация (MFA), авторизация нескольких личностей (MPA), управление привилегированным доступом (PAM) и другие надежные средства защиты. Veritas также рекомендует внедрить в организации такие основы, как нулевое доверие, неизменность, обнаружение аномалий и сканирование на наличие вредоносного ПО.
Сотрудники Veritas стремятся использовать новые технологии GenAI, чтобы помочь вам опередить злоумышленников и их инновационные тактики. Весной прошлого года компания Veritas представила ряд новых возможностей, призванных помочь в борьбе с киберугрозами с помощью своих собственных решений, основанных на искусственном интеллекте. К ним относятся решение для адаптивной самообороны, улучшенное обнаружение энтропийных аномалий и новый оперативный copilot на базе GenAI.
Компания Veritas также объявила о новых услугах по оценке и восстановлению киберустойчивости, а также о новых партнерах по экосистеме безопасности. Эти решения гарантируют, что вы будете готовы противостоять атакам и оснащены инструментами для их упреждающего предотвращения.
Источник: Extra Vigilance Required: Cybercriminals Leveraging GenAI
