Примечание на следующий день : Первая и самая большая проблема, которая возникнет с искусственным интеллектом, — это  проблема идентификации людей.  Больше не будет цифровых данных, которые нельзя было бы «подделать», испортить или «сломать». В связи с этим  потребуется новый метод идентификации  , который выйдет за рамки чипа и персонального номера. Он должен связывать и содержать в себе что-то очень личное и особенное для каждого владельца человека. Он должен быть связан не только со своими биометрическими данными, но и со своим собственным телом.   «Удостоверение личности», то есть средство идентификации, его уникальный номер, будет идентифицирован, он «войдет» в тело идентифицируемого лица.  В противном случае... он не будет существовать как гражданин. Что вам непонятно?

По оценкам, на долю мошенничества с использованием искусственного интеллекта в настоящее время приходится более 43% всех попыток мошенничества, зарегистрированных в финансовом секторе.

Искусственный интеллект преобразует мир вокруг нас как ожидаемыми, так и неожиданными способами. К сожалению, искусственный интеллект  также используется киберпреступниками , особенно в случаях кражи персональных данных — самого распространенного вида мошенничества сегодня, как объясняет Фил Манкастер из компании-разработчика программного обеспечения безопасности ESET.

Более трети руководителей банков в Великобритании, Испании и США говорят, что  самой  большой проблемой, с которой они сталкиваются сегодня, является рост мошенничества с использованием искусственного интеллекта  и дипфейков .

Но как именно работает эта форма мошенничества и что можно сделать, чтобы защитить себя?

Как мошенничество с идентификацией-удостоверением личности работает с использованием искусственного интеллекта?

Мошенничество с кражей идентификационных данных происходит, когда ваша личная информация (PII) используется для незаконной деятельности, например, для транзакций по кредитным картам или доступа к банковским и другим счетам.

По оценкам, на мошенничество с использованием искусственного интеллекта в настоящее время приходится более 43% всех попыток мошенничества, зарегистрированных в финансовом секторе, и почти 29% этих попыток оказываются успешными.

Так как же искусственный интеллект облегчает работу киберпреступникам и что можно сделать, чтобы защитить себя от таких угроз?

Можно выделить несколько тактик:

•  Поддельные захваты учетных записей и создание новых учетных записей:  мошенники используют поддельные аудио- и видеофайлы, чтобы обойти проверку «Знай своего клиента» (KYC), которую финансовые компании используют для подтверждения личности своих клиентов. Фото или видео, размещенные в Интернете, можно загрузить в приложение для создания дипфейков или генетического искусственного интеллекта. Затем он используется в атаках типа «инъекция», призванных запутать систему идентификации финансовых сервисов. Согласно отчету, на долю дипфейков теперь приходится 24% ложных попыток обойти биометрические проверки, основанные на движении, и 5% статических проверок, основанных на селфи.
•  Подделка документов:  в прошлом мошенники использовали поддельные паспорта для открытия новых счетов на имена ничего не подозревающих жертв. Однако сегодня этот процесс стал намного проще благодаря использованию технологий. Согласно  отчету , цифровая подделка составляет более 57% всех случаев мошенничества с документами, а годовой рост составляет 244%. Мошенники обычно получают доступ к шаблонам документов в Интернете или скачивают изображения документов, украденных в результате утечки данных. Затем они изменяют детали с помощью таких инструментов, как Photoshop. Инструменты GenAI (генеративный искусственный интеллект) позволяют им делать это быстро и масштабно.
•  Синтетическое мошенничество:  Мошенники либо создают новые личности, комбинируя реальную (украденную) и сфабрикованную личную информацию, чтобы сформировать совершенно новую (синтетическую) личность, либо используют только сфабрикованную информацию. Эти идентификационные данные затем используются для открытия новых счетов в банках и компаниях-эмитентах кредитных карт. Подделка документов и дипфейки могут сочетаться с этими лицами, что увеличивает шансы мошенников на успех. Согласно отчету, 76% специалистов по управлению рисками и борьбе с мошенничеством в США считают, что у их фирм есть фиктивные клиенты. Они также подсчитали, что количество случаев мошенничества такого рода ежегодно увеличивается на 17%.
•  Обманы, которые обманывают друзей и семью:  иногда поддельные видео или аудио могут использоваться в мошеннических целях, обманывая даже близких людей. Распространенной тактикой является виртуальное похищение, когда злоумышленник звонит родственникам и утверждает, что они вас похитили. Они воспроизводят поддельный аудиофайл вашего голоса в качестве «доказательства», а затем требуют выкуп. GenAI, помимо создания поддельных файлов, также может использоваться мошенниками для выявления потенциальных жертв.
•  Подмена учетных данных:  Подмена учетных данных означает использование украденных комбинаций имени пользователя и пароля в автоматических попытках доступа к другим учетным записям, где могут использоваться те же учетные данные. Инструменты ИИ могут быстро генерировать списки таких учетных данных из нескольких источников данных, помогая масштабировать атаки. Кроме того, их можно использовать для точной имитации поведения человека в процессе подключения с целью обхода систем безопасности.

Каковы последствия мошенничества с использованием искусственного интеллекта?

Мошенничество — это не преступление без жертв. Напротив, мошенничество с использованием искусственного интеллекта может:

•  Причинение сильного эмоционального стресса жертвам. Согласно одному отчету, 16% людей, пострадавших от кражи личных данных, думали о самоубийстве.
•  Вероятность успеха мошенничества увеличивается, прибыль предприятий падает, что вынуждает их повышать цены на все.
•  Оказать негативное влияние на национальную экономику. Сокращение прибыли корпораций приводит к сокращению налоговых поступлений, что влечет за собой сокращение финансирования государственных услуг.
•  Подрыв доверия общества к верховенству закона и, как следствие, к демократии.
•  Подрыв доверия бизнеса, что может привести к снижению уровня инвестиций в страну.

Как обеспечить безопасность вашей личной информации

Чтобы противостоять использованию искусственного интеллекта в атаках против них, компании все чаще прибегают к защитным инструментам искусственного интеллекта. Эти инструменты помогают выявлять признаки мошенничества, повышая безопасность данных. Что вы можете сделать?

«Возможно, наиболее эффективной стратегией является минимизация возможностей для киберпреступников получить вашу личную информацию (PII), а также аудио- и видеофайлы», — предупреждает Манкастер из ESET.

Это означает:

•  Ограничьте объем информации, которой вы делитесь в социальных сетях, и настройте параметры конфиденциальности для большей безопасности.
•  Будьте осторожны с фишингом: всегда проверяйте данные отправителя, обращайте внимание на опечатки и грамматические ошибки, не открывайте ссылки и вложения из спам-писем.
•  Включите многофакторную аутентификацию (MFA) для всех ваших учетных записей.
•  Используйте надежные уникальные пароли и надежно храните их в менеджере паролей.
•  Регулярно обновляйте программное обеспечение на всех ваших устройствах, включая ноутбуки и мобильные телефоны.
•  Внимательно следите за своими банковскими и кредитными счетами, регулярно проверяйте их на предмет подозрительных транзакций и немедленно блокируйте свой счет, если заметите что-либо подозрительное.
•  Установите многоуровневое программное обеспечение безопасности от надежного поставщика на все свои устройства.

Кроме того, важно быть в курсе новейших методов мошенничества с использованием искусственного интеллекта и информировать своих друзей и семью о мошенничестве с использованием дипфейка и других методах обмана, в которых используется искусственный интеллект.

Число мошеннических атак  с использованием  искусственного интеллекта будет продолжать расти по мере того, как эта технология становится все более доступной и мощной. Поскольку между защитниками корпоративных сетей и киберпреступниками разворачивается новая гонка кибервооружений, основное внимание уделяется пользователям. Обязательно примите необходимые меры, чтобы защитить себя и не стать следующей жертвой.

Источник: Τεχνητή νοημοσύνη και κλοπή ταυτότητας: Μία νέα απειλή που προκαλεί χάος.