– Юрий Николаевич, неужели искусственный интеллект наконец-то вышел из-под контроля? Это что – пресловутое «восстание машин», как в «Терминаторе»?
– Похоже, но это не совсем так. Вернее, совсем не так - ИИ не вышел из-под контроля. Просто контроль над ним взяли «плохие парни», как говорят в Голливуде. А хорошие парни, что называется, «прочухали» инициативу. И теперь генеративный ИИ создает любые мыслимые конструкции не на благо обществу, а для выкачивания из банков колоссальных потоков денег в карманы кибермошенников. Что печально, искусственный интеллект не различает деньги рядовых, не очень богатых вкладчиков, и состояния фигурантов списка «Форбс». Понятие морали и милосердия, как и элементарного права на ошибку (и это даже не философский императив Канта), у него отсутствует: не заложена в сущность. Грабить будут и фермера, и среднего чиновника (да любого человека, имеющего счет в банке, даже если этот счет пенсионный или инвалидный), и олигарха. Никому мало не покажется. И никакая власть ничего оперативно сделать не успеет: нужны серьезные, долговременные научные разработки. А есть ли они? Кстати, тут и до социального взрыва рукой подать – чем не революционная ситуация?
– Кто забил тревогу?
– Американцы – их, как самых богатеньких, и стали в первую очередь грабить. Но расслабляться, тем более – злорадствовать, не стоит: эта зараза, как чума или ковид, расползется по всему шарику. Все хлебнем полную чашу – киберпреступность, как и любая преступность, интернациональна.
Степень опасности оценила международная аудит-консалтинговая компания Deloitte, располагающая сетью своих агентов по всему миру. Надо признать, к ее чести, они не подвержены каким-либо политическим, тем более – идеологическим пристрастиям, а предлагают объективную картинку, как есть на самом деле. А что решать и как поступать – пусть барин решает.
Группа сотрудников этой компании составила прогноз использования генеративного ИИ киберпреступниками. Прогноз основан на исторических тенденциях и данных, полученных от специалистов по работе c мошенничествами и рисками. Для каждого из 26 видов противоправных действий, отслеживаемых в отчете IC3 ФБР, они оценили в баллах «риск использования генеративного ИИ с целью мошенничества». Были определены ожидаемые темпы роста различных видов мошенничества до 2027 года в соответствии с различными сценариями внедрения генеративного ИИ: консервативным, базовым и агрессивным.
В общем, очень рекомендую нашим банкирам и экономистам внимательно ознакомиться с этим прогнозом: лишних знаний не бывает.
– Что послужило детонатором для тревоги?
– Очередной эпизод мошенничества. Правда, исключительно наглый и показательный: жулики совсем нюх потеряли. Случилось вот что. В январе 2024 г. сотрудница гонконгской фирмы перевела $25 тыс. мошенникам после того, как ей велел это сделать финансовый директор по видеозвонку, в котором участвовали другие ее коллеги. Мошенничество вскоре вскрылось. Оказалось, что ни с кем из этих людей она не разговаривала. Их внешность и голоса подделали жулики, которые создали дипфейк, чтобы обманом заставить ее перевести деньги.
Вероятно, такие случаи в ближайшие годы будут происходить все чаще, так как злоумышленники находят и используют все более изощренные, но доступные по цене виды генеративного ИИ, чтобы обманывать банки и их клиентов. Центр финансовых услуг компании Deloitte прогнозирует, что из-за генеративного ИИ убытки от мошенничеств в США, в 2023 г. составившие $12,3 млрд, к 2027-му могут достичь $40 млрд. Тогда среднегодовой темп роста этого показателя составит 32%.
– Специалисты выяснили, как генеративный ИИ удешевляет и упрощает совершение такого мошенничества?
– Безусловно, понимание технологических процессов имеется. Но сразу оговорюсь: сыпать формулами и специфическими терминами не буду: это удел узких профессионалов.
Скажу лишь, что, судя по прогнозу американцев, генеративный ИИ предоставляет безграничные возможности для изобретения новых видов мошенничества против финансовых учреждений, их клиентов и для увеличения масштабов преступлений. С их помощью преступник сможет сделать все, на что у него хватит фантазии (!).
В условиях удивительно быстрого развития инноваций банкам, возможно, придется побороться за свое превосходство над мошенниками. Ведь дипфейки, созданные с помощью генеративного ИИ, включают в себя самообучающуюся систему, которая постоянно проверяет и совершенствует свои возможности в области обмана компьютеризированных систем обнаружения противоправных действий (вот она, скрытая возможность для «восстания машин»!). В частности, благодаря доступности новых инструментов генеративного ИИ злоумышленникам проще и дешевле создавать видеодипфейки, фальшивые голоса и поддельные документы.
В теневом Интернете уже существует целая кустарная индустрия по изготовлению мошеннического программного обеспечения, продающая его по цене от 20 баксов до нескольких тысяч долларов США. Такая демократизация вредоносного ПО делает некоторые существующие средства борьбы с мошенничеством менее эффективными. Поэтому неудивительно, что компании, предоставляющие финансовые услуги, особенно беспокоят мошенники, которые получают доступ к клиентским счетам с использованием генеративного ИИ.
– Для такого беспокойства есть реальные основания?
– Как не быть! Согласно одному из американских отчетов, в 2023 году в финансово-технологическом секторе инцидентов, связанных с дипфейками, стало на 700% (!) больше. Одних только аудиодипфейков уже столько, что технологическая отрасль не успевает разрабатывать инструменты для выявления поддельного контента.
Некоторые виды мошенничества наиболее приспособлены для использования ИИ. В прогнозе Deloitte приводится пример взлома деловой электронной почты — один из самых распространенных видов мошенничества, который может привести к значительным денежным потерям. Что важно, ссылка идет на данные Центра приема жалоб на мошенничества в Интернете при ФБР (IC3 FBI), который следит за 26 категориями противоправных действий: «Мошенники уже много лет взламывают учетные записи электронной почты частных лиц и предприятий с помощью социальной инженерии, чтобы осуществлять несанкционированные денежные переводы. Но с помощью генеративного ИИ злоумышленники могут совершать мошенничества в более крупных масштабах — атаковать одновременно несколько жертв, используя столько же или даже меньше ресурсов. Только в 2022 г. ФБР насчитало 21 832 случая мошенничества с использованием деловой электронной почты, ущерб от которых составил около $2,7 млрд. По оценкам Центра финансовых услуг Deloitte, при «агрессивном» сценарии внедрения генеративного ИИ потери от мошенничеств с электронной почтой могут составить около $11,5 млрд к 2027-му. Банки уже несколько десятилетий находятся в авангарде использования инновационных технологий для борьбы с мошенничеством. Однако в отчете Казначейства США говорится, что существующих систем управления рисками может оказаться недостаточно, чтобы охватить новые технологии искусственного интеллекта».
– Неужели тамошние банкиры расписались в бессилии, сдались? Но ведь это конец их бизнесу.
– Зачем же так? Разумеется, никто не сдался, банкиры и прочие олигархи всего мира свои денежки никому просто так не отдадут. Почитывали Маркса? Они будут яростно и, что главное и интересное для нас, умело сопротивляться преступным ноу-хау. Об этом говорится и в прогнозе Deloitte: «Некоторые банки применяют ИИ, чтобы автоматизировать процессы, которые диагностируют мошенничества и направляют результаты расследования в соответствующие подразделения банка. Некоторые финансовые организации уже используют большие языковые модели для обнаружения признаков мошенничества. Например, JPMorgan использует такую модель для выявления взломов электронной почты. Аналогично, Mastercard предотвращает преступления с кредитными картами с помощью своего инструмента Decision Intelligence, который сканирует триллион единиц информации, чтобы проверить подлинность транзакции».
– Значит, банки, в том числе и российские, могут подготовиться к новой эре предотвращения мошенничества? Как?
– По мнению американских экспертов, банки должны сосредоточить свои усилия на борьбе с мошенниками, использующими генеративный ИИ, чтобы сохранить конкурентное преимущество.
Да, рекомендации банкирам достаточно расплывчаты – это вполне в американском стиле: «Нужно найти способы применения современных технологий в сочетании с человеческой интуицией, чтобы понять, как предотвращать атаки киберпреступников. Панацеи не существует, поэтому команды по борьбе с мошенничеством должны постоянно совершенствоваться в области самообучения, чтобы не отставать от злоумышленников. Чтобы создать надежную систему защиты банков от мошенничества, банкам необходимо пересмотреть свои стратегии, перестроить систему управления и перераспределить ресурсы. При такой скорости технического прогресса финансовые организации не будут бороться с мошенничеством в одиночку. Они все чаще станут сотрудничать с третьими сторонами, разрабатывающими инструменты для противодействия злоумышленникам. Руководители банков могут объединиться, чтобы создать стратегию сотрудничества как внутри банковской отрасли, так и за ее пределами, чтобы действовать на опережение преступников, использующих генеративный ИИ. Для этого, скорее всего, потребуется совместная работа организаций банковской отрасли. При разработке стратегий банки должны сотрудничать с хорошо осведомленными и заслуживающими доверия сторонними поставщиками технологий. Это позволит заинтересованным сторонам распределить ответственность с учетом того, какую долю убытков от мошенничества будет нести каждая из них. Клиенты тоже могут выступать в качестве партнеров, помогающих предотвратить потери от киберпреступлений. Но для отношений с клиентами может стать испытанием на прочность выяснение того, кто будет нести убытки от мошенничества — клиенты или их финансовые учреждения. Клиенты, доверившие свои деньги банку, ожидают от него эффективности и безопасности, а высокотехнологичные дипфейки, созданные с использованием генеративного ИИ, могут привести к тому, что эти ожидания не оправдаются. У банка есть возможность повысить осведомленность клиентов о потенциальных рисках, а также о том, как организация управляет этими рисками. Для повышения осведомленности клиентов банкам, вероятно, потребуется чаще выходить с ними на связь — в частности, ввести в банковских приложениях пуш-уведомления, предупреждающие о возможных угрозах».
– Действительно, все весьма расплывчато. А более конкретные советы имеются?
– Аналитики считают, что банки должны активно участвовать в разработке новых отраслевых стандартов, то есть вкладывать деньги в новые технологии, связанные с ИИ, что, собственно, не такое уж и откровение: «Банкам следует инвестировать в наем новых специалистов и обучение уже работающих сотрудников выявлению и пресечению мошенничеств, основанных на использовании ИИ, и составлению отчетов о них. От многих банков эти инвестиции потребуют больших затрат, на обоснование необходимости которых им придется потратить немало сил. В наше время некоторые руководители финансовых учреждений ставят на первое место управление расходами. Но, чтобы сохранить превосходство над мошенниками, необходимо ставить на первое место всестороннее обучение. Банки также могут сосредоточиться на разработке нового программного обеспечения для обнаружения мошенничества, поручив ее штатным командам инженеров, сторонним поставщикам и сотрудникам, работающим по контракту. Это поможет сформировать культуру постоянного обучения и адаптации. Ожидается, что генеративный ИИ значительно повысит угрозу мошенничеств, которые к 2027 г. могут нанести банкам и их клиентам убытки в размере до $40 млрд. Банки должны увеличить свои инвестиции в создание более гибких команд по борьбе с мошенничеством, чтобы внести свой вклад в оборону от этой нарастающей угрозы».
Помните, как раскрыл умирающий старый еврей секрет своего «уникального», удивительно вкусного чая? Не жалейте заварки!
