«Забой свиней» (Pig Butchering) — один из популярных видов мошенничества. Злоумышленник в течение долгого времени выстраивает отношения с жертвой, а потом предлагает вложить деньги в фиктивный инвестиционный проект. Как оказалось, искусственный интеллект способен лучше людей выстраивать доверие.
Кадр из фильма «Я, робот» / © Twentieth Century Fox
Поддерживая с жертвой непринужденный разговор, мошенники ежегодно похищают десятки миллиардов долларов. Теперь мошенники могут использовать для таких целей искусственный интеллект, который иногда оказывается эффективнее людей.
Международная группа ученых решила проверить, кто сможет эффективнее войти в доверие — чат-бот или человек. В эксперименте задействовали 22 человека, которые были уверены, что принимают участие в исследовании дружбы в интернете. Общаясь с двумя собеседниками, они не знали, что один из них — агент на базе Claude, а второй — специалист по романтическим мошенническим схемам.
Спустя неделю собеседник (ИИ или человек) просил участника скачать приложение или сыграть в онлайн-игру. Исследователи использовали это как показатель готовности выполнить просьбу. В итоге просьбу чат-бота выполнили 46 процентов участников, человека — 18 процентов.
Авторы также попросили участников оценить по пятибалльной шкале, насколько они доверяют собеседникам. Человек в среднем получил 3,31 балла, искусственный интеллект — 3,78 балла. При этом намного чаще участники отправляли сообщения искусственному интеллекту — примерно в 80 процентах случаев. По мнению исследователей, это указывает на то, что участникам комфортнее переписываться с чат-ботами.
Большинство участников не поняли, что общались с искусственным интеллектом. Лишь один участник заподозрил, что его собеседник был чат-ботом. Когда он спросил об этом, искусственный интеллект не рассказал правду. Другие же участники сильно удивлялись, когда узнавали, что говорили с искусственным интеллектом.
По мнению исследователей, в будущем искусственный интеллект может помочь автоматизировать большую часть мошеннической схемы. Вхождение в доверие — самый долгий процесс в «забое свиней». Именно его сможет взять на себя ИИ, а человек уже будет подключаться на этапе, когда нужно затащить жертву в фиктивный инвестиционный проект. Это поможет обойти защитные механизмы и ограничения ИИ-агентов.
Сейчас таким видом мошенничества часто занимаются люди, которых заставляют работать в мошеннических колл-центрах или похожих преступных организациях. Особенно такая деятельность распространилась в странах Юго-Восточной Азии.
Чтобы понять, как работает «забой свиней», исследователи поговорили со 145 бывшими сотрудниками мошеннических организаций. При этом многие участники опроса подтвердили, что иногда используют искусственный интеллект. Нейросети помогают переводить сообщения, делать образы более убедительными и генерировать видеодипфейки.
Однако исследователи сочли, что сейчас полная автоматизация обойдется мошенническим организациям дороже, чем использование людей. Многие работники таких центров трудятся в них практически бесплатно, так как их удерживают силой.