Штучний інтелект, зокрема чат-боти, роблять шахрайські листи ще важчими для розпізнавання. Ті характерні ознаки, які всі ми вчилися помічати — недолугі граматичні помилки, дивні фрази — тепер зовсім не працюють.
Чому це важливо: Шахраї заробляють як ніколи раніше на простих схемах із електронною поштою та імітацією відомих компаній. За оцінками ФБР, лише минулого року їхні збитки сягнули колосальних $16,6 млрд.
Експерти стверджують: щоб протидіяти шахрайству, створеному штучним інтелектом, потрібен новий підхід — більше уваги на перевірку повідомлень користувачами та системний захист компаній, які мають виявляти фішинг ще до потрапляння листа у вхідні.
ChatGPT та інші чат-боти допомагають шахраям, які не володіють мовою, створювати бездоганні повідомлення без помилок, що дуже схожі на листи від надійних відправників.
Раніше шахраї користувалися такими недосконалими інструментами, як Google Translate, які часто перекладали надто буквально, не передаючи правильну граматику чи тон листа.
Тепер же штучний інтелект здатен вільно писати на більшості мов, що значно ускладнює виявлення підозрілих повідомлень.
Що кажуть експерти: «Ідея навчити людей не відкривати листи, які виглядають підозріло, більше не працюватиме», — каже Честер Вісневський, глобальний CISO компанії Sophos.
«У справжніх листах бувають граматичні помилки, бо люди погано пишуть. ChatGPT ж ніколи не помиляється», — додає він.
Шахраї тепер тренують штучний інтелект на реальних маркетингових листах банків, рітейлерів та сервісних компаній, розповідає Рейчел Тобак, етична хакерка і CEO SocialProof Security.
«Їхні листи звучать так, ніби це саме той голос, до якого ви звикли», — пояснює Тобак.
Один з її ісландських клієнтів, який раніше не переймався фішингом через малу кількість носіїв мови (близько 350 тисяч), зараз надзвичайно стурбований.
«Тепер це абсолютно новий рівень загрози для всіх», — каже вона.
Найбільша небезпека — не просто граматичні помилки, а як ці інструменти дозволяють масштабувати точність і швидкість, пояснює Майк Брігтон, CIO Abnormal AI.
За лічені хвилини шахраї можуть за допомогою чат-ботів збирати детальні досьє на відділи продажів у кожній компанії зі списку Fortune 500 і створювати на їх основі персоналізовані, дуже правдоподібні листи.
Зловмисники також вбудовуються у справжні листування, використовуючи домени, які дуже схожі на справжні, що робить їх повідомлення майже неможливо відрізнити від оригінальних.
«Наш мозок нас обманює», — каже Брігтон. «Якщо в домені є літера W, і я шахрай, який створив домен з двома V, ваш мозок автоматично виправить це в голові».
Але є надія: Виявити шахрайські листи все ж можливо.
Людина застосовує так звану ввічливу параною — наприклад, перед тим як відкривати лист, дзвонить або пише людині чи організації, які нібито надіслали це повідомлення, щоб перевірити його достовірність.
Цільова особа користується менеджером паролів і має складні, довгі паролі.
Увімкнено багатофакторну автентифікацію.
На що звернути увагу далі: Брігтон застерігає, що недорогі генеративні AI-інструменти для створення дипфейків і голосових клонів можуть найближчим часом вивести фішинг на новий рівень.
«Дійде до того, що нам усім доведеться використовувати кодові слова, а під час Zoom-дзвінків обмінюватися секретними ключами», — попереджає він. «Це станеться швидше, ніж ви думаєте».
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.