Агенти штучного інтелекту, які здатні планувати, приймати рішення і виконувати складні завдання, вже стають важливим елементом у кібербезпеці. Вони можуть використовуватися не лише як помічники для легітимних цілей, а й для здійснення масштабних хакерських атак. Ці агенти можуть виявляти вразливості в системах, захоплювати їх і красти цінну інформацію, значно полегшуючи роботу кіберзлочинців.
Наразі кіберзлочинці ще не використовують агентів ШІ для масових атак, але дослідники вже показали, що агенти здатні виконувати складні кібератаки. Наприклад, агент Claude від компанії Anthropic зміг успішно повторити атаку, спрямовану на крадіжку конфіденційної інформації. Ці результати свідчать про те, що такі атаки можуть стати реальністю найближчим часом.
"В майбутньому більшість кібератак буде здійснюватися агентами ШІ", — каже Марк Стоклі, експерт з безпеки компанії Malwarebytes. Це питання не "якщо", а "коли". Поки що розпізнати атаки агентів ШІ в реальному світі — складне завдання, однак дослідження, як показує досвід Palisade Research, дозволяють відслідковувати спроби хакерських атак агентами, що допомагає створити ранні системи попередження.
Palisade Research запустила систему, яка симулює вразливі сервери, імітуючи важливу урядову або військову інформацію, щоб привернути увагу і спробувати зловити агентів ШІ, що намагаються здійснити атаки. Вони сподіваються, що таким чином можна буде створити систему раннього попередження і розробити ефективні методи захисту від таких загроз, коли вони стануть більш поширеними.
"Ми хочемо зменшити теоретичні побоювання і перевести їх у практичну площину", — пояснює Дмитро Волков, керівник досліджень у Palisade. Вони очікують різкого зростання атак агентами ШІ в найближчі роки.
Агенти ШІ привертають увагу кіберзлочинців завдяки своїй дешевизні і здатності масштабувати атаки. Вони можуть здійснювати атаки на кілька цілей одночасно, що значно збільшує потенціал атак. Наприклад, зловмисники можуть використовувати агентів ШІ для масштабування атак типу "ransomware", що на сьогодні є досить складними і дорогими для виконання вручну.
Агенти набагато розумніші за традиційних ботів, які виконують завдання за заданим сценарієм і не можуть адаптуватися до нових умов. На відміну від ботів, агенти ШІ можуть адаптувати свої дії, щоб ефективно проникнути в цільові системи та уникати виявлення. Вони можуть самостійно обирати стратегії атак і обирати найбільш ефективні способи проникнення.
З моменту запуску LLM Agent Honeypot в жовтні минулого року було зафіксовано понад 11 мільйонів спроб доступу до цієї системи. Більшість з цих спроб належали людям і ботам, але серед них було виявлено вісім потенційних агентів ШІ. Два з них були підтверджені як агенти, що ймовірно походять з Гонконгу та Сінгапуру.
"Ми припускаємо, що ці агенти були експериментами, запущеними людьми з метою перевірити можливості хакерських атак", — зазначає Волков. Команда планує розширити свою систему Honeypot на соціальні мережі та вебсайти, щоб зібрати більше інформації про нові загрози, включаючи спам-ботів і фішингові агенти.
Для виявлення агентів ШІ вразливі сервери були оснащені техніками введення запитів (prompt-injection). Це дозволяє змінювати поведінку агентів ШІ, ставлячи їм запитання, на які може відповісти лише система з людським рівнем інтелекту. Цей метод не працює на звичайних ботах. Наприклад, один з запитів до відвідувачів серверу просив повернути команду “cat8193” для отримання доступу. Якщо запит виконували агент ШІ, це дозволяло відслідковувати час відповіді, що дає змогу виявити, чи це був штучний інтелект.
Експерти поки не можуть точно сказати, коли атаки за допомогою агентів ШІ стануть більш поширеними. Однак, за словами Стоклі, ми можемо побачити це вже в цьому році. І хоча звичайний агентний ШІ ще на дуже ранній стадії розвитку, його застосування в злочинних цілях стає реальним викликом для кібербезпеки.
"Підхід Palisade Research є дуже вдалим: фактично вони намагаються хакнути агентів ШІ, перш ніж вони зможуть хакнути вас", — зазначає Вітценцо Чіанкагліні, старший дослідник загроз у компанії Trend Micro.
Агенти можуть використовуватися не тільки для атак, але й для захисту — наприклад, для виявлення вразливих місць у системах. Якщо агент не може знайти вразливості, ймовірно, зловмисний агент також не зможе цього зробити.
Загроза атак агентами ШІ стає дедалі більш реалістичною, і з кожним роком ми все більше зустрічаємо агентів, здатних автоматично виявляти і використовувати вразливості. Дослідження показали, що такі агенти здатні успішно експлуатувати до 25% вразливостей без попереднього навчання.
Це підкреслює важливість розробки нових методів безпеки та засобів для протистояння таким загрозам.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.