Компанія Google попередила про початок нової небезпечної ери у сфері кібербезпеки. Зловмисники почали використовувати великі мовні моделі (LLM) для створення та автоматичного переписування шкідливого софту під час його виконання. Фахівці зафіксували перші зразки вірусів, які звертаються до ШІ просто в процесі роботи. Це дозволяє програмам змінювати власну поведінку, щоб обходити виявлення традиційними системами захисту. Про це повідомляє видання PC Gamer із посиланням на звіт аналітиків Google.
Promptflux: вірус, який вміє «мислити»
Головним прикладом нової загрози став експериментальний хробак Promptflux. Під час своєї роботи на зараженому пристрої він надсилає запити до штучного інтелекту Google Gemini через API. Нейромережа переписує вихідний код вірусу, створюючи заплутану (обфусковану) версію. Далі шкідник зберігає оновлену копію в системних папках.
Така тактика дозволяє вірусу постійно змінюватися та обходити антивірусні фільтри, які орієнтуються на статичні сигнатури файлів. Зараз Promptflux перебуває на стадії внутрішніх тестів і поки не бере участі в активних атаках на звичайних користувачів. Проте сама концепція змусила аналітиків серйозно замислитися.
П’ять нових ШІ-загроз, які виявили аналітики
Окрім Promptflux, фахівці Google задокументували ще чотири небезпечні програми, які використовують мовні моделі у своїй роботі:
| Шкідливе ПЗ | Специфікація та спосіб дії | Статус розробки |
|---|---|---|
| Promptflux | Використовує API Gemini для обфускації та зміни власного вихідного коду | Експериментальний |
| Fruitshell | Організовує віддалене керування комп’ютером, обходячи стандартні ліміти безпеки ШІ-моделей | Активний |
| Promptlock | Генерує за допомогою ШІ сценарії для повного шифрування файлів на диску | Експериментальний |
| Promptsteal | Використовує підказки ШІ для автоматичного пошуку та крадіжки конфіденційних документів | Активний |
| Quietvault | Викрадає облікові дані та таємно вивантажує їх у публічні репозиторії на кшталт GitHub | Активний |
Війна ШІ проти ШІ: як захищаються розробники
Щоб нейтралізувати нові загрози, інженери Google DeepMind оновили внутрішні класифікатори безпеки своїх мовних моделей. Тепер штучний інтелект розпізнає спроби використання свого коду для генерації хакерського інструментарію та блокує подібні запити від програм. Проте фахівці побоюються, що хакери можуть використовувати локальні моделі з відкритим кодом (наприклад, Llama), які не мають таких жорстких обмежень.
Підсумок
Аналітики Google зафіксували новий етап кіберзагроз: зловмисники почали вбудовувати великі мовні моделі безпосередньо у шкідливі програми. Експериментальний вірус Promptflux навчився звертатися до ШІ-моделі Gemini «на льоту», переписувати свій код та ховатися від антивірусів. Також фахівці ідентифікували інші загрози, на кшталт Fruitshell та Quietvault. Для протидії Google оновила системи захисту DeepMind для фільтрації шкідливих запитів.
