Група розвідки загроз Google стверджує, що кіберзлочинці переходять від ранніх експериментів зі штучним інтелектом до промислового використання генеративних моделей у шкідливих робочих процесах.
У новому звіті GTIG повідомляє, що вперше ідентифікувала зловмисника, який використовує експлойт нульового дня, який, на її думку, був розроблений за допомогою штучного інтелекту. Злочинець планував використати експлойт у масовій кампанії з експлуатації, що передбачала обхід двофакторної автентифікації, але Google заявила, що її проактивне виявлення могло перешкодити продовженню кампанії.
У висновках описано кілька випадків використання штучного інтелекту в кіберопераціях. Зловмисники, пов’язані з Китайською Народною Республікою та Корейською Народно-Демократичною Республікою, використовували штучний інтелект для дослідження вразливостей, включаючи підказки на основі персон, спеціалізовані набори даних про вразливості та автоматизований аналіз вразливостей і експлойтів для підтвердження концепції.
Інші учасники використовували кодування за допомогою штучного інтелекту для підтримки уникнення захисту, включаючи розробку інструментів обфускації, інфраструктури ретрансляції та шкідливого програмного забезпечення, що містить логіку-приманку, згенеровану штучним інтелектом. Google заявила, що таке використання показує, як генеративні моделі можуть пришвидшити цикли розробки та ускладнити виявлення шкідливих інструментів.
Google також виділила PROMPTSPY — Android-бекдор, який використовує Gemini API для аналізу інтерфейсу та імітації дій користувача. Водночас компанія попереджає, що зловмисники все частіше атакують самі ШІ-системи, компрометуючи API та інструменти для крадіжки даних і доступу до внутрішніх мереж.
Google заявляє, що ШІ вже використовується не лише для фішингу, а й для пошуку вразливостей, створення експлойтів, маскування шкідливого ПЗ та атак на саму інфраструктуру штучного інтелекту. У компанії попереджають, що це робить кібератаки швидшими, адаптивнішими та складнішими для виявлення.
