За даними Групи розвідки загроз Google, хакери експериментують зі шкідливим програмним забезпеченням, яке використовує великі мовні моделі для трансформації в режимі реального часу. Експериментальне сімейство програм під назвою PROMPTFLUX може переписувати та обфускувати власний код під час його виконання, прагнучи обійти статичне виявлення на основі сигнатур.
PROMPTFLUX взаємодіє з API Gemini для запиту функцій на вимогу та методів уникнення «точно вчасно», а не для жорсткого кодування. GTIG описує цей підхід як крок до більш адаптивного, частково автономного шкідливого програмного забезпечення, яке динамічно генерує скрипти та змінює свій слід.
Слідчі стверджують, що поточні зразки, схоже, перебувають на стадії розробки або тестування, мають неповні функції та обмежений доступ до Gemini API. Google стверджує, що вимкнула пов’язані ресурси та не спостерігала успішного злому, проте попереджає, що фінансово мотивовані суб’єкти вивчають такі інструменти.
Дослідники вказують на зрілий підпільний ринок незаконних послуг зі штучним інтелектом, який знижує бар’єри для менш кваліфікованих правопорушників. Повідомляється, що державні оператори в Північній Кореї, Ірані та Китаї експериментують зі штучним інтелектом для покращення робочих процесів розвідки, впливу та вторгнення.
Захисники звертаються до штучного інтелекту, використовуючи системи безпеки та агентів, такі як «Big Sleep», для пошуку недоліків. Командам слід очікувати обфускації за допомогою штучного інтелекту, робити акцент на виявленні на основі поведінки, стежити за зловживаннями API моделей та блокувати облікові дані розробників та автоматизації.
