Компанія Anthropic, що займається штучним інтелектом, повідомила, що її чат-бот Claude був використаний у кіберінцидентах, включаючи спроби здійснення хакерських операцій та шахрайство, пов’язане з працевлаштуванням.
Фірма заявила, що її технологія використовувалася для написання шкідливого коду та сприяння зловмисникам у плануванні атак. Однак вона також заявила, що може порушити цю діяльність та повідомити правоохоронні органи. Anthropic заявила, що продовжує вдосконалювати свої системи моніторингу та виявлення.
В одному випадку компанія повідомила, що атаки за допомогою штучного інтелекту були спрямовані на щонайменше 17 організацій, включаючи державні установи. Зловмисники нібито використовували цей інструмент для підтримки прийняття рішень, від вибору даних для цільової аудиторії до складання вимог про викуп.
Експерти зазначають, що зростання так званого агентного ШІ, який може працювати з більшою автономністю, посилило занепокоєння щодо потенційного зловживання.
Також Anthropic виявила спроби використання моделей штучного інтелекту для підтримки шахрайських заявок на віддалену роботу у великих компаніях. Повідомляється, що штучний інтелект використовувався для створення переконливих профілів, генерації заявок та допомоги у виконанні робочих завдань після того, як роботу вже було забезпечено.
Аналітики припускають, що штучний інтелект може посилити такі схеми, але більшість кіберінцидентів все ще пов’язані з давно встановленими методами, такими як фішинг та використання вразливостей програмного забезпечення.
Фахівці з кібербезпеки наголошують на важливості проактивного захисту в міру розвитку інструментів штучного інтелекту. Вони застерігають, що організації повинні ставитися до платформ штучного інтелекту як до чутливих систем, що потребують надійних заходів безпеки для запобігання їхньому зловживанню.
