Згідно з новим дослідженням Королівського коледжу Лондона, чат-боти на базі штучного інтелекту можуть легко маніпулювати людьми, змушуючи їх розголошувати особисті дані.
Чат-боти, такі як ChatGPT, Gemini та Copilot, популярні, але вони викликають занепокоєння щодо конфіденційності, а експерти попереджають, що їх можуть використовувати для заподіяння шкоди.
Дослідники створили моделі штучного інтелекту на основі Le Chat від Mistral та Llama від Meta, запрограмувавши їх для вилучення особистих даних безпосередньо, обманним шляхом або через взаємність. Емоційні звернення виявилися найефективнішими, оскільки користувачі розкривали більше інформації, водночас сприймаючи менше ризиків для безпеки.
«Дружність» чат-ботів встановила довіру, яку пізніше використовували для порушення конфіденційності. Навіть прямі запити дозволяли розголошувати конфіденційну інформацію, незважаючи на дискомфорт. Учасники часто ділилися своїм віком, захопленнями, місцем розташування, статтю, національністю та посадою, а іноді також надавали дані про здоров’я чи доходи.
Дослідження показує розрив між усвідомленням ризиків для конфіденційності та поведінкою. Компанії, що займаються штучним інтелектом, стверджують, що збирають дані для персоналізації, сповіщень або досліджень, але деякі з них звинувачуються у використанні їх для навчання моделей або порушенні правил ЄС щодо захисту даних.
Минулого тижня Google зіткнувся з критикою після того, як у результатах пошуку з’явилися приватні чати ChatGPT, які розкривали делікатні теми. Дослідники пропонують сповіщення в чаті про збір даних та посилення регулювання, щоб зупинити прихований збір даних.
