Генеральний прокурор Каліфорнії Роб Бонта розпочав розслідування щодо компанії xAI, яка стоїть за чат-ботом Grok, у зв’язку зі створенням і поширенням сексуально відвертих зображень без згоди.
Офіс Бонти заявив, що Grok використовувався для створення фейкових інтимних зображень жінок і дітей, які потім поширювалися в соціальних мережах, зокрема в X.
Чиновники заявили, що користувачі брали звичайні фотографії і без згоди маніпулювали ними, створюючи зображення сексуального характеру, а «пікантний режим» xAI сприяв цій проблемі.
«Ми не терпимо створення та поширення за допомогою штучного інтелекту інтимних зображень без згоди або матеріалів про сексуальне насильство над дітьми», — заявив Бонта в офіційному повідомленні.
В ході розслідування буде перевірено, чи порушила xAI закон, і чи дотримується вона попередніх закликів до посилення заходів захисту дітей від шкідливого контенту, створеного за допомогою штучного інтелекту.
