Приватні розмови з чат-ботом xAI Grok були викриті в Інтернеті, що викликає серйозні занепокоєння щодо конфіденційності користувачів та безпеки штучного інтелекту. Дехто виявив, що кнопка «поділитися» Grok створювала публічні URL-адреси, які пізніше проіндексувалися Google та іншими пошуковими системами.
Витік контенту викликає занепокоєння, починаючи від питань про злом криптогаманців і закінчуючи інструкціями з виробництва наркотиків і навіть насильницькими сюжетами. Хоча xAI забороняє шкідливе використання, деякі користувачі все ж отримували небезпечні відповіді, які тепер є загальнодоступними в Інтернеті.
Ця ситуація нагадує аналогічні проблеми з конфіденційністю, з якими стикалися користувачі чат-ботів Meta та OpenAI, що підкреслює системну вразливість у всьому світі штучного інтелекту. Контент, виявлений під час цих пошуків, є особливо тривожним, пропонуючи уявлення про не зовсім поважні бажання користувачів. До них належать:
- Запитання про те, як зламати криптогаманці
- Відверті чати з персонажем штучного інтелекту
- Запити на інструкції щодо приготування заборонених речовин, таких як метамфетамін та фентаніл
- Запити про різні способи самогубства
- Запити на поради щодо виготовлення бомб
- Навіть детальний план вбивства Ілона Маска
Недостатня захищеність даних
Хоча правила xAI забороняють використання його бота для «сприяння завданням критичної шкоди людському життю» або розробки «біологічної зброї, хімічної зброї чи зброї масового знищення», це явно не завадило користувачам звертатися до Grok за допомогою з таких питань. Той факт, що Grok, як повідомляється, надавав інструкції щодо деяких із цих надзвичайно небезпечних видів діяльності, які тепер доступні для публічного пошуку, викликає серйозні етичні та безпекові проблеми.
Викриття сталося через те, що пошукові системи автоматично індексували посилання, якими можна було поділитися, що є недоліком, що нагадує попередні проблеми з іншими платформами штучного інтелекту, включаючи ChatGPT від OpenAI. Розроблена для зручності, ця функція викривала конфіденційні чати, що підірвало довіру до обіцянок xAI щодо конфіденційності.
Цей інцидент змушує розробників штучного інтелекту впроваджувати сильніші заходи захисту конфіденційності, такі як блокування індексації спільного контенту та забезпечення дотримання принципів конфіденційності на етапі розробки. Користувачі можуть вагатися використовувати чат-боти без виправлень, побоюючись, що їхні дані можуть знову з’явитися в Інтернеті.
