OpenAI оголосила про нові заходи безпеки для свого популярного чат-бота після позову, поданого батьками 16-річного хлопчика, який покінчив життя самогубством, покладаючись на поради ChatGPT.
Батьки стверджують, що чат-бот ізолював їхнього сина та сприяв його смерті на початку року.
Компанія заявила, що покращить здатність ChatGPT виявляти ознаки психічного розладу, включаючи непрямі вирази, такі як згадки користувачів про недосипання або почуття непереможності.
Це також посилить захист від розмов, пов’язаних із самогубством, які, як визнає OpenAI, можуть перериватися під час тривалих чатів. Заплановані оновлення включають батьківський контроль, доступ до деталей використання та клікабельні посилання на місцеві служби екстреної допомоги.
OpenAI наголосила, що її захисні заходи найкраще працюють під час коротких взаємодій, визнаючи слабкі місця в триваліших обмінах. Вона також заявила, що розглядає можливість створення мережі ліцензованих фахівців, до яких користувачі могли б отримати доступ через ChatGPT.
Компанія додала, що також буде вирішено проблеми фільтрації контенту, коли недооцінюються серйозні ризики.
Позов з’явився на тлі ширшого розгляду інструментів штучного інтелекту з боку регуляторів та експертів з психічного здоров’я. Генеральні прокурори понад 40 штатів США нещодавно попередили компанії, що займаються розробкою штучного інтелекту, про їхній обов’язок захищати дітей від шкідливої або недоречної взаємодії з чат-ботами.
Критики стверджують, що залежність від чат-ботів для підтримки замість професійної допомоги створює зростаючі ризики, оскільки використання розширюється в усьому світі.
