Компанія Meta представила нові функції безпеки для підлітків, які спілкуються з її ШІ-асистентами. Одним із головних оновлень стала можливість надсилати батькам повідомлення, якщо підліток під наглядом демонструє ознаки суїцидальних думок або самоушкодження під час розмови з чат-ботом.
У компанії зазначили, що такі сповіщення не будуть автоматичними — перед відправленням їх перевірятимуть фахівці. Повідомлення для батьків міститимуть рекомендації щодо того, як правильно підтримати дитину та реагувати на ситуацію.
Крім цього, Meta працює над системою, яка дозволить звертатися до служб екстреної допомоги у випадках, коли аналіз розмов зі штучним інтелектом свідчитиме про можливу безпосередню загрозу життю користувача. Подібний підхід компанія вже використовує для виявлення серйозних ризиків у Facebook та Instagram.
За словами Meta, під час розробки оновлень компанія залучила понад 75 експертів у сфері психічного здоров’я. Завдяки їхнім рекомендаціям ШІ має краще реагувати на чутливі теми, підтримувати користувачів у складних ситуаціях і водночас спрямовувати їх до професійної допомоги та кризових служб.
Також Meta розширює дію функції «Обмежений контент» на свої AI-чати. Вона покликана обмежити доступ підлітків до ширшого спектра потенційно небезпечних або делікатних тем під час спілкування з чат-ботами.
Наразі батьківські сповіщення доступні у США, Великій Британії, Австралії та Канаді. Компанія планує поступово запустити цю функцію в інших країнах до кінця року.
