Китай запропонував нові правила, що обмежують вплив чат-ботів на основі штучного інтелекту на емоції людини таким чином, що це може призвести до самогубства або самоушкодження. Адміністрація кіберпростору опублікувала проєкт правил, відкритий для громадського обговорення до кінця січня.
Ці заходи спрямовані на інтерактивні сервіси зі штучним інтелектом, подібні до людських, включаючи емоційно чутливі чат-боти зі штучним інтелектом, які імітують особистість та взаємодіють з користувачами за допомогою тексту, зображень, аудіо чи відео. Чиновники кажуть, що пропозиції сигналізують про перехід від безпеки контенту до емоційної безпеки, оскільки штучний інтелект-компаньйони набирають популярності.
Крок до регулювання емоційно чутливого ШІ
Згідно з проєктом правил, сервісам чат-ботів на основі штучного інтелекту буде заборонено заохочувати до самоушкодження, емоційних маніпуляцій або непристойного, насильницького чи пов’язаного з азартними іграми контенту. Постачальники будуть зобов’язані залучати модераторів-людей, якщо користувачі виявляють суїцидальні наміри.
Додаткові положення посилять гарантії для неповнолітніх, включаючи згоду опікунів та обмеження використання емоційно інтерактивних систем. Платформи також зіткнуться з оцінками безпеки та нагадуваннями про взаємодію під час роботи з великими базами користувачів.
Експерти кажуть, що ці пропозиції можуть стати першою у світі спробою регулювати емоційно чутливі системи штучного інтелекту. Цей крок відбувається на тлі того, що китайські компанії-чат-боти прагнуть публічного лістингу, а також на тлі зростання глобальної уваги до того, як розмовний штучний інтелект впливає на психічне здоров’я та поведінку користувачів.
