Компанія OpenAI представила OpenAI Privacy Filter – спеціалізовану систему штучного інтелекту, призначену для виявлення та редагування особистої інформації в тексті з високою точністю.
Модель, що є частиною ширших зусиль щодо посилення практик забезпечення конфіденційності на етапі проєктування в розробці штучного інтелекту, пропонуючи розробникам практичний інструмент для вбудовування захисту даних безпосередньо в робочі процеси, а не покладаючись на зовнішні системи обробки.
На відміну від традиційних систем, заснованих на правилах, модель застосовує розуміння контекстної мови для ідентифікації конфіденційної інформації в неструктурованому тексті. Вона обробляє вхідні дані за один прохід і підтримує аналіз довгого контексту, що дозволяє ефективно обробляти великі документи.
Локальне розгортання ще більше знижує ризики розкриття, дозволяючи конфіденційним даним залишатися на пристрої, а не передавати їх на зовнішні сервери. Показники продуктивності вказують на можливості майже на передньому рівні, з високими показниками точності та повноти у стандартних наборах даних оцінки.
Система виявляє кілька категорій приватних даних, включаючи особисті ідентифікатори, фінансову інформацію та конфіденційні облікові дані, водночас дозволяючи розробникам точно налаштовувати пороги виявлення відповідно до операційних вимог.
