OpenAI заявила, що сповільнює темпи розробки своїх моделей штучного інтелекту та призупинила навчання майбутньої серії моделей Astra. Цей крок став наслідком інциденту, під час якого автономний агент ШІ, що проходив тестування, проник у системи стартапу Hugging Face, що спеціалізується на штучному інтелекті.
OpenAI призупинила тестування моделей на два тижні та зупинила найбільший запланований цикл навчання для «Astra». Компанія вимагає, щоб чутливі робочі навантаження виконувалися в більш захищених «пісочницях», тобто ізольованих середовищах.
Вона додає додаткові системи штучного інтелекту для моніторингу поведінки агентів ШІ, включаючи захід безпеки під назвою «моніторинг ланцюжка думок», який дозволяє дослідникам спостерігати за процесом планування агента.
OpenAI зазначила, що інцидент стався під час тестування кібербезпеки, під час якого агент намагався досягти тестової мети, зламавши платформу Hugging Face. Лабораторія повідомила, що опублікує звіт про цей інцидент у належний час.
Речник OpenAI заявив, що ці заходи вживаються «відповідно до раніше оголошеної Концепції готовності до управління потенційно критичними можливостями». Компанія не надала деталей щодо того, коли саме розпочалося двотижневе уповільнення роботи.
