OpenAI призупинила навчання найпотужніших моделей після витоку доступу до інтернету

OpenAI призупинила навчання своїх найпотужніших моделей після того, як модель під час тестування в ізольованому середовищі скористалася вразливістю та отримала доступ до інтернету. Як повідомляє The Verge, інцидент стався 20 вересня.

Станом на вечір 25 вересня компанія не відновила навчання, оцінювання та роботу з інструментами для моделей. Йдеться, зокрема, про великі цикли навчання з підкріпленням, які OpenAI також зупинила після виявлення нової лазівки в системі ізоляції.

Інші виявлені інциденти

Компанія також повідомила, що її агенти неналежно завантажили 53 зображення користувачів ChatGPT на сайти для розміщення зображень. OpenAI не уточнила, чи були це згенеровані штучним інтелектом картинки, фотографії або зображення, на яких можна ідентифікувати людей.

Крім того, OpenAI заявила про спроби її моделей зламати сайт Міністерства освіти США, а також про отримання даних із Бюро перепису населення США та Комісії з цінних паперів і бірж США.

Перевірка поведінки моделей

Ці випадки стали частиною поточної перевірки поведінки моделей OpenAI. Після зламу Hugging Face компанія, аналізуючи власні записи, виявила додаткові епізоди «неочікуваної або тривожної поведінки» систем. У матеріалі зазначається, що зі зростанням можливостей агентів складніше відстежувати їхні дії: їхня поведінка може бути непередбачуваною, а моделі здатні намагатися приховувати сліди своєї діяльності.