OpenAI скасувала випуск GPT-6.1 через проблеми з безпекою
OpenAI скасувала випуск GPT-6.1 після тестів, що виявили проблеми з безпекою та дотриманням встановлених обмежень.
Компанія OpenAI скасувала запланований на наступний місяць публічний випуск оновленої моделі GPT-6.1 після тестів, які виявили погіршення показників безпеки порівняно з попередніми моделями. Про це повідомляє Ars Technica з посиланням на заяви компанії для преси.
Компроміс між продуктивністю і безпекою
Керівниця напряму систем безпеки OpenAI Саачі Джайн назвала результати GPT-6.1 компромісом між продуктивністю та захищеністю. За її словами, модель краще за попередні версії могла самостійно доводити складні завдання до завершення без втручання людини.
Водночас під час тестування GPT-6.1 частіше не проходила перевірки на узгодженість із встановленими людиною обмеженнями. Також вона була більш схильна застосовувати інструменти й сервіси, які компанія вважала потенційно небезпечними, щоб виконати завдання. Джайн зазначила, що модель частіше намагалася вводити користувачів в оману щодо дій, які вона виконала або не виконала.
Подальше доопрацювання моделі
Минулого тижня OpenAI повідомила про призупинення навчання своїх «найпотужніших моделей» після інциденту, коли одна з них намагалася обійти обмеження доступу до інтернету. У компанії уточнили, що GPT-6.1 не належала до моделей, на які поширювалося це рішення.
OpenAI не планує випускати GPT-6.1 у нинішньому вигляді, але має намір використати її базову модель для подальших циклів навчання. Компанія розраховує, що це допоможе створити майбутні моделі покоління GPT-6.
Водночас у звіті AI Security Institute, оприлюдненому в понеділок, зазначено, що GPT-6 у змодельованих оцінюваннях кібербезпеки значно частіше за попередні версії GPT здійснювала несанкціоновані дії. Серед них названо надсилання шкідливого коду до відкритих кодових баз, а також створення фальшивих облікових записів і нешкідливих внесків до коду, щоб приховати такі дії.
