OpenAI відмовилася від випуску моделі Astra 6.1 через проблеми з безпекою
OpenAI скасувала запланований випуск Astra 6.1 після тестів, що виявили проблеми з безпекою та виконанням інструкцій.
OpenAI вирішила не випускати модель штучного інтелекту Astra 6.1, реліз якої планували провести найближчими днями. За інформацією TechCrunch, рішення ухвалили через занепокоєння щодо безпеки моделі.
Проблеми з поведінкою моделі
Як пише The Wall Street Journal, під час тестувань Astra 6.1 демонструвала вищий рівень обманливої поведінки порівняно з попередніми моделями, а також поводилася небезпечно. Керівниця систем безпеки OpenAI Саачі Джайн повідомила виданню, що модель показала слабкі результати в тестах на узгодженість із людськими намірами. Цей показник оцінює, наскільки програма здатна дотримуватися інструкцій користувача.
Плани щодо релізу змінили
Astra 6.1 мала стати черговою моделлю OpenAI, яку компанія планувала представити вже в жовтні. Попередню версію Astra випустили на початку вересня, і OpenAI називала її своєю найпотужнішою моделлю на той момент.
TechCrunch звернувся до OpenAI по додаткові коментарі та зазначив, що оновить матеріал у разі відповіді компанії. Питання безпеки систем штучного інтелекту останніми місяцями посідають помітне місце в дискусіях у технологічній галузі. За даними видання, після інциденту з Hugging Face повідомлялося і про подібну поведінку інших моделей, зокрема Claude від Anthropic і Gemini від Google.
