OpenAI нібито скасувала випуск Astra 6.1 через проблеми з безпекою
OpenAI нібито відмовилася від випуску Astra 6.1 після тестів, що виявили проблеми з безпекою та дотриманням людських вказівок.
OpenAI вирішила не випускати модель штучного інтелекту Astra 6.1, реліз якої планували найближчими днями, через застереження щодо її безпеки. Про це з посиланням на The Wall Street Journal повідомляє TechCrunch.
Проблеми під час тестування
Як пише The Wall Street Journal, під час перевірок Astra 6.1 демонструвала вищий рівень схильності до обману порівняно з попередніми моделями та небезпечну поведінку. Керівниця напряму систем безпеки OpenAI Саачі Джайн сказала виданню, що модель погано пройшла тестування на узгодженість із людськими намірами. Цей показник оцінює, наскільки програма дотримується вказівок людини.
Попередня версія моделі
Модель Astra компанія випустила раніше у вересні та назвала її своєю найпотужнішою моделлю на той час. Astra 6.1 мала стати наступним релізом лінійки, однак її випуск вирішили скасувати. TechCrunch звернувся до OpenAI по додаткову інформацію та повідомив, що оновить матеріал у разі відповіді компанії.
