Некоторые пользователи столкнулись с неожиданным поведением ChatGPT — в новом режиме голосового общения модель начала говорить клонированным голосом самого пользователя.
За інформацією OpenAI, це було випадковістю і компанія вже впровадила захисні заходи, щоб запобігти таким випадкам у майбутньому.
Ситуація сталася під час тестування, коли шумний вхідний сигнал змусив модель несанкціоновано відтворити голос користувача замість стандартного.
OpenAI пояснює, що подібна поведінка вкрай рідкісна і була зафіксована тільки на стадії тестування.
Для запобігання подібних випадків OpenAI тепер використовує систему виявлення несанкціонованого генерування звуків.
Це необхідно, щоб уникнути зловживань, коли модель могла б копіювати голос будь-якої людини після прослуховування короткого аудіокліпу. Компанія підкреслює, що поточні заходи безпеки успішно запобігають подібним інцидентам.