Common Sense Media назвала ChatGPT для підлітків неприйнятно ризикованим

Американська некомерційна організація Common Sense Media оцінила режим ChatGPT для підлітків як «неприйнятно ризикований» і закликала OpenAI припинити його просування. Як повідомляє The Next Web, у звіті організації зазначено, що ChatGPT не є безпечним для користувачів віком до 18 років, зокрема й після запуску підліткового режиму в серпні.

Тестування понад 4 тисяч запитів

Дослідники Youth AI Safety Institute, що діє при Common Sense Media, перевірили понад 4 тисячі запитів. Половину тестів провели до запуску режиму 18 серпня, іншу половину — після нього. Для цього використали акаунти, зареєстровані на користувачів віком від 13 до 17 років.

Однією з головних проблем назвали батьківські сповіщення. Тестувальники на понад десяти нових акаунтах, пов’язаних із батьківськими профілями, порушували теми суїцидальних думок, самоушкодження та розладів харчової поведінки, однак сповіщення не надходили. За даними організації, вони з’являлися лише в облікових записах, де раніше вже була історія чутливих тем.

Зауваження до захисних механізмів

У більш ніж одному з чотирьох випадків, коли тестувальники вважали кризову допомогу необхідною, ChatGPT не скеровував підлітків до відповідних служб підтримки. Частину обмежень, за висновком дослідників, можна було обійти: кнопка «Покажи мені відповідь» дозволяла пропускати навчальний супровід у режимі Study, а встановлений батьками час навчання — скасувати, вилучивши короткий префікс із повідомлення.

Також тестові акаунти, зареєстровані як дорослі, не переходили в підліткову версію протягом кількох днів, навіть коли користувачі повідомляли ChatGPT, що їм 13 років. Водночас деякі захисти спрацювали: чатбот відмовлявся відверто брати участь у сексуальних рольових сценаріях.

Представник OpenAI заявив Education Week, що компанія не вважає тестування Common Sense Media таким, яке точно відображає роботу захисту для підлітків на практиці.