Common Sense Media назвала ChatGPT для підлітків неприйнятним ризиком

Некомерційна організація Common Sense Media, що оцінює застосунки й цифрові сервіси з погляду безпеки молоді, назвала підліткову версію ChatGPT «неприйнятним ризиком». В організації заявили, що захисні механізми, запропоновані OpenAI для неповнолітніх користувачів, не відповідають обіцянкам компанії.

Як повідомляє The Verge, ChatGPT для підлітків представили у серпні. Сервіс має обмеження для молодих користувачів і позиціонується як інструмент для навчання школярів.

Зауваження до батьківських сповіщень

За результатами оцінювання Common Sense Media, ChatGPT не надсилає батькам сповіщень у випадках, коли це має відбуватися, не надає належної допомоги в кризових ситуаціях і все ще виконує за дітей домашні завдання. Виконавчий директор Youth AI Safety Institute при Common Sense Media Том Сігел заявив, що підліток може протягом години говорити з чатботом про самоушкодження, не викликавши жодного сповіщення для батьків.

На думку Сігела, до усунення цих проблем і незалежного підтвердження ефективності захисних механізмів ChatGPT має бути доступним лише для дорослих.

Позиція OpenAI

В OpenAI не погодилися з висновками організації. Представник компанії Ерік Портерфілд заявив, що OpenAI приділяє велику увагу безпеці підлітків, розробляє запобіжники та інструменти для батьків. За його словами, методика Common Sense Media могла не відобразити роботу захисту на практиці, оскільки основна частина тестування, ймовірно, почалася і завершилася до повної активації батьківського контролю.

Сігел відповів, що організація перед тестуванням підтвердила в OpenAI повний запуск функцій підліткового режиму, зокрема сповіщень щодо розладів харчової поведінки та режиму навчання. Він визнав, що компанія після тестів повідомила про можливу затримку в кілька годин для активації системи на щойно прив’язаних акаунтах. Водночас, за його словами, частина облікових записів була прив’язана значно довше, але сповіщень так і не надійшло.