OpenAI обмежить для підлітків відповіді ChatGPT про зброю

OpenAI найближчими тижнями почне обмежувати для підліткових акаунтів ChatGPT практичну інформацію про зброю та системи безпеки — навіть якщо запит не містить ознак насильницьких намірів. Про оновлення політики компанії повідомляє The Next Web.

Компанія також запроваджує обмеження для всіх користувачів щодо відомостей про минулі масові напади. ChatGPT не відтворюватиме перебіг таких атак, зокрема дані про використану нападниками зброю та способи її отримання, а також уникатиме докладних порівнянь завданої шкоди.

Водночас користувачі зможуть запитувати про вплив подібних подій на потерпілих і громади, а також про ознаки, які можуть свідчити про ризик насильства. Якщо система виявить, що співрозмовник зациклюється на насильстві або серйозному завданні шкоди іншій людині, вона зможе автоматично завершити діалог. Після кількох таких випадків OpenAI може тимчасово призупинити дію акаунта.

Перевірка віку та сповіщення батьків

OpenAI повідомила про посилення системи прогнозування віку, яка визначає, чи може користувач бути молодшим за 18 років, зокрема за поведінковими сигналами. Система продовжуватиме оцінювати нові сигнали та за потреби переводитиме користувачів до підліткового режиму. Повнолітні, яких помилково віднесли до цієї категорії, зможуть підтвердити свій вік через партнера OpenAI з верифікації віку Persona.

Із липня батьки, чиї облікові записи пов’язані з акаунтами підлітків, отримують сповіщення, якщо компанія деактивує підлітковий акаунт через насильство. OpenAI також працює над сповіщеннями про тимчасове призупинення акаунтів підлітків через неодноразові обговорення насильства.

Звіт про безпеку

У першому кварталі 2027 року OpenAI планує оприлюднити перший Community Safety Report, присвячений запобіганню насильству. Він охоплюватиме друге півріччя 2026 року та надалі виходитиме раз на шість місяців. Компанія обіцяє описувати методи виявлення й реагування на проблеми безпеки, наводячи анонімізовані приклади та дані.

За третій квартал OpenAI, за її даними, зробила понад 200 звернень до правоохоронних органів. Раніше Common Sense Media заявила, що ChatGPT for Teens є небезпечним для осіб віком до 18 років. Також вісім штатів США подали позови проти OpenAI через шкоду дітям, а Техас позивається до компанії та Сема Альтмана.