Стартап OpenAI пропонує використовувати генеративну модель штучного інтелекту GPT-4 для модерації контенту в інтернеті. У компанії вважають, що нейромережа здатна прискорити цей процес і зменшити навантаження на людей.
“Ми вважаємо, що це пропонує більш позитивне бачення майбутнього цифрових платформ, де ШІ може допомогти модерувати онлайн-трафік відповідно до політики конкретної платформи і полегшити тягар великої кількості людей-модераторів. Будь-хто, хто має доступ до API OpenAI, може використовувати цей підхід для створення власної системи модерації за допомогою штучного інтелекту”, – розповіли в OpenAI.
У компанії пояснили, що великі мовні моделі ШІ, такі як GPT-4, здатні розуміти і генерувати природну людську мову, що робить їх придатними для модерації контенту. Моделі можуть виносити модераційні оцінки на основі вказаних їм вказівок політики модерації.
“Досліджуючи розбіжності між судженнями GPT-4 і судженнями людини, експерти з питань політики модерації можуть попросити GPT-4 обґрунтувати свої мітки, проаналізувати неоднозначність у визначеннях політики, усунути плутанину і надати відповідні додаткові роз’яснення в політиці”, – йдеться в повідомленні OpenAI. – Ми можемо повторювати ці кроки, поки не будемо задоволені якістю політики”.