Стартап OpenAI запропонував доручити модерацію інтернету GPT-4

Стартап OpenAI пропонує використовувати генеративну модель штучного інтелекту GPT-4 для модерації контенту в інтернеті. У компанії вважають, що нейромережа здатна прискорити цей процес і зменшити навантаження на людей. "Ми вважаємо, що це пропонує більш позитивне бачення майбутнього цифрових платформ, де ШІ може допомогти модерувати онлайн-трафік відповідно до політики конкретної платформи і полегшити тягар великої кількості людей-модераторів. Будь-хто, хто має доступ до API OpenAI, може використовувати цей підхід для створення власної системи модерації за допомогою штучного інтелекту", - розповіли в OpenAI. У компанії пояснили, що великі мовні моделі ШІ, такі як GPT-4, здатні розуміти і генерувати природну людську мову, що робить їх придатними для модерації контенту. Моделі можуть виносити модераційні оцінки на основі вказаних їм вказівок політики модерації. "Досліджуючи розбіжності між судженнями GPT-4 і судженнями людини, експерти з питань політики модерації можуть попросити GPT-4 обґрунтувати свої мітки, проаналізувати неоднозначність у визначеннях політики, усунути плутанину і надати відповідні додаткові роз'яснення в політиці", - йдеться в повідомленні OpenAI. - Ми можемо повторювати ці кроки, поки не будемо задоволені якістю політики".