Стартап OpenAI предлагает использовать генеративную модель искусственного интеллекта GPT-4 для модерации контента в интернете. В компании считают, что нейросеть способна ускорить этот процесс и уменьшить нагрузку на людей.
«Мы считаем, что это предлагает более позитивное видение будущего цифровых платформ, где ИИ может помочь модерировать онлайн-трафик в соответствии с политикой конкретной платформы и облегчить бремя большого количества людей-модераторов. Любой, кто имеет доступ к API OpenAI, может использовать этот подход для создания собственной системы модерации с помощью искусственного интеллекта», — рассказали в OpenAI.
В компании объяснили, что большие языковые модели ИИ, такие как GPT-4, способны понимать и генерировать естественный человеческий язык, что делает их пригодными для модерации контента. Модели могут выносить модерационные оценки на основе указанных им указаний политики модерации.
«Исследуя разногласия между суждениями GPT-4 и суждениями человека, эксперты по вопросам политики модерации могут попросить GPT-4 обосновать свои метки, проанализировать неоднозначность в определениях политики, устранить путаницу и предоставить соответствующие дополнительные разъяснения в политике», — говорится в сообщении OpenAI. — Мы можем повторять эти шаги, пока не будем удовлетворены качеством политики».