Pangram представила моделі для виявлення ШІ-зображень і відео
Pangram представила моделі Image 1.0 і Image Flash 1.0 для виявлення ШІ-згенерованих зображень та відео.
Нью-йоркський стартап Pangram, відомий інструментами для виявлення текстів, написаних штучним інтелектом, представив дві моделі для розпізнавання згенерованих ШІ зображень і відео. Про запуск повідомляє The Next Web.
Моделі для зображень і відео
Pangram Image 1.0 призначена для перевірки статичних зображень, а компактніша й швидша Pangram Image Flash 1.0 аналізує відео покадрово. Модель для зображень також може створювати теплову карту, яка показує ділянки з імовірно ШІ-згенерованим вмістом — наприклад, об’єкт, доданий до справжньої фотографії.
Обидва інструменти доступні у вебзастосунку та через API компанії. Image 1.0 також інтегрували в розширення Pangram для Chrome, яке позначає ШІ-контент у соціальних мережах, на сайтах покупок і оренди. Користувачі вебзастосунку можуть завантажувати для перевірки відеофайли.
Заявлені показники точності
За твердженням Pangram, Image 1.0 виявляє 99,2% зображень, створених ШІ, та хибно позначає як синтетичні 0,27% справжніх знімків. У власному тесті компанія згенерувала копії 100 реальних фотографій за допомогою 12 провідних генераторів зображень і заявила про точність 99,96%. Водночас цей тест розробила сама Pangram, а не незалежні оцінювачі.
Для оцінки відеомоделі компанія використала академічний бенчмарк DF26, що містить 2691 відео людей, які говорять на камеру. Pangram заявляє, що Flash 1.0 досягла 98,7% результату в цьому наборі даних — на 29 відсоткових пунктів більше, ніж наступний детектор.
Робота з файлами низької роздільності
Нові моделі можуть аналізувати зображення розміром від 256 на 256 пікселів, тоді як раніше мінімальним розміром були 512 на 512 пікселів. Результати для менших зображень супроводжуються попередженням про нижчу впевненість. У Pangram також заявили, що навчали моделі працювати з компресією, розмиттям і шумом, які можуть ускладнювати виявлення синтетичного контенту.
Компанія застерігає, що ШІ-детектори можуть помилятися. Зокрема, в серпні її інструмент для тексту позначив колонку професорки Каліфорнійського університету в Берклі як частково написану ШІ, з чим авторка не погодилася.
