ШІ створює правдоподібні псевдонаукові статті швидше за системи перевірки
IEEE Spectrum описало, як ШІ створює правдоподібні псевдонаукові статті та ускладнює перевірку досліджень і контенту Вікіпедії.
Генеративний штучний інтелект здатен майже без участі людини створювати тексти, схожі на наукові статті, що посилює навантаження на рецензування та системи контролю доброчесності досліджень. Про це йдеться у матеріалі IEEE Spectrum, присвяченому спробі перевірити, чи зможуть механізми IEEE виявити згенеровані ШІ роботи.
Фрилансер і доктор прикладної математики Бенджамін Скуз створював такі матеріали в межах експерименту, описаного у статті «I Used AI to Fake a Scientific Paper». За словами редакторки тематичних матеріалів і ШІ Елізи Стрікленд, один з експериментів фактично зводився до запуску команд для проведення досліду та написання статті, після чого текст подали до видавничого процесу без додаткового редагування.
Перевірка проти генеративних моделей
Скуз дійшов висновку, що поєднання людської експертизи та програм для перевірки дослідницької доброчесності в IEEE наразі дозволяє протидіяти матеріалам, створеним за допомогою доступних безплатних інструментів. Водночас видання зазначає, що новіші й потужніші великі мовні моделі вже не припускаються тих самих очевидних помилок, що й простіші версії.
Це перетворює перевірку на постійне змагання між дедалі переконливішими згенерованими текстами та засобами їх виявлення. Автор матеріалу наголошує: правдоподібність тексту не є підтвердженням достовірності викладених у ньому наукових результатів.
Проблема для Вікіпедії
З аналогічним викликом стикається і Вікіпедія. Еліза Стрікленд поговорила з Еллією Леблеу, співзасновницею WikiProject AI Cleanup — волонтерської ініціативи, що виявляє та вилучає створений ШІ контент із платформи. За її оцінкою, команда має менше людей та інструментів, ніж комерційні наукові видавці.
У матеріалі зазначається, що поширення недостовірних, але переконливо написаних текстів може послаблювати довіру до наукового запису та інституцій, які перевіряють і впорядковують знання. Стрікленд також поставила питання, чи не опиняться люди поза процесом, якщо ШІ створюватиме тексти насамперед для обробки іншими системами ШІ.
