ШІ може створювати правдоподібні фальшиві наукові статті
IEEE Spectrum описало, як ШІ створює правдоподібні фальшиві наукові статті та чому видавцям дедалі складніше їх виявляти.
Генеративний штучний інтелект здатен створювати наукові статті, що виглядають правдоподібно, практично одним натисканням кнопки, а академічні видавці намагаються виявляти такі тексти за допомогою рецензування та програм перевірки доброчесності. Про це пише IEEE Spectrum.
Видання описало експеримент позаштатного журналіста й доктора прикладної математики Бенджаміна Скуза, який намагався подати згенеровані ШІ роботи через захисні механізми IEEE. За словами редакторки тематичних матеріалів і ШІ Елізи Стрікленд, для одного з експериментів він фактично запустив створення досліду та написання статті, не редагуючи результат перед поданням.
Перевірки проти згенерованих текстів
За результатами експерименту, поєднання людського рецензування IEEE і програм для перевірки дослідницької доброчесності наразі дозволяє протидіяти матеріалам, створеним за допомогою безкоштовних інструментів. Водночас видання зазначає, що потужніші великі мовні моделі вже не припускаються тих самих очевидних помилок, що й безкоштовні версії.
Це перетворює перевірку на своєрідне змагання між дедалі переконливішими згенерованими матеріалами та системами, призначеними для їх виявлення. Автор публікації наголошує, що навіть корисні відповіді сучасних чатботів потребують перевірки, адже моделі можуть упевнено надавати неправдиву, але правдоподібну інформацію.
Проблема також торкнулася Вікіпедії
Подібну проблему має Вікіпедія. Еліза Стрікленд поспілкувалася з Еллією Леблеу — співзасновницею WikiProject AI Cleanup, волонтерської ініціативи з виявлення та вилучення створених ШІ матеріалів з енциклопедії. Команда проєкту працює з меншими ресурсами й меншою кількістю інструментів, ніж комерційні видавці.
Стрікленд зазначила, що Вікіпедія прагне зберегти статус сховища інформації, створеної людьми. На думку автора IEEE Spectrum, поширення недостовірних згенерованих матеріалів може послабити довіру до наукового доробку та інституцій, які перевіряють і систематизують знання.