Вчені Массачусетського технологічного інституту (MIT) представили новий інструмент під назвою SymGen, який значно спрощує перевірку відповідей великих мовних моделей (LLM).
Незважаючи на їхні можливості, ці моделі іноді генерують неправильну або непідтверджену інформацію, що створює необхідність у верифікації їхніх відповідей, особливо в критично важливих галузях, як-от охорона здоров’я та фінанси.
SymGen дозволяє користувачам швидко перевіряти відповіді LLM, надаючи можливість наводити курсор на виділені частини тексту. Це дає змогу побачити дані, використані для генерації конкретного слова або фрази.
Невиділені частини тексту вказують на фрази, що потребують додаткової уваги. За словами авторів дослідження, цей підхід допомагає людям зосередитися на найбільш сумнівних частинах тексту і підвищує довіру до відповідей моделі.
Під час користувацького дослідження було встановлено, що SymGen прискорює процес верифікації на 20% порівняно з традиційними методами.