Дослідник Goodfire заявив про простіше пояснення роботи великих мовних моделей
Дослідник Goodfire заявив, що великі мовні моделі можуть бути простішими для контролю, а ШІ-агенти змінюють роботу інтернету.
Дослідник стартапу Goodfire Нік Каммарата заявив, що великі мовні моделі можуть бути значно простішими для розуміння, моніторингу та контролю, ніж вважали раніше. Про це він написав у блозі обсягом 26 тисяч слів, який спричинив активні обговорення в індустрії штучного інтелекту, повідомляє MIT Technology Review.
Якщо це твердження підтвердиться, воно може мати велике значення для підходів до нагляду за великими мовними моделями. Водночас не всі фахівці поділяють оптимізм Каммарати: частина скептиків не готова вважати його висновки остаточно переконливими.
Заява про нейронні мережі
Каммарата розпочав свій допис словами про «хороші новини щодо природи нейронних мереж». У розмові з виданням наступного дня після публікації він пояснював, у чому, на його думку, помиляються дослідники, що саме демонструє його робота та чому навколо неї зберігаються сумніви.
MIT Technology Review зазначає, що допис дослідника викликав як широкі припущення, так і обережне схвалення. Центральною є теза про можливість краще інтерпретувати внутрішню роботу великих мовних моделей, а отже — ефективніше стежити за ними та обмежувати їхню поведінку.
Інтернет і персональні агенти
Окремо видання звернуло увагу на поширення персональних ШІ-агентів, які виконують завдання в інтернеті, зокрема бронюють авіаквитки та номери в готелях. Їхня поява ускладнює звичний поділ користувачів мережі на людей і ботів.
Видання наводить приклад Meta Muse, який за перший місяць завантажили 5 мільйонів разів. Взаємодія агентів із сайтами, створеними переважно для людей, уже відбувається проблемно: чимало ресурсів блокують таких агентів. За оцінкою MIT Technology Review, зі зростанням попиту інтернет можуть почати перебудовувати насамперед під автоматизованих помічників, а не під звичайних відвідувачів.
