Модель GPT-6 Astra навчилася аналізувати й редагувати інші нейромережі
Дослідники MIT показали, що GPT-6 Astra може аналізувати внутрішні параметри інших нейромереж і редагувати їх.
Дослідники Массачусетського технологічного інституту продемонстрували, що модель штучного інтелекту GPT-6 Astra може інтерпретувати внутрішні значення інших нейромереж, передбачати функції окремих частин системи та редагувати їх. Зокрема, під час експериментів модель змогла поліпшити математичні здібності інших моделей.
Про результати роботи, викладені в препринті від 2 листопада, повідомляє Nature. GPT-6 Astra розробила компанія OpenAI із Сан-Франциско.
Робота з внутрішніми параметрами
Сучасні системи штучного інтелекту базуються на великих нейронних мережах, у яких шари обчислювальних одиниць пов'язані мільярдами ваг — числових значень, що відображають силу внутрішніх зв'язків. Під час навчання ці значення поступово коригують, щоб модель краще виконувала завдання, наприклад передбачала структуру білка або наступне слово в реченні.
Через складний зв'язок між внутрішніми характеристиками моделі та її відповідями такі системи часто називають чорними скриньками. Фахівці з інтерпретованості ШІ вже проводять експерименти, щоб визначити, які ваги активуються за певних умов. Раніше науковці також створювали спеціалізовані моделі, здатні навчатися редагувати інші моделі.
Можливості та обмеження
Співавтор дослідження, фахівець із машинного навчання MIT Рікія Такехі, зазначив, що передові моделі ШІ демонструють ранні ознаки здатності ставитися до нейромереж як до файлів, які можна читати, аналізувати та змінювати. Водночас результати не означають, що Astra здатна пояснити або повністю зрозуміти принцип роботи конкретної нейромережі.
Дослідник безпеки ШІ з Оксфордського університету Фазл Барез вважає, що робота показує можливість автоматизувати частину методів інтерпретованості. Він застеріг, що припущення про зв'язок кращого розуміння моделей із безпечнішими системами значною мірою ще не перевірене. Комп'ютерна науковиця та біоінформатикиня Гарвардського університету Марінка Житнік зазначила, що подальший розвиток здатності перепрограмовувати моделі міг би допомагати виявляти помилки до тестування систем у реальному середовищі.
