Професор Карі Фремлінг, один із піонерів у галузі “Пояснюваного штучного інтелекту”, розробив передову модель, що пояснює, як і чому працює штучний інтелект (ШІ). Ця модель відкриває “чорну скриньку” штучного інтелекту і доступна для практично всіх систем ШІ.
Штучний інтелект і машинне навчання використовуються в урядах, охороні здоров’я, бізнесі та промисловості. Метод глибокого навчання (deep learning) дає змогу діагностувати пацієнтів в охороні здоров’я набагато швидше, ніж людина. Але як система штучного інтелекту приймає рішення і чому саме так? Ці питання можуть бути складними для розуміння для широкої публіки.
Фремлінг розробив метод CIU (Контекстуальний метод визначення важливості та корисності) і вважає його ефективнішим порівняно з іншими моделями. Він дає змогу вивчити та пояснити вплив зміни вхідних даних на результати штучного інтелекту.
Цей метод не створює “замінну модель”, а аналізує роботу нейронної мережі та дає змогу створювати зрозумілі пояснення для рішень, ухвалених системою штучного інтелекту.