Дослідження виявило непрозоре використання даних мозкової активності
Science виявив, що виробники споживчих EEG-пристроїв не завжди чітко пояснюють використання даних мозкової активності для ШІ.
Компанії, що продають споживчі пристрої для відстеження мозкової активності, не завжди чітко пояснюють, як використовують зібрані сигнали користувачів. Як TechSpot повідомляє з посиланням на журнал Science, частина виробників може спрямовувати такі дані на навчання моделей штучного інтелекту.
Одним із прикладів є компанія InteraXon, яка виробляє пов’язку Muse для моніторингу мозкових хвиль. Пристрій вартістю 475 доларів призначений для відстеження показників, пов’язаних зі сном і концентрацією. Science встановив, що компанія використовувала дані з частини пов’язок, які, за її твердженням, були анонімізовані, для тренування ШІ-моделі мозку. Користувачів не поінформували про це до того, як журнал звернувся до компанії.
Політики конфіденційності
Журнал також проаналізував політики конфіденційності десятків компаній, що продають EEG-пристрої споживачам. Приблизно третина з них не пояснювала достатньо чітко, як поводиться з даними про мозкові хвилі. У 11 компаній документи згадували лише взаємодію користувачів із сайтами, а ще чотири не мали політик конфіденційності взагалі.
Технології електроенцефалографії, або EEG, розвивалися задовго до буму штучного інтелекту. InteraXon уперше представила пристрій, що згодом став Muse, у 2010 році та впродовж наступного десятиліття просувала його як проєкт для керування пристроями за допомогою мозку й у сфері психічного здоров’я.
Можливості та обмеження EEG
InteraXon та інші компанії заявляють, що навчання моделей на десятках тисяч годин користувацьких даних здатне зробити їхні продукти кориснішими. Зокрема, ШІ-стартап Piramidal повідомляв, що його модель мозку в пілотному дослідженні торік правильно виявила дев’ять із десяти нападів судом.
Водночас деякі експерти вказують, що споживчі EEG-пристрої мають обмежений набір даних порівняно з медичними сканерами. Пов’язки Muse використовують лише кілька електродів для комфорту користувача, тоді як лабораторні EEG-шапочки можуть містити до двох десятків електродів. Дослідження 2018 року також свідчить, що наукова основа більшості EEG-продуктів не відповідає високому стандарту.
Інші фахівці побоюються, що ШІ-моделі, навчені на даних мозкової активності тисяч людей, зможуть отримувати нові відомості про їхні мисленнєві патерни.
