Muse від Meta за замовчуванням використовує взаємодії для навчання ШІ

Застосунок персонального ШІ-агента Muse від Meta за замовчуванням дозволяє використовувати взаємодії користувачів для навчання моделей штучного інтелекту. Відмовитися від цього можна в налаштуваннях у розділі Data controls, вимкнувши перемикач Help improve our AI models, повідомляє Wired.

Muse пропонує виконувати повсякденні завдання: шукати вигідні пропозиції, бронювати місця та керувати поштовою скринькою. Застосунок також може підключатися до джерел даних, зокрема електронної пошти й банківських рахунків. За даними Sensor Tower, упродовж першого тижня після запуску Muse завантажили понад 900 тисяч разів.

Агент доступний також через WhatsApp. Для виконання запитів він використовує віртуальну машину, яка самостійно переглядає сайти, проводить пошук і натискає елементи вебсторінок. Під час тестування Muse зміг знайти товари на Facebook Marketplace та додати сніданок із місцевої пекарні до кошика, однак для завершення оплати попросив додати банківську картку через Stripe.

Пам’ять і підключення даних

Застосунок зберігає відомості про взаємодії та вподобання в документі Memory. Користувачі можуть вручну редагувати ці дані або попросити агента стерти їх, але окремого перемикача для повного вимкнення функції пам’яті Meta наразі не пропонує.

У вкладці ідей Muse заохочує підключати додаткову інформацію. Серед пропозицій — пов’язати трекер заощаджень із реальними балансами банківських рахунків, дозволити агенту сканувати всю пошту, фотографувати важливі документи для заповнення форм, а також повідомити дати завершення дії паспорта та водійського посвідчення.

Позиція Meta та застереження експертів

Meta заявляє, що дані для навчання ШІ «очищують» від ідентифікаційної інформації, хоча механізм такого процесу не деталізується. Компанія також планує пізніше цього року випустити конфіденційні версії віртуальної машини, які, за її заявою, криптографічно не дозволятимуть їй отримувати доступ до даних усередині системи.

Директор із відкритого доступу Electronic Frontier Foundation Рорі Мір застеріг, що спілкування з ШІ означає передавання інформації компанії, яка його розміщує. Старша юристка Electronic Privacy Information Center Каллі Шредер назвала автоматичне підключення до навчання моделей тривожним сигналом. У Meta водночас вважають, що такий підхід допомагає поліпшувати персонального агента.

У блозі про безпеку Muse також зазначено: дії агента, наприклад бронювання вечері чи вибір товару на Facebook Marketplace, можуть опосередковано впливати на рекламу, яку користувач бачить в Instagram, хоча дані Muse безпосередньо рекламодавцям не передаються.