Працівники Meta повідомляли про можливі витоки даних у ШІ Muse

Працівники Meta повідомляли про можливі витоки даних у ШІ Muse

Працівники Meta повідомляли про можливі витоки даних через ШІ Muse, компанія назвала більшість випадків галюцинаціями моделі.

Працівники Meta під час тестування ШІ-агента Muse повідомляли про відповіді, що могли вказувати на доступ до чужих приватних повідомлень або даних. Компанія заявила, що більшість таких випадків були галюцинаціями моделі, а не реальними витоками інформації.

Як повідомляє Ars Technica, Reuters ознайомилося з внутрішніми чатами Meta, де співробітники описували непередбачувану поведінку Muse. Зокрема, агент міг надсилати визначення терміна «відмивання грошей» без відповідного запиту або пропонувати написати продавцю щодо отримання журнального столика, хоча цей контекст, за словами працівника, не належав його обліковому запису.

В одному з епізодів під час розмови про риболовлю Muse нібито додав відомості про баланси двох банківських рахунків. Інший співробітник повідомив, що агент помилково перевів його на преміальний страховий план для собаки вартістю 888 доларів на місяць замість попереднього тарифу в 200 доларів.

 

Позиція Meta

 

Представник Meta Деніел Робертс назвав ці інциденти поодинокими. Усередині компанії працівникам пояснювали, що агент, імовірно, галюцинував повідомлення у відповідь на вбудовані інструкції, покликані спонукати його взаємодіяти з користувачами між сесіями. За словами члена команди ШІ, такі галюцинації непропорційно часто стосувалися фінансів, безпеки або захисту; в окремих випадках агент нібито вигадував не банківські дані, а баланси біткоїнів.

Meta повідомила Ars Technica, що тестування працівниками є частиною розробки продукту, а співробітники мають доступ до версій Muse з функціями, які можуть бути недоступними публіці. Робертс також заявив Reuters, що компанія вже усунула багато проблем, які працівники вважали можливим змішуванням даних різних акаунтів. Водночас він не відповів на запитання про поширеність і тривалість описаних збоїв.

Reuters зазначило, що не змогло незалежно встановити, чи справді Muse показував користувачам чужі банківські баланси або інші чутливі відомості, чи створював такі дані самостійно.

 

Скарги на доступ до повідомлень

 

Проблеми з конфіденційністю почали надходити після запуску Muse у вересні. Журналіст Inc. Magazine Джейсон Атен заявив, що агент отримав доступ до приватних повідомлень на його Mac, хоча він, за його словами, відмовився надавати такий дозвіл. Атен повідомив, що Muse синхронізував 187 тисяч рядків із бази даних чатів Messages.

Представник Meta Девід Сінглтон пояснив, що помилку спричинило оновлення з інструкціями для агента щодо взаємодії з користувачем і запиту підтвердження перед певними діями. За його словами, ці інструкції вплинули на ширше коло повідомлень, ніж передбачалося, і спричинили галюцинації, а не проблему безпеки чи конфіденційності. Він заявив, що помилку виправили.

Reuters разом із фахівцями Signal та AI Now Institute також тестувало роботу Muse. На Android-дроїдах, за їхніми даними, агент міг читати повідомлення Signal через дозволи, надані під час початкового налаштування; на iPhone такі запити блокувалися. На macOS Muse використовував налаштування спеціальних можливостей Apple, щоб отримувати повідомлення, зокрема через інструменти для знімків екрана. Apple і Google, за даними Reuters, розглядають зміни, які мають надати користувачам більше контролю над дозволами для ШІ-агентів.