Дослідник отримав доступ до 13 млн розмов роботів Eiliko
Дослідник отримав доступ до 13 млн розмов роботів Eiliko, включно з тисячами профілів дітей, і зміг змінювати відповіді пристрою.
Дослідник із кібербезпеки Семмі Аздуфал отримав доступ до 13 мільйонів розмов користувачів, які, за даними розслідування, охоплювали активний парк із близько 68 тисяч роботів-компаньйонів Eiliko виробника Energize Lab. Як повідомляє TechSpot з посиланням на The Verge, серед доступних записів були понад 31 тисяча профілів дітей, а найбільша частка даних припадала на США.
Дослідник також зміг дистанційно змінити пам’ять одного пристрою та налаштування відповідей його мовної моделі. Під час тесту робот звертався до журналістки іншим ім’ям, повідомляв неправдиві відомості про її батьків і наполягав на хибному твердженні про пласку Землю. За словами Аздуфала, аналогічні зміни потенційно можна було застосувати до всього парку пристроїв одночасно.
Профілі та записи розмов
Сервіс аналізував діалоги для створення докладних профілів користувачів. У них фіксували імена, вік, дати народження, професії, стосунки та риси характеру. Ці відомості, за даними дослідження, зберігалися разом з електронними адресами, IP-адресами та базою розмов, доступною для пошуку.
Аздуфал продемонстрував пошук за словом «самогубство», який показав уривки діалогів користувачів про смерть. Журналіст The Verge окремо перевірив доступність нової розмови: після 10-хвилинного спілкування з придбаним у серпні Eiliko дослідник за кілька хвилин отримав повну стенограму діалогу. Під час бесіди робот запевнив, що секрети користувача будуть у безпеці.
Фото, аудіо та реакція компанії
Розслідування також виявило фотографії дітей і короткі аудіозаписи, що були доступні за публічними вебадресами. Один із більших пристроїв Eiliko має камеру, а частина зображень не була зашифрована. Серед аудіофайлів були голосові команди для роботів і довший запис із плачем немовляти на тлі.
Зберігання цих файлів, як зазначається, суперечило політиці конфіденційності Energize Lab: у ній сказано, що записи шифруються, передаються партнерам для обробки та видаляються одразу після її завершення. The Verge понад місяць намагався зв’язатися з компанією через 10 електронних адрес, LinkedIn і працівників компанії. Менеджерка із закордонних продажів повідомила, що передала звернення технічній команді, однак змістовних відповідей про відкриті дані та можливість змінювати відповіді роботів компанія не надала.
