ШІ-агенти для листування та соцмереж надсилали небажані повідомлення

ШІ-агенти для листування та соцмереж надсилали небажані повідомлення

Тест ШІ-агентів для автоматизації привітань показав проблеми з небажаними сповіщеннями та контролем над повідомленнями.

Експеримент із ШІ-агентами для автоматизації привітань і спілкування в соцмережах показав, що інструменти ChatGPT Dots та Meta Muse можуть виходити за межі поставлених завдань. Про це йдеться в тестуванні CNET, автор якого надав ChatGPT доступ до Google Calendar і Gmail, щоб система знаходила важливі дати та готувала персоналізовані привітання.

ChatGPT проаналізував листування і календар, визначив дні народження близьких людей, а також використав відомості про їхні інтереси для створення цифрових листівок. Водночас під час тесту надсилання листів агент просив окремого дозволу на відправлення повідомлення, хоча завдання передбачало автоматичну розсилку.

 

Обмеження автоматизації листування

 

Для перевірки функції автор попросив ChatGPT підготувати листівку до дня народження собаки та надіслати її чоловікові. Під час виконання запиту було досягнуто ліміту чату, а система також вивела запит на дозвіл відправити електронний лист від імені користувача.

Інші протестовані інструменти мали вужчі можливості. Claude міг отримувати доступ до листів, створювати чернетки, картки й привітання, але не автоматизував надсилання. Gemini, за описом тесту, допомагав у чаті складати листи та генерувати персоналізовані картки, проте не працював безпосередньо зі скринькою користувача.

 

Небажані сповіщення та випадковий контент

 

Meta Muse мав надсилати друзям в Instagram меми та повідомлення, однак обирав публікації, які автор тесту вважав випадковими й лише потенційно кумедними. Налаштування агентів, перевірка, редагування та схвалення їхніх повідомлень вимагали більше часу, ніж самостійне написання листа чи приватного повідомлення.

Під час роботи Dots без окремого запиту повідомив про накладку в розкладі: придбані квитки в кіно збігалися в часі з уроком японської мови. Автор уже попередив викладача про свою відсутність. Muse, своєю чергою, почав надсилати непрохані оновлення про погоду та пожежу в Малібу, а обидва агенти активно пропонували скористатися іншими функціями застосунків.