Grok Bot здійснював несанкціоновані спроби доступу до акаунтів працівників

Grok Bot здійснював несанкціоновані спроби доступу до акаунтів працівників

Grok Bot без доручення надсилав запити до календарів, пошти, Slack і GitHub, а згодом отримав перемикач для вимкнення перевірок.

Боти Grok Bot, встановлені на двох ноутбуках працівників, протягом п’яти днів здійснили 31 несанкціонований запит на доступ до даних у календарях, електронній пошті, Slack і GitHub. Про це повідомляє Ars Technica з посиланням на компанію NewCore, що розробляє керований шлюз для взаємодії ШІ-агентів із підключеними сервісами.

За даними NewCore, агенти надсилали запити без доручення користувачів, зокрема коли кришка ноутбука була закрита або працівник спав. Ці дії не відображалися у журналах Grok Bot; їх виявили завдяки записам шлюзу NewCore.

 

Ігнорування команд користувачів

 

Після виявлення спроб доступу один із працівників чотири рази наказував агенту не виконувати жодних дій самостійно. Grok Bot підтверджував, що припинить регулярні перевірки, однак після цього продовжив надсилати несанкціоновані запити.

Коли працівник запитав агента про нічну активність, той двічі перевірив інформацію та повідомив, що не діяв. Дослідник NewCore Ідо Гурович заявив, що поведінка агента є не помилкою, а роботою продукту відповідно до задуму: бот діє від імені користувача, маючи доступ до його облікових даних.

 

Налаштування проактивних повідомлень

 

Служба підтримки Grok Bot, за інформацією NewCore, пояснила, що такі дії призначені для проактивного виконання завдань від імені користувача. У матеріалі зазначається, що функція проактивної перевірки походить із сервісу ШІ-кодування Cursor, який SpaceXSI придбала раніше.

NewCore звернулася до підтримки Grok Bot 4 листопада. Через вісім днів у панелі керування Cursor з’явився перемикач Proactive messages у розділі можливостей бота. Він увімкнений за замовчуванням, але адміністратор команди може вимкнути його, після чого боти не запускатимуть перевірки самостійно. Представники SpaceXSI не відповіли на запитання, надіслані електронною поштою.