NordLayer попередила про ризики використання особистого ChatGPT на роботі
NordLayer описала ризики передання робочих даних через особисті акаунти ChatGPT і способи блокування таких запитів.
Працівники, які користуються особистими обліковими записами ChatGPT на робочих пристроях, можуть передавати сервісу конфіденційні дані компанії, навіть якщо роботодавець надає схвалений корпоративний доступ до ChatGPT Enterprise. Про це йдеться у матеріалі BleepingComputer, підготовленому віцепрезидентом NordLayer з досліджень і розробки продуктів Вакарісом Норейкою.
У NordLayer описали сценарій, за якого засоби безпеки фіксують використання персонального ChatGPT на керованому ноутбуці, але не показують, який саме текст користувач надіслав у запиті. Серед можливих даних автор називає публічний опис вакансії, звернення клієнта з контактами й внутрішніми відомостями про обліковий запис або чутливі документи.
Перевірка інциденту
За відсутності контролю на рівні запитів ІТ-фахівцям доводиться встановлювати зв’язок між корпоративною ідентичністю працівника та особистим акаунтом, використаним для входу в ChatGPT. Щоб з’ясувати, які відомості могли потрапити до сервісу, працівника можуть попросити показати конкретне робоче листування в чаті за відповідний час.
Якщо буде підтверджено, що до особистнього акаунта надійшли дані клієнта, компанія має зберегти необхідні докази та залучити відповідальних за реагування на інциденти, приватність або дані. У разі розкриття облікових даних їх слід анулювати чи змінити, а передання клієнтських записів може вимагати оцінки з погляду приватності.
Блокування запитів до відправлення
NordLayer просуває власний інструмент AI Scout, який, за твердженням компанії, перевіряє запит у браузері до його надсилання. Налаштований детектор може знайти, наприклад, формат номера облікового запису клієнта та заблокувати відправлення, не показуючи текст запиту команді безпеки.
Інструмент передбачає три варіанти реакції: попередження, яке дозволяє користувачеві відредагувати текст або продовжити відправлення; редагування, що вилучає знайдене значення; і блокування запиту. Автор також наголошує, що сам факт використання особистого акаунта не доводить, ніби запит був використаний для навчання моделі, став публічним або був доступний іншому користувачу.
Після такого випадку NordLayer радить відновити працівникові доступ до корпоративного робочого простору, перевірити дозволеність конкретного завдання та категорії даних, а також зафіксувати акаунт, пристрій, зміст підтвердженого інциденту й відповідальних за подальші дії.
