OpenAI усунула обхід захисного режиму ChatGPT через HTML-вікна

OpenAI виправила в ChatGPT уразливість, що дозволяла обійти додатковий захисний режим Lockdown Mode за допомогою HTML-спливних вікон. Дослідники Check Point Research виявили, що цей спосіб потенційно міг використовуватися для отримання чутливих даних, фішингу або доставки шкідливого програмного забезпечення. Про це повідомляє TechRadar.

Lockdown Mode є додатковим налаштуванням безпеки для користувачів, які працюють із чутливою інформацією. У цьому режимі ChatGPT обмежує підключення до зовнішніх сервісів, а також роботу окремих функцій, зокрема вебперегляду, Deep Research, Agent Mode та завантаження файлів. Такі обмеження мають зменшувати ризики атак із впровадженням інструкцій у запити або контент, який аналізує ШІ.

Як працював обхід

Дослідники зосередилися на попередньому перегляді HTML у блоках коду ChatGPT. Такий вміст запускався в ізольованому середовищі, яке не давало йому прямого доступу до cookies або локального сховища ChatGPT і вимагало дозволу користувача для взаємодії із зовнішніми ресурсами.

Водночас, за висновками Check Point Research, обробка спливних вікон мала інший механізм. HTML-перегляд використовував вкладені ізольовані фрейми: ChatGPT перехоплював прямі спроби відкрити нове вікно, але параметри ізоляції все ще дозволяли створювати popup-вікна та виводити їх за межі пісочниці. Створивши окремий вкладений фрейм, дослідники отримали доступ до незмінених функцій відкриття вікон і обійшли обмеження початкового HTML-перегляду.

Оновлення захисту

Контент, відкритий у такий спосіб, більше не підпадав під правила ізольованого середовища, що фактично дозволяло обійти Lockdown Mode. За оцінкою дослідників, атака могла починатися зі шкідливого запиту, шкідливого GPT або спільного чату. Вони також зазначили, що зловмисники могли використати контрольований вміст спливного вікна для фішингу в середовищі, якому користувачі зазвичай довіряють.

Check Point Research передала дані OpenAI, після чого компанія запровадила додаткові запобіжники, які вимкнули цей спосіб обходу. Дослідники закликали організації контролювати використання ШІ та враховувати ризики не лише самої моделі, а й застосунків, середовищ виконання, конекторів та інших компонентів навколо неї.