Engadget назвав п’ять ризикованих способів використання ChatGPT

Чатбот ChatGPT не варто використовувати для персональних юридичних і медичних порад, психологічної допомоги, передавання конфіденційних робочих даних та інформації для доступу до акаунтів. Такі рекомендації опублікувало Engadget, наголосивши, що листування з чатботом не має такого самого правового захисту, як розмови з лікарем, адвокатом або психотерапевтом.

Видання звертає увагу, що суди можуть вимагати передати журнали чатів, а введені дані можуть зберігатися, потрапляти до судових матеріалів або ставати доступними внаслідок помилок у налаштуваннях поширення. За словами генерального директора OpenAI Сема Альтмана, інформація, яку користувачі передають ChatGPT, не є привілейованою.

Юридичні та психологічні консультації

Дослідник права й науки про дані Дам’єн Шарлотен веде базу, де зафіксовано понад 2 000 судових рішень у різних країнах, у яких фігурують вигадані ШІ посилання, цитати або аргументи. Найбільше таких випадків зареєстровано у США, однак судді також виявляли їх у Великій Британії, Південній Африці, Ізраїлі, Австралії та Іспанії. У жовтні 2025 року OpenAI заборонила використовувати свої сервіси для індивідуальних консультацій, що потребують ліцензії, без залучення ліцензованого фахівця.

Окремим ризиком названо використання чатбота як психотерапевта чи консультанта. OpenAI торік оцінювала, що 0,15% щотижневих активних користувачів ChatGPT ведуть розмови з явними ознаками можливого планування самогубства. Дослідники також вказували, що чатботи можуть підсилювати наявні переконання користувача, зокрема делюзійні. Штати Іллінойс, Невада та Мен ухвалили закони, що забороняють ШІ надавати терапію або ухвалювати терапевтичні рішення.

Робочі дані, здоров’я та реквізити

Не слід завантажувати до публічних чатботів внутрішні документи компаній. Видання нагадало, що Samsung заборонила генеративні ШІ-інструменти на корпоративних пристроях у травні 2023 року після того, як інженери вставили внутрішній вихідний код у ChatGPT. Споживчі чати можуть використовуватися для навчання моделей, якщо користувач не відмовився від цього, а навіть дані з відключеним навчанням зберігаються та можуть бути предметом юридичних вимог.

Для медичних питань ChatGPT також не замінює лікаря: медична інформація, надана OpenAI, не захищена правилами HIPAA так, як дані в системі пацієнта чи під час спілкування з медиком. У матеріалі наведено випадок, коли 60-річний чоловік після відповіді чатбота замінив кухонну сіль токсичним бромідом натрію та провів три тижні в лікарні.

Нарешті, у запити не варто вводити паролі, одноразові коди, номери паспортів, банківських карток і рахунків або фотографії документів. Fast Company у липні виявило в результатах пошуку Google майже 4 500 поширених розмов ChatGPT, частина яких містила деталі про залежність, насильство та психічне здоров’я користувачів.