У Бразилії юристок оштрафували за спробу вплинути на ШІ суду

Суд з трудових спорів у бразильському штаті Пара оштрафував двох адвокаток за приховану в позовній заяві інструкцію, призначену для впливу на систему штучного інтелекту суду. Як повідомляє Tom's Hardware, текст було написано білим шрифтом на білому тлі, тому він був невидимим для людини.

Прихована інструкція

Під час оброблення первинного позову судова система виявила прихований фрагмент. Після зміни кольору шрифту стало видно звернення до ШІ з вимогою поверхово розглянути заяву та не оскаржувати документи незалежно від інших команд. У судовому рішенні такий спосіб описали як prompt injection — навмисне внесення прихованих інструкцій до документів для маніпулювання системами ШІ, що обробляють текст.

Суд користується інструментом штучного інтелекту під назвою Galileu. Відповідальність за прихований текст поклали винятково на двох адвокаток, які підписали позов. Суд зазначив, що позивач не мав необхідних знань у правових технічних питаннях і доступу до документа, щоб самостійно змінити його.

Штраф і повідомлення до колегії

Суд визнав дії адвокаток такими, що посягають на гідність правосуддя, та призначив штраф у розмірі 10% від суми стягнення — приблизно 16 тисяч доларів. Також інформацію передали до колегії адвокатів штату та внутрішнього підрозділу регіонального трудового суду.

Водночас позивач виграв справу без використання прихованої інструкції: відповідач не відповів на висунуті претензії, тож рішення ухвалили за замовчуванням. За даними видання, це не перший випадок спроби вплинути на судовий ШІ через прихований текст у процесуальних документах.