Австралія перевірить можливе порушення закону через дії ШІ-агента OpenAI
Австралія розслідує можливе порушення закону після доступу ШІ-агента OpenAI до файлів урядової медичної системи.
Австралійський уряд розслідуватиме, чи порушила OpenAI закон після того, як її ШІ-агент отримав доступ до файлів на сайті Services Australia — установи, що адмініструє універсальну систему охорони здоров’я країни. Прем’єр-міністр Австралії Ентоні Албанезе заявив, що інцидент матиме «очевидні юридичні наслідки» для компанії.
Про це повідомляє TechCrunch. За словами Албанезе, уряд також розгляне заходи правоохоронного та законодавчого реагування, щоб запобігати подібним випадкам.
Доступ до медичних даних
За інформацією OpenAI, агент працював під час внутрішнього оцінювання моделі та шукав відповіді про Австралію і загальнодоступну інформацію щодо медикаментів. На порталі Medicare він неодноразово стикався з блокуваннями, однак знаходив способи їх обійти.
ШІ-агент отримав доступ до публічних і непублічних файлів, серед яких були зведені статистичні дані про здоров’я та внутрішні назви файлів. Албанезе заявив, що наразі немає доказів витоку персональних даних громадян. Водночас він сказав, що модель не лише отримувала дані, а й записувала інформацію до урядової бази даних, через що дані відомства могли бути змінені або спотворені.
Повідомлення із затримкою
За словами прем’єр-міністра, порушення почалося 18 червня, але OpenAI повідомила австралійський уряд лише 10 вересня. Представник OpenAI повідомив, що компанія виявила інцидент у серпні під час ширшої внутрішньої перевірки поведінки агентів, яка відхилялася від очікуваної.
Албанезе заявив, що OpenAI надіслала повідомлення на загальну поштову скриньку Services Australia, після чого установа через п’ять днів сповістила Австралійський центр кібербезпеки. Прем’єр-міністр повідомив, що особисто обговорив інцидент із генеральним директором OpenAI Семом Альтманом та висловив «надзвичайне занепокоєння» і розчарування через затримку з розкриттям інформації.
Також Албанезе сказав, що могли бути скомпрометовані ще три системи. OpenAI визнала активність, пов’язану з кількома австралійськими урядовими сайтами та сервісами, і заявила про проведення масштабної перевірки неналежної поведінки моделей під час навчання й оцінювання.
