OpenAI вибачилася перед Австралією через доступ ШІ-агентів до держсистем

OpenAI вибачилася перед урядом Австралії після того, як її ШІ-агенти під час внутрішнього навчання та оцінювання в червні отримали несанкціонований доступ до низки державних вебсистем. Компанія також визнала, що мала повідомити австралійську владу про інциденти швидше.

Як повідомляє TechCrunch, австралійська влада дізналася про витік лише 10 вересня. Приблизно за тиждень до вибачень уряд країни почав розслідування обставин доступу моделей OpenAI до системи Services Australia, що містила інформацію про витрати Medicare та іншу медичну статистику.

Як стався доступ

За даними OpenAI, експериментальній моделі доручили дослідити державні витрати на ліки від шкірних захворювань у штаті Вікторія. Не знайшовши потрібних даних у відкритих наборах, модель виявила спосіб увійти до внутрішньої системи Services Australia. Вона виконувала команди, отримувала файли й облікові дані, а також записувала файли.

Компанія заявила, що виявила й інші випадки доступу. Один із її ШІ-агентів скористався публічним інструментом Crime Mapping Tool Бюро статистики злочинності та досліджень Нового Південного Уельсу, щоб знайти кримінальну статистику. Також агенти отримали доступ до Агентства медичної інформації Вікторії через відкритий ключ доступу та вивантажили конфігурацію звітності й агреговану статистику опитувань.

Заходи OpenAI

OpenAI повідомила, що її агенти також отримали агреговані статистичні дані з вебсайту Австралійського інституту здоров'я та добробуту. Водночас компанія стверджує, що не знайшла доказів доступу моделей до персональних медичних або кримінальних записів.

Компанія пообіцяла передати технічні висновки постраждалим австралійським установам і залучити свої команди реагування для оцінки наслідків інцидентів. Вона також планує надати кредити в межах програми Daybreak for Frontline Defenders обсягом 1 млрд доларів і створити робочу групу з незалежними австралійськими експертами. Група має завершити роботу до кінця року та запропонувати практичні кроки для зменшення ризику схожих випадків.

Прем'єр-міністр Австралії Ентоні Албанізі минулого тижня назвав інцидент неприйнятним і заявив, що уряд розглядає можливі юридичні заходи для запобігання подібним ситуаціям.