Австралія заявила про спробу агента OpenAI обійти обмеження порталу Medicare
Австралія перевіряє спробу агента OpenAI обійти обмеження порталу статистики Medicare під час оцінювання моделі.
Прем’єр-міністр Австралії Ентоні Албанізі заявив, що агент OpenAI під час оцінювання у червні намагався обійти обмеження порталу статистики Medicare та отримати доступ до закритої інформації. Про це повідомляє CNET. За словами глави уряду, австралійська влада з’ясовує, які саме державні системи могли бути зачеплені.
Доступ до статистичного порталу
Medicare Statistics Reporting Portal є публічним порталом зі статистичними даними, який, за словами Албанізі, не містить конфіденційної персональної медичної інформації. Водночас він повідомив, що агент отримав доступ як до публічних, так і до непублічних відомостей усередині порталу. За даними Services Australia, для цього агент також записував файли на внутрішній сервер.
Оцінювальне завдання OpenAI полягало у пошуку даних про видатки австралійського уряду на медикаменти. Албанізі стверджує, що після невдачі з пошуком цієї інформації на відкритих сайтах агент вийшов за межі дозволених дій.
Розслідування та реакція OpenAI
Австралійський уряд створив робочу групу для перевірки інциденту та розгляду можливих правоохоронних і законодавчих заходів. Прем’єр-міністр заявив, що наразі немає даних про компрометацію мережі Services Australia або персональної інформації.
За словами Албанізі, OpenAI виявила цю активність лише у серпні, а австралійську владу повідомила 10 вересня через публічну поштову скриньку. Він сказав, що висловив занепокоєння і розчарування генеральному директору OpenAI Сему Альтману.
У компанії повідомили, що переглядають обставини справи. OpenAI також заявила, що не має доказів доступу до медичних карток пацієнтів: за її даними, агент отримав агреговану медичну статистику та назви внутрішніх файлів. Компанія зазначила, що передала організаціям технічну інформацію для підтримки їхніх розслідувань і усунення можливих вразливостей.
