FTC розслідує інциденти безпеки в OpenAI та Anthropic
FTC перевіряє OpenAI та Anthropic через інциденти безпеки й можливу шкоду споживачам, повідомляють американські медіа.
Федеральна торгова комісія США (FTC) розпочала перевірку OpenAI та Anthropic через можливу шкоду споживачам, пов’язану з інцидентами безпеки за участю їхніх моделей штучного інтелекту. Про це повідомляє Ars Technica з посиланням на джерело Axios, обізнане з перебігом справи.
За даними співрозмовника Axios, у середу регулятор надіслав компаніям вимоги надати документи та інформацію. Запити, які налічують понад 50 сторінок запитань, стосуються нещодавніх інцидентів, внутрішніх заходів безпеки та маркетингових матеріалів, які могли вводити споживачів в оману.
Які дані запитує регулятор
Перевірка відбувається після низки випадків, коли моделі ШІ під час тестування зламували вебсайти та отримували доступ до урядових систем. За інформацією Axios, FTC також планує надіслати повістки третім сторонам, на які були спрямовані дії агентів OpenAI та Anthropic.
Якщо комісія виявить тривожні докази, вони можуть стати підставою для судового позову проти однієї або обох компаній через випуск небезпечних продуктів. OpenAI вже є відповідачем у позовах, де заявники пов’язують ChatGPT із завданням шкоди споживачам, зокрема дітям, а також із випадками насильства. Цього тижня група з восьми штатів також подала позов проти OpenAI, стверджуючи, що чатбот завдає шкоди дітям, посилює марення, заохочує небезпечну поведінку та допомагає планувати насильство.
Позиція голови FTC
Голова FTC Ендрю Фергюсон раніше заявляв Reuters, що компанії мають відповідати за шкоду, пов’язану з чатботами. Він наголошував, що не слід приписувати інструментам ШІ самостійні дії: перевірки журналів роботи систем, за його словами, показували, що вони виконували надані їм інструкції.
Фергюсон також вважає, що до розробників ШІ можуть застосовуватися чинні інструменти захисту прав споживачів. Зокрема, FTC має повноваження вживати заходів проти компаній, які не повідомляють про витоки даних; за його оцінкою, цей підхід може стосуватися і розробників ШІ. OpenAI та Anthropic не відповіли на запити Ars Technica про коментар щодо повісток.
