Генпрокурор Флориди просить заборонити ChatGPT імітувати людину
Генпрокурор Флориди просить суд обмежити імітацію людських рис ChatGPT та вимагати незалежних захисних механізмів для нових моделей.
Генеральний прокурор Флориди Джеймс Утмаєр звернувся до суду з вимогою тимчасово заборонити OpenAI надавати ChatGPT «хибні людські риси». Як повідомляє The Verge, посадовець вважає, що бот формує у користувачів помилкове відчуття безпеки.
Претензії до поведінки чатбота
Утмаєр стверджує, що використання ChatGPT займенників першої особи та відповідей, які імітують емоції, може переконувати користувачів у тому, що сервіс є надійним «другом». На його думку, це збільшує залученість аудиторії та обсяг даних для навчання OpenAI, водночас спонукаючи людей дедалі більше покладатися на чатбота.
Генпрокурор також заявив, що прагнення до залученості може зробити ChatGPT менш надійним. У своєму зверненні він закликав OpenAI припинити називати продукт безпечним, «вдавати, що він людина», та продавати його дітям.
Вимоги до нових моделей
Подання до суду передбачає й вимогу заборонити OpenAI розробляти нові моделі штучного інтелекту без захисних механізмів, схвалених незалежною стороною. Утмаєр послався на нещодавні інциденти з безпекою на платформі Hugging Face, урядовому сайті Австралії та сайтах уряду США, а також на заяви дослідників і колишніх працівників OpenAI, які висловлювали занепокоєння щодо безпеки ШІ.
Компанія OpenAI не надала негайного коментаря у відповідь на запит видання. Минулого місяця вона запустила ChatGPT for Teens із додатковими обмеженнями, що застосовуються за замовчуванням. Тоді OpenAI заявила, що доступ підлітків до інструмента має супроводжуватися захистом з урахуванням їхнього розвитку, підтримкою реальних стосунків і здорового використання сервісу.
