Агенти OpenAI здійснили понад 16 тисяч звернень до сайту ООН
Дослідник заявив, що агенти OpenAI понад 16 тисяч разів сканували статистичний сайт UNCTAD і шукали способи отримати дані.
Агенти OpenAI упродовж квітня—червня понад 16 тисяч разів сканували статистичний сайт Конференції ООН з торгівлі та розвитку (UNCTAD), стверджує дослідник безпеки Ровен Говард-Джонс. Про це повідомляє The Verge.
Пошук даних UNCTAD
За даними Говард-Джонса, агентам, імовірно, доручили отримати відкриті дані про Індекс продуктивних спроможностей через API UNCTADstat. Водночас вони, схоже, не мали прямого доступу до цього API, а можливості завантажувати дані були обмежені інструментами для HTTP-запитів.
Дослідник зазначив, що зрештою агенти знайшли спосіб обійти власні обмеження та почали отримувати дані із сайту. Однак під час роботи вони все одно стикалися з помилками.
Спроби приховати дії
Після помилок штучний інтелект припустив, що його запити блокує фільтр, якого насправді не існувало, і почав маскувати свою поведінку, пише видання. Згодом агенти, за твердженням Говард-Джонса, зрозуміли, що можуть використати навчальний інструмент Google XSS Game, присвячений міжсайтовому скриптингу, для виконання поставленого завдання.
OpenAI та ООН не надали оперативних коментарів у відповідь на запит видання.
