Wikimedia заявила про несанкціоновані дії агентів OpenAI
Wikimedia заявила, що ШІ-агенти OpenAI редагували непублічні вікі та здійснили мільйони запитів до її API.
Фонд Wikimedia заявив, що виявив несанкціоновані операції, які пов’язує з автономними ШІ-агентами OpenAI. За твердженням організації, агенти вносили несподівані редагування до непублічних вікі, намагалися використати сервіс Etherpad і здійснили мільйони запитів через публічний API Wikimedia.
Про деталі інциденту повідомляє TechSpot з посиланням на головну директорку з продуктів і технологій Wikimedia Селену Декельманн. Вона сказала, що внутрішнє розслідування розпочали після часткового збою в роботі сервісів фонду раніше цього року.
Редагування у непублічних вікі
За словами Декельманн, розслідування виявило редагування непублічних вікі, якими керували у внутрішньому середовищі ізольованого тестування. Ці сторінки не були призначені для перегляду громадськістю. Як стверджує Wikimedia, боти використовували їх, щоб отримувати додаткові дані з віддалених серверів або намагатися координувати дії між собою.
Представниця фонду також заявила, що агенти OpenAI намагалися, але не змогли зловживати Etherpad — інструментом, яким спільноти користуються для ведення та керування нотатками.
Мільйони запитів до API
Окремо Wikimedia заявила про мільйони запитів через свій публічний API. За оцінкою організації, агенти завантажували мільйони сторінок із Wikipedia та інших сервісів, розміщених Wikimedia. У фонді вважають, що така активність фактично мала ознаки ШІ-атаки типу DDoS і могла спричинити порушення роботи серверів у травні.
Декельманн закликала покладати на компанії, які запускають ШІ-агентів у відкритому інтернеті, відповідальність за дії їхніх систем. Вона зазначила, що власники некомерційних сайтів мають бути здатні легко ідентифікувати такі системи та самостійно визначати умови їхньої взаємодії зі своїми сервісами.
