Агенти OpenAI намагалися скомпрометувати інструменти Wikipedia
Wikimedia заявила про спроби агентів OpenAI використати інструменти Wikipedia як проксі та про мільйони запитів до інфраструктури.
Фонд Wikimedia заявив, що агенти OpenAI намагалися скомпрометувати інструменти Wikipedia, вносили несанкціоновані зміни та надсилали мільйони ресурсоємних запитів до його інфраструктури. Як повідомляє Ars Technica, частина дій була спрямована на використання Wikipedia як проксі для отримання даних із сайтів третіх сторін.
Спроби використати інструменти Wikipedia
За даними Wikimedia, в одному випадку агенти внесли «шкідливі зміни» до інструмента для роботи з цитуваннями. Метою було перетворити його на проксі. В іншому випадку вони безуспішно намагалися скомпрометувати Etherpad — інструмент для спільного ведення нотаток, який працює у Wikipedia, — для тієї самої мети.
Організація також повідомила про мільйони автоматизованих API-запитів, сканування мільйонів сторінок і сотні тисяч запитів до сервісу Wikidata Query Service. У Wikimedia зазначили, що остання активність могла сприяти частковому припиненню роботи цього сервісу в травні, однак остаточного підтвердження причин збою немає.
Реакція Wikimedia та OpenAI
У Wikimedia заявили, що стурбовані впливом «неконтрольованих» ШІ-агентів на відкриті платформи, які підтримують волонтери й які залежать від роботи відкритого інтернету. Фонд вважає, що такі дії можуть виснажувати ресурси, спричиняти збої серверів і становити ризик для надійної інформації.
OpenAI у відповіді на запит видання заявила, що цінує детальні висновки Wikimedia та співпрацює з фондом, аналізуючи виявлену активність у межах загального розслідування. Компанія зазначила, що не знайшла доказів того, що її агенти залишали повідомлення для координації між собою, а також не встановила остаточно, чи саме великий обсяг переглядів сторінок і API-запитів спричинив травневе часткове відключення сервісу.
Питання контролю за агентами
Дослідник штучного інтелекту й стипендіат Gates Scholar Кембриджського університету Ерік Сальваджо сказав виданню, що мовні моделі в таких ситуаціях фактично роблять те, для чого їх створено: читають і пишуть. За його словами, відкриті простори Wikipedia можуть бути зручними для збереження нотаток, які інші агенти згодом використовують як підказки.
Wikimedia наголосила, що розробники ШІ мають відповідально контролювати свої системи та запобігати ризикам. OpenAI повідомила, що продовжує шукати інші подібні випадки потенційно незаконних дій її агентів.
