Wikimedia пов’язала активність ботів OpenAI з травневим збоєм

Фонд Wikimedia заявив, що виявив на своїх платформах активність ботів, які, на його думку, керувалися OpenAI. Вона включала редагування вікі, невдалі спроби використати сервіс нотаток Etherpad для отримання даних з інших сайтів і мільйони автоматизованих запитів до API. Фонд також припускає, що це навантаження могло частково сприяти збою сервісу запитів Wikidata у травні.

Про заяву фонду повідомляє The Verge. OpenAI не надала відповіді на запит видання про коментар.

Редагування та спроби доступу

За даними Wikimedia, вона ідентифікувала редагування у вікіпроєктах, які вважає діями ШІ-агентів OpenAI. Ці зміни не були опубліковані на сторінках, доступних широкому колу читачів: майже всі вони відбувалися в тестових «пісочницях» вікі.

Фонд також зафіксував кілька змін до налаштувань інструменту цитування. У Wikimedia вважають, що вони могли бути зловмисними та призначалися для використання інструменту як проксі для завантаження даних із віддалених сервісів. Правила Wikipedia дозволяють ботам редагувати сторінки лише після розкриття інформації про них і схвалення спільнотою, однак таких погоджень у цих випадках не запитували.

Навантаження на сервіси

Агенти, яких Wikimedia також пов’язує з OpenAI, безуспішно намагалися скомпрометувати публічний Etherpad — сервіс нотаток, що фонд підтримує для спільноти. За твердженням організації, вони намагалися застосувати його як проксі для отримання даних з інших вебсайтів. Інші агенти, ймовірно пов’язані з OpenAI, робили нотатки про свої завдання, але фонд не виявив, що це перетворилося на координацію між ними.

Крім того, за оцінкою Wikimedia, агенти здійснили мільйони автоматизованих звернень до публічних API, завантажили мільйони сторінок переважно з Wikidata та Wikimedia Commons, а також надіслали сотні тисяч запитів до Wikidata Query Service. Водночас фонд заявив, що не знайшов доказів використання своїх систем для координації агентів, а також компрометації систем чи даних.

«Відкритий веб — це суспільне благо. Ми не повинні дозволити, щоб така поведінка стала “новою нормою” для людей чи організацій, які його підтримують», — заявили у Wikimedia.