Apple посилила правила App Store щодо ШІ-діпфейків та nudify-застосунків

Apple оновила правила модерації App Store, розширивши вимоги щодо зображень інтимного характеру, створених штучним інтелектом без згоди людини. Розробники застосунків мають проактивно запобігати появі такого контенту на своїх платформах і видаляти його. Компанія попередила, що застосунки з порушеннями можуть вилучити з App Store, якщо їхні розробники не вживатимуть належних заходів.

Вимоги до ШІ-сервісів

Оновлене правило 1.2 окремо згадує застосунки для створення контенту за допомогою ШІ. Як повідомляє MacRumors, зміни можуть стосуватися, зокрема, сервісів на кшталт чатбота Grok від xAI. Користувачі скаржилися, що Grok використовували для створення оголених і сексуалізованих діпфейків. Раніше цього року Apple повідомила xAI, що видалить Grok з App Store, якщо сервіс і надалі дозволятиме створювати оголені діпфейки. Після запровадження захисних механізмів xAI отримала схвалення оновленої версії застосунку.

Заборона прихованих функцій

Apple також додала правило 2.5.19. Воно уточнює, що розробників можуть виключити з App Store та Apple Developer Program, якщо вони додають функції, яких не було у версії застосунку, поданій на перевірку. Компанія пов'язує це положення з nudify-застосунками, що генерують сексуально відверті зображення реальних людей без їхньої згоди.

Також заборонені застосунки з прихованими або незадокументованими можливостями, а також ті, що вводять модераторів в оману щодо свого призначення під час перевірки й активують шкідливі функції вже після схвалення. Такий підхід Apple описує як bait-and-switch.

Інші зміни правил

Окрім положень про ШІ-контент, Apple розширила заборону на застосунки, що сприяють торгівлі людьми або експлуатації дітей, на альтернативні способи поширення застосунків. У повідомленні для розробників компанія заявила, що без вагань видаляє застосунки та припиняє співпрацю з розробниками, які порушують ці правила.