Apple заборонить у App Store застосунки для створення оголених зображень

Apple посилила правила для розробників App Store, заборонивши застосунки, які за допомогою штучного інтелекту створюють образливий контент, зокрема так звані nudify-застосунки для генерації оголених зображень. Обмеження також стосуються програм, що під час перевірки видають себе за звичайні, а після схвалення відкривають приховані шкідливі функції.

Вимоги до модерації

Як повідомляє TechCrunch, компанія уточнила вимоги до застосунків із користувацьким контентом. Вони повинні фільтрувати неприйнятні матеріали, давати користувачам можливість повідомляти про образливий контент і блокувати акаунти, що зловживають платформою.

Apple також прямо заборонила приховані або не задокументовані функції. Під заборону потрапляє практика, за якої застосунок неправдиво описує своє призначення під час перевірки, а після схвалення додає можливості для «роздягання» людей на зображеннях за допомогою ШІ.

Видалення програм і облікових записів

Компанія заявила, що видалятиме застосунки, якщо до них додають функції, яких не було у версії, поданій на перевірку App Store. Apple також оновила формулювання юридичного розділу правил, наголосивши на забороні програм, які сприяють торгівлі людьми та експлуатації дітей.

За даними Apple, торік її система перевірки не допустила до користувачів понад 150 тисяч застосунків, а через шахрайство та зловживання компанія видалила 193 тисячі облікових записів розробників. У липні влада Сан-Франциско наказала Apple і Google очистити їхні магазини від nudify-застосунків. Міський прокурор Девід Чіу тоді звинуватив компанії в отриманні прибутку від таких програм через комісії магазинів.