Apple посилює правила App Store проти ШІ-«роздягання»

Apple переписала частину правил App Store, щоб узятися за застосунки, які перетворюють звичайні фото на відверті зображення. У новині для розробників від 16 жовтня компанія повідомила, що оновлені App Review Guidelines тепер прямо охоплюють інтимні зображення, створені без згоди людини, зокрема за допомогою ШІ, і покладають відповідальність за їхнє блокування на розробників.

Що змінюється для застосунків із контентом користувачів

Порнографія в App Store заборонена давно, і, за словами Apple, це вже стосувалося застосунків для «роздягання» (nudification), які створюють відверті зображення реальних людей без їхньої згоди. Нове формулювання правила 1.2 йде далі. У ньому прямо названо соцмережі, платформи з контентом користувачів і застосунки для створення контенту за допомогою ШІ. Такі сервіси мають:

• фільтрувати неприйнятні матеріали ще до публікації;
• давати змогу скаржитися на образливий контент і вчасно реагувати;
• дозволяти блокувати акаунти, що зловживають сервісом;
• публікувати контакти, щоб користувачі могли зв'язатися з розробником.

Apple пише, що такі зображення застосунки тепер мають завчасно не допускати й видаляти. Розробників, які не впровадять належного захисту або не виправлять порушення після повідомлення від Apple, можуть визнати такими, що порушують Кодекс поведінки розробника. Apple може зняти застосунок із продажу до виправлення ситуації, а «кричущі або повторні» випадки ведуть до негайного видалення і з App Store, і з Apple Developer Program.

Нове правило проти «підміни» після перевірки

Друга зміна стосується застосунків, які на перевірці виглядають безпечно, а згодом вмикають шкідливі функції. Нове правило 2.5.19 чітко закріплює давню заборону на приховані, «сплячі» або незадокументовані функції, яка раніше входила до правила 2.3.1. Як зазначає Engadget, якщо Apple з'ясує, що застосунок приховав своє призначення і насправді вміє «роздягати», видалять і його, і розробника.

Інші зміни в цій редакції

Apple також додала правило 2.3.14 про творчі матеріали, спростила пункт про посилання на оплату для музичних стримінгів і уточнила в розділі 5, що застосунки, які сприяють торгівлі людьми чи експлуатації дітей, видалятимуть з App Store і блокуватимуть для альтернативного розповсюдження. Переклади оновлених правил обіцяють протягом місяця.

Користувачі не побачать нового перемикача в налаштуваннях, але планка для будь-якого застосунку, де можна завантажувати чи генерувати зображення, стала вищою. Фейкові й клоновані застосунки лишаються проблемою всіх магазинів — згадайте нещодавній фальшивий WhatsApp у Google Play. А серед інструментів для виявлення ШІ-зображень є, зокрема, водяні знаки Google SynthID.