Apple ужесточила правила App Store против ИИ-«раздевания»

Apple переписала часть правил App Store, чтобы взяться за приложения, которые превращают обычные фото в откровенные изображения. В новости для разработчиков от 16 октября компания сообщила, что обновлённые App Review Guidelines теперь прямо охватывают интимные изображения, созданные без согласия человека, в том числе с помощью ИИ, и возлагают ответственность за их блокировку на разработчиков.

Что меняется для приложений с пользовательским контентом

Порнография в App Store запрещена давно, и, по словам Apple, это уже касалось приложений для «раздевания» (nudification), которые создают откровенные изображения реальных людей без их согласия. Новая формулировка правила 1.2 идёт дальше. В ней прямо названы соцсети, платформы с пользовательским контентом и приложения для создания контента с помощью ИИ. Такие сервисы должны:

• фильтровать недопустимые материалы ещё до публикации;
• давать возможность пожаловаться на оскорбительный контент и вовремя реагировать;
• позволять блокировать аккаунты нарушителей;
• публиковать контакты, чтобы пользователи могли связаться с разработчиком.

Apple пишет, что такие изображения приложения теперь должны заранее не допускать и удалять. Разработчиков, которые не внедрят должную защиту или не исправят нарушение после уведомления от Apple, могут признать нарушителями Кодекса поведения разработчика. Apple может снять приложение с продажи до исправления ситуации, а «вопиющие или повторные» случаи ведут к немедленному удалению и из App Store, и из Apple Developer Program.

Новое правило против «подмены» после проверки

Второе изменение касается приложений, которые на проверке выглядят безобидно, а потом включают вредные функции. Новое правило 2.5.19 чётко закрепляет давний запрет на скрытые, «спящие» или недокументированные функции, который раньше входил в правило 2.3.1. Как отмечает Engadget, если Apple выяснит, что приложение скрыло своё назначение и на самом деле умеет «раздевать», удалят и его, и разработчика.

Другие изменения в этой редакции

Apple также добавила правило 2.3.14 о творческих материалах, упростила пункт о ссылках на оплату для музыкальных стримингов и уточнила в разделе 5, что приложения, способствующие торговле людьми или эксплуатации детей, будут удаляться из App Store и блокироваться для альтернативного распространения. Переводы обновлённых правил обещают в течение месяца.

Пользователи не увидят нового переключателя в настройках, но планка для любого приложения, где можно загружать или генерировать изображения, стала выше. Фейковые и клонированные приложения остаются проблемой всех магазинов — вспомните недавний поддельный WhatsApp в Google Play. А среди инструментов для распознавания ИИ-изображений есть, например, водяные знаки Google SynthID.