Apple ужесточает правила App Store, запрещая приложения AI для раздевашки и оскорбительный контент

Image: TechCrunch · Source

Apple обновила свои руководства, чтобы запретить AI-приложения, генерирующие оскорбительный контент или скрытно включающие функции для раздевашки, усилив меры проверки против скрытых вредоносных возможностей.

Apple усилила правила App Store, чтобы специально запретить приложения, которые используют искусственный интеллект для создания оскорбительного или неподобающего контента. Это обновление направлено на приложения, которые маскируют свои истинные функции, чтобы обойти процесс проверки App Store, особенно те, которые скрытно включают функции "nudify" — программное обеспечение, изменяющее изображения с удалением одежды, что Apple классифицирует как тактику "ловушка и замена".

Согласно заявлению Apple, приложения с контентом, созданным пользователями, теперь должны внедрять эффективные меры модерации контента. Это включает фильтрацию недопустимого материала, предоставление пользователям инструментов для жалоб на оскорбительный контент и возможность блокирования оскорбительных аккаунтов. Более того, любые приложения с скрытыми или недокументированными функциями — особенно те, которые вводят в заблуждение относительно своей цели во время проверки и раскрывают вредоносные возможности только после одобрения — строго запрещены.

Apple подчеркнула, что удалит любое приложение, добавляющее функции, отсутствующие в версии, изначально представленой на проверку. Компания также обновила свои юридические руководства, усилив запрет на приложения, продвигающие торговлю людьми или эксплуатацию детей.

Этот шаг последовал в условиях повышенного внимания со стороны регуляторов и защитных организаций. Например, власти Сан-Франциско недавно обязали Apple и Google удалить приложения "nudify" с их платформ, ссылаясь на опасения эксплуатации и доступности неподобающего контента. Ранее отчет Tech Transparency Project указывал, что магазины приложений обоих технологических гигантов содержали множество приложений "nudify", некоторые из которых были доступны несовершеннолетним.

Apple отметила, что их строгий процесс проверки успешно заблокировал более 150 000 приложений в прошлом году и привёл к удалению 193 000 аккаунтов разработчиков из-за мошенничества и злоупотреблений. Эти обновленные политики направлены на лучшую защиту пользователей от обманчивых и вредоносных приложений, обеспечивая более безопасный и прозрачный рынок приложений.

Ужесточая правила в отношении контента, созданного ИИ, и требуя от разработчиков сохранять прозрачность и честность функционала приложений, Apple укрепляет свою приверженность безопасности пользователей и качеству приложений на своей платформе.