Apple verschärft App Store-Regeln, um KI-„Nudify“-Apps und anstößige Inhalte zu verbieten

Image: TechCrunch · Source

Apple aktualisierte seine Richtlinien, um KI-Apps zu verbieten, die anstößige Inhalte generieren oder heimlich Nudify-Funktionen enthalten, und verstärkt die Prüfmaßnahmen gegen versteckte schädliche Funktionen.

Apple hat seine App Store-Richtlinien verschärft, um Anwendungen, die künstliche Intelligenz verwenden, um anstößige oder unangemessene Inhalte zu erzeugen, ausdrücklich zu verbieten. Dieses Update richtet sich gegen Apps, die ihre wahre Funktionalität verschleiern, um den Prüfprozess des App Store zu umgehen, insbesondere solche, die heimlich "Nudify"-Features aktivieren – Software, die Bilder verändert, um Kleidung zu entfernen – was Apple als eine Täuschungstaktik klassifiziert.

Laut Apples Ankündigung müssen Apps, die nutzergenerierte Inhalte hosten, nun effektive Moderationsmaßnahmen implementieren. Dazu gehört das Filtern anstößiger Materialien, das Bereitstellen von Werkzeugen für Nutzer, um anstößige Inhalte zu melden, sowie die Möglichkeit, missbräuchliche Accounts zu blockieren. Außerdem sind jegliche Apps, die versteckte oder undokumentierte Funktionen enthalten – insbesondere solche, die ihren Zweck während der Prüfung falsch darstellen und schädliche Funktionen erst nach Freigabe offenbaren – streng verboten.

Apple betonte, dass es jede App entfernen wird, die Funktionen hinzufügt, die in der ursprünglich zur Prüfung eingereichten Version nicht enthalten waren. Das Unternehmen aktualisierte auch seine rechtlichen Richtlinien, um das Verbot von Apps, die Menschenhandel oder Kinderexploitierung fördern, zu verstärken.

Diese Maßnahme folgt auf verstärkte Kontrollen durch Regulierungsbehörden und Interessenvertretungen. So ordneten die Behörden in San Francisco kürzlich an, dass sowohl Apple als auch Google Nudify-Apps von ihren Plattformen entfernen, aufgrund von Bedenken bezüglich Ausbeutung und unangemessenem Zugang zu Inhalten. Zuvor hatte ein Bericht des Tech Transparency Project hervorgehoben, dass die App Stores beider Tech-Riesen mehrere Nudify-Anwendungen beherbergen, von denen einige Minderjährigen zugänglich sind.

Apple erklärte, dass sein rigoroser Prüfprozess im vergangenen Jahr über 150.000 Apps erfolgreich daran hinderte, User zu erreichen, und zur Entfernung von 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs führte. Diese aktualisierten Richtlinien zielen darauf ab, Nutzer besser vor täuschenden und schädlichen Apps zu schützen und einen sichereren und transparenteren App-Markt zu gewährleisten.

Indem Apple die Regeln für KI-generierte Inhalte verschärft und von Entwicklern verlangt, klare und ehrliche App-Funktionalitäten zu gewährleisten, stärkt das Unternehmen sein Engagement für Nutzersicherheit und App-Qualität auf seiner Plattform.