Apple skärper App Store-regler för att förbjuda AI-baserade nudify-appar och stötande innehåll

Bild: TechCrunch · Källa

Apple uppdaterade sina riktlinjer för att förbjuda AI-appar som skapar stötande innehåll eller hemligen inkluderar nudify-funktioner, och förstärker granskningen mot dolda skadliga funktioner.

Apple har stärkt sina riktlinjer för App Store för att uttryckligen förbjuda applikationer som använder artificiell intelligens för att generera stötande eller olämpligt innehåll. Denna uppdatering riktar sig mot appar som döljer sin verkliga funktion för att kringgå App Store:s granskningsprocess, särskilt sådana som hemligen aktiverar “nudify”-funktioner — programvara som ändrar bilder för att ta bort kläder — vilket Apple kategoriserar som en lockbete-och-ombytestaktik.

Enligt Apples tillkännagivande måste appar som innehåller användargenererat innehåll nu implementera effektiva innehållsmodereringåtgärder. Dessa inkluderar filtrering av stötande material, att ge användare verktyg för att rapportera stötande innehåll samt möjligheten för användare att blockera missbrukande konton. Vidare är appar som innehåller dolda eller odokumenterade funktioner – särskilt sådana som vilseleder under granskning och visar skadliga funktioner först efter godkännande – strikt förbjudna.

Apple betonade att de kommer att ta bort vilken app som helst som lägger till funktioner som inte fanns i den version som ursprungligen lämnades in för granskning. Företaget uppdaterade även sina juridiska riktlinjer för att stärka förbudet mot appar som främjar människohandel eller exploatering av barn.

Detta initiativ kommer efter ökad granskning från tillsynsmyndigheter och intressegrupper. Till exempel har myndigheter i San Francisco nyligen beordrat både Apple och Google att ta bort nudify-appar från sina plattformar med hänvisning till oro över exploatering och olämplig tillgång till innehåll. Tidigare rapporterade Tech Transparency Project att båda teknikjättarnas appbutiker hyste flera nudify-appar, vissa tillgängliga för minderåriga.

Apple noterade att deras rigorösa granskningsprocess framgångsrikt blockerade över 150 000 appar från att nå användare förra året och ledde till borttagning av 193 000 utvecklarkonton på grund av bedrägeri och missbruk. Dessa uppdaterade policys syftar till att bättre skydda användare från bedrägliga och skadliga applikationer och säkerställa en säkrare och mer transparent appmarknad.

Genom att skärpa reglerna kring AI-genererat innehåll och kräva att utvecklare upprätthåller tydliga och ärliga appfunktioner, förstärker Apple sitt engagemang för användarsäkerhet och appkvalitet på sin plattform.