Apple strammer inn App Store-reglene for å forby AI nudify-apper og støtende innhold

Bilde: TechCrunch · Kilde

Apple oppdaterte retningslinjene sine for å forby AI-apper som genererer støtende innhold eller hemmelig inkluderer nudify-funksjoner, og styrker gjennomgangen mot skjulte skadelige egenskaper.

Apple har styrket retningslinjene for App Store for spesifikt å forby applikasjoner som bruker kunstig intelligens til å generere støtende eller upassende innhold. Denne oppdateringen retter seg mot apper som skjuler sin egentlige funksjon for å omgå App Store-gjennomgangsprosessen, særlig de som hemmelig aktiverer “nudify”-funksjoner — programvare som endrer bilder for å fjerne klær — noe Apple kategoriserer som en lokkemetode med svik.

I følge Apples kunngjøring må apper som har brukergenerert innhold nå implementere effektive tiltak for innholdsmoderering. Dette inkluderer filtrering av krenkende materiale, å gi brukere verktøy for å rapportere støtende innhold og å tillate brukere å blokkere misbrukende kontoer. Videre er apper med skjulte eller udokumenterte funksjoner — spesielt de som feilrepresenterer sitt formål under gjennomgangen og viser skadelige egenskaper først etter godkjenning — strengt forbudt.

Apple understreket at de vil fjerne enhver app som legger til funksjoner som ikke var til stede i den versjonen som opprinnelig ble sendt inn til gjennomgang. Selskapet oppdaterte også sine juridiske retningslinjer for å forsterke forbudet mot apper som fremmer menneskehandel eller utnyttelse av barn.

Denne beslutningen kommer etter økt gransking fra tilsynsmyndigheter og interessentgrupper. For eksempel har myndigheter i San Francisco nylig beordret både Apple og Google om å fjerne nudify-apper fra sine plattformer, med henvisning til bekymring om utnyttelse og upasselig tilgjengelighet av innhold. Tidligere rapporterte Tech Transparency Project at begge teknologigigantenes appbutikker hadde flere nudify-applikasjoner, noen tilgjengelige for mindreårige.

Apple bemerket at deres grundige gjennomgangsprosess med suksess blokkerte over 150 000 apper fra å nå brukere i fjor, og resulterte i fjerning av 193 000 utviklerkontoer på grunn av svindel og misbruk. Disse oppdaterte retningslinjene har som mål å bedre beskytte brukere fra bedrag og skadelige apper, og sikre et tryggere og mer transparent appmarked.

Ved å stramme inn reglene rundt AI-generert innhold og kreve at utviklere opprettholder klare, ærlige appfunksjoner, styrker Apple sitt engasjement for brukersikkerhet og appkvalitet på sin plattform.