Apple tiukentaa App Storen sääntöjä kieltääkseen tekoälyä hyödyntävät alastonkuvia luovat sovellukset ja loukkaavan sisällön

Kuva: TechCrunch · Lähde

Apple päivitti ohjeistustaan kieltämällä tekoälyä käyttävät sovellukset, jotka luovat loukkaavaa sisältöä tai sisältävät salaa alastonkuvia luovia ominaisuuksia, vahvistaen tarkastusmenettelyjä piilotettujen haitallisten toimintojen torjumiseksi.

Apple on vahvistanut App Storen ohjeistuksia nimenomaan kieltämällä sovellukset, jotka käyttävät tekoälyä luodakseen loukkaavaa tai sopimatonta sisältöä. Tämä päivitys kohdistuu sovelluksiin, jotka peittelevät todellista toiminnallisuuttaan kiertääkseen App Storen tarkastusprosessin, erityisesti sellaisiin jotka salaa mahdollistavat "nudify"-toiminnot — ohjelmiston, joka muokkaa kuvia poistamalla vaatteet — mitä Apple pitää harhaanjohtavana bait-and-switch -menetelmänä.

Applen ilmoituksen mukaan sovellusten, joissa on käyttäjien luomaa sisältöä, on nyt toteutettava tehokkaita sisällön moderointitoimia. Näihin kuuluvat loukkaavan materiaalin suodatus, käyttäjille työkalujen tarjoaminen loukkaavan sisällön raportoimiseksi sekä mahdollisuus estää häiritseviä tilejä. Lisäksi sovellukset, jotka sisältävät piilotettuja tai dokumentoimattomia ominaisuuksia — erityisesti sellaisia, jotka antavat väärän kuvan tarkoituksestaan tarkastusvaiheessa ja paljastavat haitallisia toimintoja vasta hyväksynnän jälkeen — ovat tiukasti kiellettyjä.

Apple korosti, että se poistaa kaikki sovellukset, jotka lisäävät ominaisuuksia, joita ei ole alun perin toimitetussa tarkastettavassa versiossa. Yritys on myös päivittänyt oikeudellisia ohjeitaan vahvistaakseen kieltoaan sovelluksista, jotka edistävät ihmiskauppaa tai lasten hyväksikäyttöä.

Tämä toimenpide tulee lisääntyneen viranomaisten ja etujärjestöjen valvonnan seurauksena. Esimerkiksi San Franciscon viranomaiset ovat äskettäin määränneet sekä Applen että Googlen poistamaan nudify-sovellukset alustoiltaan vedoten huoliin hyväksikäytöstä ja sopimattoman sisällön saatavuudesta. Aiemmin Tech Transparency Projectin raportti toi esiin, että molempien teknologiayhtiöiden sovelluskaupoissa oli useita nudify-sovelluksia, joihin jotkut alaikäisetkin pystyivät käsiksi.

Apple totesi, että heidän tiukka tarkastusprosessinsa esti viime vuonna yli 150 000 sovelluksen pääsemisen käyttäjien saataville ja johti 193 000 kehittäjätilin poistoon petosten ja väärinkäytösten vuoksi. Nämä päivitetyt säännöt pyrkivät suojelemaan käyttäjiä paremmin harhaanjohtavilta ja haitallisilta sovelluksilta, varmistaen turvallisemman ja läpinäkyvämmän sovelluskaupan.

Tiukentamalla tekoälyn luoman sisällön sääntöjä ja vaatimalla kehittäjiltä selkeitä sekä rehellisiä sovellustoimintoja Apple vahvistaa sitoutumisensa käyttäjien turvallisuuteen ja sovellusten laatuun omalla alustallaan.