Apple zaostrza zasady App Store, zakazując aplikacji AI do rozbieranek i obraźliwych treści

Image: TechCrunch · Source

Apple zaktualizowało wytyczne, aby zakazać aplikacji AI generujących obraźliwe treści lub potajemnie zawierających funkcje do rozbierania, wzmacniając środki kontroli przeciw ukrytym szkodliwym funkcjom.

Apple zaostrzyło wytyczne App Store, aby wyraźnie zakazać aplikacji korzystających ze sztucznej inteligencji do tworzenia obraźliwych lub nieodpowiednich treści. Aktualizacja ta kieruje się przeciw aplikacjom, które ukrywają swoje prawdziwe funkcje, aby ominąć proces recenzji App Store, w szczególności tym, które potajemnie umożliwiają funkcje "nudify" – oprogramowanie przekształcające obrazy w taki sposób, że usuwa odzież – co Apple klasyfikuje jako taktykę "bait-and-switch" (wabik i zamiana).

Zgodnie z komunikatem Apple, aplikacje z treściami generowanymi przez użytkowników muszą teraz wprowadzić skuteczne środki moderacji tych treści. Obejmują one filtrowanie niepożądanych materiałów, umożliwienie użytkownikom zgłaszania obraźliwych treści oraz dawanie im narzędzi do blokowania kont nadużywających. Co więcej, wszelkie aplikacje zawierające ukryte lub nieudokumentowane funkcje – szczególnie te, które nieprawdziwie przedstawiają swój cel podczas recenzji, a ujawniają szkodliwe możliwości dopiero po zatwierdzeniu – są surowo zakazane.

Apple podkreśliło, że usunie każdą aplikację, która dodaje funkcje nieobecne w wersji pierwotnie przesłanej do recenzji. Firma zaktualizowała także swoje wytyczne prawne, aby wzmocnić zakaz aplikacji promujących handel ludźmi lub wykorzystywanie dzieci.

Ten krok następuje po wzmożonej kontroli ze strony regulatorów i organizacji rzeczniczych. Na przykład władze San Francisco niedawno nakazały zarówno Apple, jak i Google usunięcie aplikacji „nudify” z ich platform, powołując się na obawy dotyczące wykorzystywania i dostępu do nieodpowiednich treści. Wcześniej, raport Tech Transparency Project wskazał, że sklepy obu gigantów technicznych zawierały wiele aplikacji „nudify”, z których niektóre były dostępne dla nieletnich.

Apple zauważyło, że ich rygorystyczny proces recenzji zablokował w zeszłym roku ponad 150 000 aplikacji przed trafieniem do użytkowników oraz doprowadził do usunięcia 193 000 kont deweloperskich z powodu oszustw i nadużyć. Te zaktualizowane polityki mają na celu lepszą ochronę użytkowników przed zwodniczymi i szkodliwymi aplikacjami, zapewniając bezpieczniejsze i bardziej przejrzyste środowisko w sklepie z aplikacjami.

Zaostrzając zasady dotyczące treści generowanych przez AI i wymagając od deweloperów utrzymania jasnej, uczciwej funkcjonalności aplikacji, Apple wzmacnia swoje zobowiązanie do bezpieczeństwa użytkowników i jakości aplikacji na swojej platformie.