Apple endurece las reglas de la App Store para prohibir apps de desnudez AI y contenido ofensivo

Image: TechCrunch · Source

Apple actualizó sus directrices para prohibir apps de IA que generen contenido ofensivo o que incluyan funciones de desnudez ocultas, mejorando las medidas de revisión contra capacidades dañinas ocultas.

Apple ha fortalecido sus directrices de la App Store para prohibir específicamente aplicaciones que utilicen inteligencia artificial para generar contenido ofensivo o inapropiado. Esta actualización está dirigida a apps que disfrazan su verdadera funcionalidad para evadir el proceso de revisión de la App Store, especialmente aquellas que habilitan en secreto funciones de “desnudez”—software que altera imágenes para eliminar ropa—y que Apple clasifica como una táctica de engaño.

Según el anuncio de Apple, las apps que alojan contenido generado por usuarios deben implementar medidas efectivas de moderación de contenido. Esto incluye filtrar material objetable, proporcionar herramientas para que los usuarios reporten contenidos ofensivos y permitir bloquear cuentas abusivas. Además, cualquier app que contenga funciones ocultas o no documentadas—especialmente las que tergiversan su propósito durante la revisión y solo revelan capacidades dañinas luego de ser aprobadas—está estrictamente prohibida.

Apple enfatizó que eliminará cualquier app que agregue funciones no presentes en la versión inicialmente enviada para revisión. La compañía también actualizó sus directrices legales para reforzar la prohibición de apps que promuevan la trata de personas o la explotación infantil.

Esta medida sigue a un mayor escrutinio por parte de reguladores y grupos de defensa. Por ejemplo, las autoridades de San Francisco ordenaron recientemente a Apple y Google eliminar las apps de desnudez de sus plataformas, citando preocupaciones sobre explotación y acceso inapropiado a contenido. Previamente, un informe de Tech Transparency Project destacó que ambas tiendas alojaban múltiples apps de desnudez, algunas accesibles para menores.

Apple señaló que su riguroso proceso de revisión bloqueó con éxito más de 150,000 apps para evitar que llegaran a los usuarios el año pasado y resultó en la eliminación de 193,000 cuentas de desarrolladores por fraude y abuso. Estas políticas actualizadas buscan proteger mejor a los usuarios de aplicaciones engañosas y dañinas, garantizando un mercado de apps más seguro y transparente.

Al endurecer las normas sobre contenido generado por IA y exigir a los desarrolladores mantener funcionalidades de app claras y honestas, Apple refuerza su compromiso con la seguridad del usuario y la calidad de las apps en su plataforma.