Apple endurece las reglas de la App Store contra las apps que 'desnudan' con IA y las apps camufladas
La nueva versión de las directrices de revisión, publicada este viernes, cubre las imágenes íntimas falsas creadas con IA y amenaza con expulsar a quien oculte funciones tras la aprobación.
Apple publicó este viernes 16 una nueva versión de las directrices de revisión de la App Store, las normas que toda app debe cumplir para entrar en la tienda del iPhone y el iPad. Los cambios apuntan a dos problemas: las apps de "desnudos", que usan inteligencia artificial para crear imágenes sexuales de personas reales sin su consentimiento, y las apps que se presentan de una forma en la revisión y cambian de comportamiento una vez aprobadas.
Qué cambia en las normas
- Norma 1.2 (contenido creado por usuarios): la obligación de moderar menciona ahora de forma expresa las imágenes íntimas sin consentimiento, incluidas las generadas con herramientas de IA. La app debe prevenirlas y retirarlas; quien no ponga salvaguardas adecuadas, o no corrija el problema tras ser avisado, puede incumplir el código de conducta del desarrollador y ser retirado de la tienda.
- Norma 2.5.19 (nueva): prohíbe funciones ocultas, latentes o no documentadas, como apps que pasan la revisión con una cara y luego muestran otra. Apple cita la ofuscación de código como ejemplo y prevé la retirada de la app y la expulsión del programa de desarrolladores. La prohibición ya existía en la norma 2.3.1, pero ahora es explícita.
- Sección 5 (legal): las apps que faciliten la trata de personas o la explotación infantil serán retiradas y bloqueadas también en la distribución alternativa, fuera de la App Store, como la que existe en la Unión Europea por la Ley de Mercados Digitales.
- Hay además una norma nueva sobre materiales creativos (2.3.14) y un ajuste en el texto sobre enlaces de compra externa (3.1.1(a)).
Según Apple, el año pasado la tienda impidió que más de 150.000 apps con problemas de seguridad llegaran a los usuarios y cerró más de 193.000 cuentas de desarrollador por fraude y abuso. La compañía afirma que parte de las infracciones procede de operaciones coordinadas que solo activan el contenido dañino tras la aprobación. Las traducciones de las nuevas directrices llegarán en el plazo de un mes.
El contexto
El truco de la app camuflada ya se ha visto. En julio, una investigación de 9to5Mac encontró decenas de apps vendidas como juegos sencillos o utilidades que, abiertas desde una dirección IP de Brasil, mostraban plataformas de apuestas ocultas, muchas de ellas al alcance de menores. Apple no vinculó la actualización a casos concretos, pero la nueva norma 2.5.19 describe justo ese comportamiento.
Las apps de desnudos también han generado polémica en el último año: el Tech Transparency Project señaló decenas de ellas en la App Store en enero, y el chatbot Grok, de xAI, se usó para generar imágenes sexualizadas sin consentimiento, lo que llevó a pedir que X y Grok salieran de la tienda. El usuario no tiene que hacer nada, pero denunciar desde la propia app o desde la App Store cualquier aplicación que cambie de función o muestre contenido abusivo sigue siendo la mejor forma de señalarla.
