Apple endurece regras da App Store contra apps que 'despem' pessoas com IA e contra apps disfarçados
Nova versão das diretrizes de revisão, publicada nesta sexta, cobre imagem íntima falsa feita por IA e ameaça banir desenvolvedores que escondem funções depois de aprovados.
A Apple publicou nesta sexta-feira (16) uma nova versão das diretrizes de revisão da App Store, as regras que todo app precisa cumprir para entrar na loja do iPhone e do iPad. As mudanças miram dois problemas: os apps de "nudificação", que usam inteligência artificial para criar imagens sexuais de pessoas reais sem consentimento, e os apps que se apresentam de um jeito na revisão e mudam de comportamento depois de aprovados.
O que muda nas regras
- Regra 1.2 (conteúdo criado por usuários): a obrigação de moderar agora cita expressamente a imagem íntima sem consentimento, inclusive a gerada com ferramentas de IA. O app tem de prevenir e remover esse material; quem não puser proteções adequadas, ou não corrigir o problema depois de avisado, pode ser enquadrado no código de conduta do desenvolvedor e retirado da loja.
- Regra 2.5.19 (nova): proíbe funções escondidas, dormentes ou não documentadas, como apps que passam pela revisão com uma cara e ganham outra depois. A Apple cita a ofuscação de código como exemplo e prevê remoção do app e expulsão do programa de desenvolvedores. A proibição já existia na regra 2.3.1, mas agora está explícita.
- Seção 5 (jurídico): apps que facilitem tráfico de pessoas ou exploração de crianças serão removidos e bloqueados também na distribuição alternativa, fora da App Store.
- Também há uma regra nova sobre materiais criativos (2.3.14) e um ajuste no texto sobre links de compra externa (3.1.1(a)).
Segundo a Apple, no ano passado a loja impediu que mais de 150 mil apps com problemas de segurança chegassem aos usuários e encerrou mais de 193 mil contas de desenvolvedor por fraude e abuso. A empresa diz que parte das violações vem de operações coordenadas que só ativam o conteúdo nocivo depois da aprovação. As traduções das novas diretrizes devem sair em até um mês.
Por que isso interessa a quem está no Brasil
O truque do app disfarçado já foi visto por aqui. Em julho, uma investigação do 9to5Mac encontrou dezenas de apps vendidos como jogos simples ou utilitários que, abertos a partir de um endereço de internet brasileiro, revelavam plataformas de apostas escondidas, muitos deles acessíveis a crianças. A Apple não ligou a atualização a casos específicos, mas a nova regra 2.5.19 descreve exatamente esse tipo de comportamento.
Os apps de nudificação também viraram polêmica no último ano: o Tech Transparency Project apontou dezenas deles na App Store em janeiro, e o chatbot Grok, da xAI, foi usado para gerar imagens sexualizadas sem consentimento, o que levou a pedidos para tirar o X e o Grok da loja. Para o usuário, a mudança não exige nenhuma ação; vale continuar denunciando pelo próprio app ou pela App Store qualquer aplicativo que mude de função ou exponha conteúdo abusivo.
