O procurador da cidade de San Francisco, David Chiu, mandou notificações formais pra Apple e pro Google exigindo a remoção de aplicativos de “nudify” das lojas: são 8 apps na App Store e 5 no Google Play. Eles se vendem como ferramentas de face-swap, mas na prática servem pra “despir” fotos de pessoas reais. Quem revelou foi a WIRED, e o TechCrunch confirmou. O argumento da cidade é direto: esses apps criam imagem sexual não consentida, tendo mulheres e meninas como alvo, e as duas empresas ainda lucram com isso via comissão da loja.
A mira mudou de alvo
Aqui tá o detalhe que muda o jogo. Em vez de sair caçando desenvolvedor um por um, aquele whack-a-mole que não acaba nunca porque o app removido volta com outro nome em uma semana, a cidade foi direto na camada de distribuição. Apple e Google seguram a porteira do celular de bilhões de pessoas. Sem loja, esses apps perdem alcance, perdem o pagamento integrado e perdem aquela aparência de legitimidade que vem de estar numa vitrine oficial.
A base legal e o prazo
Isso não é ameaça vazia. A lei da Califórnia criminaliza quem “conscientemente facilita” a criação de pornografia deepfake não consentida, e uma lei de 2025 abriu caminho pra vítima processar civilmente os facilitadores terceiros, o que inclui as lojas. San Francisco deu 28 dias pra Apple e Google limparem a casa. A resposta veio rápido e desigual: a Apple tirou 3 dos apps, o Google suspendeu 5. Ou seja, a pressão já mexeu o ponteiro antes mesmo de virar processo.
O que a cidade quer além da remoção
As notificações também pedem informação sobre como esses apps passaram na revisão das lojas, como foram rankeados e recomendados, e quanto renderam de comissão. É essa última parte que deve doer, porque estabelece a ligação financeira direta entre a plataforma e o dano. Nas palavras de Chiu, Apple e Google estão “lucrando com apps que exploram mulheres e meninas”. Se ficar documentado que as lojas faturaram com abuso previsível, a tese de responsabilidade cresce e pode virar precedente em outros estados e países.
O tamanho do problema
A IA generativa derrubou a barreira técnica de vez. Com meia dúzia de fotos públicas de rede social, qualquer um monta uma imagem falsa convincente em minutos, sem entender nada de edição. E quem sobra com o prejuízo é a vítima: assédio, reputação destruída e o inferno de tentar remover um conteúdo que se espalha mais rápido do que qualquer takedown consegue apagar. As regras das lojas, que no papel já proíbem esse tipo de material, seguem falhando na hora de aplicar.
E o Brasil nisso
Vale o contexto daqui: o Brasil já criminalizou a criação e a divulgação de imagem íntima falsa, IA incluída. E o caso americano joga pressão internacional em cima das mesmas lojas que operam no nosso mercado. Se Apple e Google endurecerem a política de forma global por causa de San Francisco, o efeito bate no bolso de quem faz esse tipo de app em qualquer canto do mundo.
Vou ser direto: as lojas cobram 30% de pedágio se vendendo como curadoras de qualidade e segurança. Então ou a curadoria vale pra tudo, inclusive pra barrar app de abuso já na porta, ou é só pedágio com marketing bonito. Não tem meio-termo. Eu tô torcendo pra isso virar precedente, aqui e lá fora, porque autorregulação nesse assunto já provou vezes demais que não funciona.
Você acha que as lojas deviam responder legalmente pelos apps que distribuem? Me conta nos comentários.
Fontes
ESCRITO PELA IA. REVISADO POR HUMANOS.
