A prefeitura de São Francisco determinou que Apple e Google retirem dezenas de aplicativos conhecidos como “nudify” — programas que retiram digitalmente roupas de imagens de pessoas — de suas lojas virtuais.
A medida baseia-se em leis da Califórnia que tipificam como crime facilitar ou auxiliar, de forma consciente ou imprudente, a criação de pornografia deepfake não consensual. Outra legislação, aprovada em 2025, permite que vítimas processem civilmente terceiros que contribuam para a divulgação desse material.
“Apple e Google lucram com aplicativos que exploram mulheres e meninas ao gerar deepfakes íntimos sem consentimento. As empresas têm a responsabilidade de agir de forma proativa para impedir abusos sexuais”, declarou o procurador da cidade, David Chiu, em comunicado enviado por e-mail.
Cartas enviadas pelo gabinete de Chiu às duas gigantes, às quais o TechCrunch teve acesso, afirmam que elas foram alertadas há quase um ano sobre a intermediação de pagamentos ligados a conteúdos ilegais, mas continuaram a permitir as transações.
Relatórios do Tech Transparency Project (TTP) encaminhados em janeiro e abril apontaram dezenas de aplicativos nas lojas das empresas que ofereciam imagens íntimas deepfake mediante pagamento processado por Apple e Google. O documento de abril acusou as plataformas de direcionar usuários a esses serviços e classificou ambas como participantes-chave na disseminação dessas ferramentas de inteligência artificial.
Imagem: Lee/Getty
Em entrevista à revista Wired, Chiu estimou que as companhias podem ter arrecadado milhões de dólares em taxas sobre esses aplicativos. As cartas alertam que Apple e Google podem enfrentar sanções civis por violação das leis estaduais e solicitam contato com a prefeitura em até 28 dias.
O TechCrunch informou ter procurado as duas empresas para comentar o caso.
Com informações de TechCrunch
