A cidade de São Francisco ordenou que a Apple e o Google removessem dezenas de aplicativos “nudificadores” – programas de software que podem alterar digitalmente imagens para despir as pessoas nelas – de suas lojas de aplicativos.
Lei da Califórnia criminaliza qualquer atividade que “facilita conscientemente” ou “ajuda ou estimula de forma imprudente” a criação de pornografia deepfake não consensual. Em 2025, a Califórnia também aprovou uma lei que permite às vítimas intentar acções civis contra terceiros facilitadores de tal material. A cidade afirma que, apesar destas regulamentações bem conhecidas, ambas as empresas de tecnologia continuaram a acolher e a ganhar dinheiro com tais programas.
“A Apple e o Google estão lucrando com aplicativos que exploram mulheres e meninas gerando deepfakes íntimos não consensuais”, disse o procurador da cidade de São Francisco, David Chiu, em um comunicado enviado por e-mail ao TechCrunch. “Embora as empresas cortem relações com alguns aplicativos problemáticos, a Apple e o Google têm a responsabilidade de ser proativos e vigilantes para prevenir o abuso sexual.”
Cartas enviadas ao Google e à Apple pelo escritório de Chiu, que foram visualizadas pelo TechCrunch, observam que as empresas “foram avisadas” por seu papel no “processamento de pagamentos por compras ilegais por quase um ano”, mas, mesmo assim, continuaram a fazê-lo.
De acordo com as cartas, ambas as empresas foram repetidamente avisadas de que hospedavam esses aplicativos. Em janeiro e novamente em abril, o Projeto de Transparência Tecnológica emitiu relatórios e enviou cartas a ambas as empresas, observando que havia “dezenas de aplicativos” em suas lojas de aplicativos que “vendiam NCII (imagens íntimas não consensuais) deepfake em troca de pagamentos” processados pelas empresas.
TTPs relatório de abril disse que o Google e a Apple “direcionaram” intencionalmente os usuários para esses aplicativos e chamaram ambas as empresas de “participantes importantes na disseminação de ferramentas de IA que podem transformar pessoas reais em imagens sexualizadas”.
Adicionalmente, Chiu disse à Wired que ambas as empresas provavelmente ganharam “milhões de dólares em taxas” com aplicativos que ofereciam esses serviços.
As cartas do escritório de Chiu alertam que a Apple e o Google podem enfrentar penalidades civis por violarem a lei e solicitam que entrem em contato com a cidade dentro de 28 dias.
O TechCrunch entrou em contato com a Apple e o Google para comentar.
A pornografia deepfake tem em grande parte tem sido um problema para celebridades femininas, embora os aplicativos de nudificação possibilitem que qualquer pessoa com uma foto disponível publicamente seja alvo.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
