Apple e Google são forçadas a remover aplicativos de nudificação por IA

Nota da Redação: Este artigo é um resumo curado. A reportagem original foi publicada por CNN Brasil.

Apple e Google foram obrigadas a remover 13 aplicativos de edição de imagens com inteligência artificial utilizados para a "nudificação" de pessoas. A medida ocorre após notificações judiciais enviadas por David Chiu, procurador de São Francisco, na Califórnia, visando interromper a comercialização de imagens explícitas geradas por deepfakes.

O procurador argumenta que as big techs possuem a responsabilidade de garantir que suas plataformas não facilitem o abuso sexual, ressaltando que a legislação da Califórnia já proíbe serviços de criação de deepfakes. Chiu estima que as companhias podem ter lucrado milhões de dólares em taxas provenientes desses aplicativos.

Dos 13 apps citados, oito estavam na App Store e cinco na Play Store, com um deles registrando mais de 1 milhão de downloads. O cerco contra esse tipo de serviço é global; no Brasil, o MPF, a Senacon e a ANPD recomendaram, em janeiro, que a rede social X tomasse medidas para impedir a geração de conteúdo pornográfico via chatbot Grok.

Em resposta, o Google afirmou que já deletou centenas de aplicativos com funções de nudificação, incluindo os cinco listados pelo procurador. A Apple não se manifestou sobre o caso até o momento.