A Apple e o Google receberam ordens para retirar 13 aplicativos que usam inteligência artificial para criar imagens falsas de nudez sem autorização das pessoas retratadas. A procuradoria de São Francisco, nos Estados Unidos, acusa as lojas de aplicativos de facilitar abuso sexual e exploração indevida de imagem.
Adicione ao Google NotíciasNotificação judicial e exigências da procuradoria
O procurador-geral David Chiu enviou notificações extrajudiciais à Apple e ao Google exigindo a remoção imediata dos apps apontados e a interrupção das relações comerciais com seus desenvolvedores. Para Chiu, gerar imagens íntimas sem consentimento é ilegal e causa danos, e as plataformas são responsáveis por impedir que seus serviços sirvam para esse tipo de abuso.
Ele também denunciou que as empresas faturam milhões de dólares em taxas sobre pagamentos efetuados dentro desses aplicativos. A legislação da Califórnia proíbe a criação e comercialização de pornografia sintética não consensual, o que intensifica a pressão sobre as gigantes do setor.
Resposta das empresas e ações recentes
O Google declarou ter removido centenas de apps com funções similares, além de suspender contas de desenvolvedores e bloquear pagamentos relacionados. A companhia passou a restringir buscas por termos como “nudify” em sua loja. Já a Apple confirmou a retirada de três dos aplicativos indicados e iniciou processos para encerrar contas dos desenvolvedores envolvidos, mas não se pronunciou oficialmente sobre a permanência dos outros apps na App Store.
Esses aplicativos, frequentemente divulgados como ferramentas para troca de rostos, permitem criar imagens sexualizadas falsas a partir de fotos reais, com poucos comandos e alta precisão. Esse cenário aumenta o risco de uso para assédio e extorsão. Pesquisas acadêmicas apontam que cerca de 70% dos apps de deepfake possibilitam produzir nudez sem restrições, mesmo quando não são explicitamente indicados para isso.
Pressão e desafios no controle de IA para criação de imagens
A procuradoria de São Francisco informou que seguirá avaliando medidas legais para pressionar as plataformas a reforçarem os controles antes da aprovação de novos apps. O caso expõe o desafio das lojas digitais em conter ferramentas de IA generativa que podem ser usadas para abuso digital, especialmente contra mulheres e adolescentes.
O episódio ocorre no meio de debates globais sobre regulação dessas tecnologias e a responsabilidade das empresas de impedir conteúdo nocivo, principalmente quando envolve direitos e segurança digital.
Fonte: Tecnoblog, MacMagazine, Veja, Olhar Digital, TecMundo
