A Justiça dos Estados Unidos determinou que a Apple e a Google removam de suas lojas de aplicativos plataformas conhecidas como apps de “nudificação”, que utilizam inteligência artificial para criar imagens falsas de nudez a partir de fotografias reais. A medida faz parte de uma ação para combater o uso abusivo da tecnologia e proteger vítimas de deepfakes.
A decisão foi motivada por uma iniciativa do procurador de São Francisco, na Califórnia, que notificou as duas empresas a retirar 13 aplicativos de suas plataformas. Segundo o órgão, esses serviços facilitam a produção e a disseminação de imagens íntimas falsas, podendo causar graves danos à privacidade e à reputação das vítimas.
O procurador afirma que as empresas de tecnologia têm responsabilidade em impedir que suas lojas comercializem aplicativos capazes de facilitar abusos sexuais e outras formas de violência digital. O escritório também alega que Apple e Google obtiveram receitas com a distribuição desses aplicativos.
Os chamados aplicativos de “nudificação” ganharam popularidade com o avanço da inteligência artificial generativa. Em poucos segundos, eles conseguem alterar fotografias de pessoas vestidas para produzir imagens falsas de nudez extremamente realistas, muitas vezes sem o conhecimento ou consentimento da vítima. Especialistas alertam que a tecnologia tem sido utilizada para assédio, extorsão e divulgação de conteúdo íntimo falso.
O caso reforça o debate mundial sobre a necessidade de regulamentação da inteligência artificial e da responsabilidade das plataformas digitais na prevenção de crimes e abusos envolvendo deepfakes e manipulação de imagens.
