A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal e a Secretaria Nacional do Consumidor do Ministério da Justiça e Segurança Pública expediram recomendações à empresa controladora da plataforma digital X, por causa de denúncias relacionadas ao uso do Grok, um assistente de inteligência artificial, para gerar conteúdos sintéticos de caráter sexualizado utilizando imagens de pessoas reais.  

Segundo as denúncias veiculadas na imprensa nacional e internacional, a ferramenta tem sido utilizada por usuários para produzir ilegalmente deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais. Também foram reportados casos de imagens de mulheres e crianças nuas ou com roupas íntimas, acessíveis a qualquer usuário, ampliando a exposição indevida e os riscos de danos às pessoas retratadas. 

Segundo as instituições de governo, a gravidade dos fatos noticiados nas denúncias motivou a atuação coordenada. Na avaliação da ANPD, os fatos podem impactar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos coletivos e individuais, em especial de mulheres, crianças e adolescentes. 

Uma das recomendações conjuntas é que sejam implementadas de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas naturais maiores de idade identificadas, em contextos sexualizados, sem autorização. 

Além disso, a empresa que controla a plataforma X também foi orientada a criar, no prazo de 30 dias, procedimentos claros para identificar, revisar e remover conteúdo desse tipo; e suspender imediatamente as contas envolvidas na produção, via Grok, de imagens sexuais ou erotizadas de crianças e adolescentes, e de maiores de idade sem a autorização.

Ainda de acordo com a nota da ANPD, caso as recomendações não sejam acatadas, outras medidas poderão ser adotadas pelas três instituições para garantir a proteção adequada dos cidadãos.

Da Agência Rádio Gov, em Brasília, Ana Gabriella Sales