A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X com o objetivo de coibir o uso indevido da ferramenta de inteligência artificial Grok para a geração e disseminação de conteúdos sexualizados irregulares.

De acordo com documento divulgado nesta terça-feira (20), uma das principais recomendações é que a empresa implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos dessa natureza que ainda estejam disponíveis na plataforma, quando produzidos pelo Grok a partir de comandos de usuários.

As instituições também recomendam a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas maiores de idade, quando realizadas sem autorização, por meio da ferramenta de inteligência artificial.

Outro ponto destacado é a necessidade de criação de um mecanismo transparente, acessível e eficaz que permita aos titulares de dados exercerem seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais. O sistema deve garantir resposta adequada e dentro de prazo razoável, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.

As recomendações foram formuladas a partir de denúncias de usuários que relataram a geração de conteúdos sintéticos de caráter sexualizado com base em imagens de pessoas reais. Também serviram de fundamento reportagens da imprensa nacional e internacional, além de testes realizados pelas próprias instituições, que indicaram o uso ilegal do Grok para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais.

Segundo o documento, esses conteúdos apresentam caráter sexualizado, erótico ou com conotação pornográfica e envolvem mulheres, crianças e adolescentes reais, configurando grave violação de direitos. As instituições alertam que tais práticas impactam negativamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, com especial gravidade para mulheres, crianças e adolescentes.

Entre as recomendações conjuntas, está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados. Também é exigida a proibição da geração de conteúdos que retratem pessoas maiores de idade identificadas ou identificáveis em situações sexualizadas ou erotizadas sem consentimento.

O documento ressalta que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicações não seriam responsabilizados por conteúdos danosos publicados por terceiros sem ordem judicial, essa proteção não se aplica integralmente ao caso. Isso porque as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas resultam da interação direta entre usuários e a ferramenta de inteligência artificial criada e disponibilizada pela própria plataforma, o que caracterizaria coautoria na produção do conteúdo.

As instituições também destacam recente decisão do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, por entender que o dispositivo não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, o STF fixou o entendimento de que provedores de aplicação têm dever especial de cuidado para adotar medidas que evitem a circulação massiva de crimes especialmente graves, incluindo aqueles praticados contra mulheres em razão do sexo feminino e conteúdos que propagam ódio.

Por fim, o documento lembra que as próprias políticas de autorregulação do X proíbem a publicação e o compartilhamento de imagens íntimas não consensuais, bem como a produção, manipulação e disseminação de imagens sexualizadas de terceiros no contexto do uso do Grok. Diante disso, as instituições consideram insustentável a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que inibam esse tipo de conduta.

Caso as recomendações não sejam cumpridas ou sejam implementadas de forma insuficiente para mitigar os riscos apontados, a ANPD, a Senacon e o MPF informam que poderão adotar outras medidas, tanto na esfera administrativa quanto judicial, com o objetivo de assegurar a proteção adequada da população, especialmente de mulheres, crianças e adolescentes.