A Autoridade Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados indevidos.
De acordo com documento divulgado nesta terça-feira (20), uma das principais recomendações é que a empresa implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos dessa natureza que ainda estejam disponíveis na plataforma, quando produzidos pelo Grok a partir de comandos de usuários.
As instituições também recomendam a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas adultas, quando não houver autorização dos titulares, especialmente nos casos em que o conteúdo tenha sido gerado com o uso da ferramenta de inteligência artificial.
Outra medida apontada é a criação de um mecanismo transparente, acessível e eficaz para que os titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. O sistema deve assegurar resposta adequada e em prazo razoável, sobretudo nos casos de criação de conteúdos sintéticos sexualizados sem consentimento.
As recomendações foram elaboradas após denúncias de usuários, além de reportagens da imprensa nacional e internacional e testes realizados pelas próprias instituições, que indicaram o uso do Grok para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Segundo o documento, esses conteúdos envolvem mulheres, crianças e adolescentes reais, com caráter sexualizado e conotação pornográfica.
Os órgãos alertam que esse tipo de prática afeta não apenas a proteção de dados pessoais, mas também as relações de consumo, a dignidade da pessoa humana e diversos direitos difusos, coletivos e individuais indisponíveis, com impacto especial sobre mulheres, crianças e adolescentes.
Entre as recomendações conjuntas, está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. Também foi defendida a proibição da geração de conteúdos semelhantes envolvendo pessoas adultas identificadas ou identificáveis, sem autorização expressa.
O documento destaca que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não seriam responsabilizados por conteúdos de terceiros sem decisão judicial, as deepfakes sexualizadas não são produzidas exclusivamente por usuários, mas resultam da interação com a ferramenta criada e disponibilizada pela própria plataforma. Dessa forma, o X não seria apenas intermediário, mas coautor desses conteúdos, segundo as instituições.
As recomendações também mencionam recente decisão do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19, ao entender que ele não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, o STF estabeleceu que plataformas digitais têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos que violem direitos das mulheres.
Por fim, ANPD, Senacon e MPF ressaltam que a política interna do X já proíbe nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual ou erotizado, o que tornaria insustentável a oferta de uma ferramenta de inteligência artificial sem filtros rigorosos.
Caso as recomendações não sejam cumpridas ou sejam adotadas de forma insuficiente, as instituições informam que outras medidas administrativas e judiciais poderão ser adotadas, com o objetivo de garantir a proteção adequada da população brasileira, especialmente de mulheres, crianças e adolescentes.
