Plataforma tem 30 dias para criar filtros e suspender contas
Usuários da plataforma X podem ter suas imagens usadas para criar conteúdos sexuais falsos pela inteligência artificial Grok. A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) recomendaram à empresa medidas imediatas para conter a prática. As instituições deram um prazo de 30 dias para a criação de procedimentos técnicos que identifiquem e removam esse material. Conforme relato enviado ao portal, as entidades basearam a ação em denúncias de usuários, reportagens e testes próprios. Os exames comprovaram que a ferramenta Grok gera *deepfakes* sexualizados envolvendo mulheres, crianças e adolescentes. O documento conjunto classifica a plataforma como coautora dos conteúdos ilícitos, já que fornece a ferramenta de IA sem os filtros adequados.
STF muda regra e amplia dever de cuidado das plataformas
A justificativa para a intervenção direta recai sobre uma recente decisão do Supremo Tribunal Federal (STF). A Corte reconsiderou o artigo 19 do Marco Civil da Internet. O STF entendeu que a regra não protege suficientemente direitos constitucionais. A decisão estabeleceu um dever de cuidado especial para as plataformas. Elas precisam adotar todas as providências para evitar a circulação massiva de crimes graves. O texto das recomendações destaca a contradição nas políticas do X. A própria plataforma proíbe a publicação de nudez não consensual e a manipulação de imagens com conteúdo sexualizado. No entanto, o Grok opera sem os controles rígidos necessários para impedir essas mesmas condutas.
Suspensão de contas e canal de denúncia são exigidos
As medidas exigidas são concretas. A primeira é a suspensão imediata das contas envolvidas na produção de imagens sexuais sintéticas, com ou sem autorização dos retratados. A segunda é a implementação de um mecanismo transparente de denúncias. As vítimas devem poder reportar o uso irregular de seus dados pessoais e receber uma resposta em prazo razoável. O foco da ação recai sobre a proteção de grupos vulneráveis. As instituições alertam para o impacto desse conteúdo na dignidade de mulheres, crianças e adolescentes. O risco atinge a proteção de dados pessoais e as relações de consumo. Caso a empresa não acate as recomendações ou as implemente de modo insuficiente, as três instituições podem adotar outras medidas. Essas ações podem ocorrer nas esferas administrativa e judicial.
