As autoridades ANPD, MPF e Senacon emitiram recomendações conjuntas à controladora da plataforma X para interromper a geração e a circulação de conteúdos sintéticos sexualizados criados pelo Grok, em resposta a denúncias de abusos envolvendo mulheres, crianças e adolescentes.
Entre as medidas está a implantação imediata de salvaguardas técnicas e operacionais para impedir que o Grok gere novas imagens, vídeos ou áudios em contextos sexualizados sem consentimento, abrangendo todas as versões da ferramenta.
A recomendação também determina que a empresa estabeleça, em até 30 dias, um processo claro para identificar, revisar e remover conteúdos desse tipo já produzidos e ainda disponíveis na plataforma.
Além disso, as entidades exigem a suspensão imediata das contas envolvidas na produção desses materiais, com a apresentação de relatórios mensais às autoridades para comprovar o cumprimento das medidas.
Solicita-se ainda a criação de um mecanismo transparente para titulares de dados exercerem seus direitos e a elaboração de um relatório de impacto à proteção de dados pessoais específico para atividades de geração de conteúdo sintético a partir de imagens, vídeos ou áudios enviados por usuários.
As autoridades alertam que, caso as recomendações não sejam acatadas ou se se tornarem insuficientes para mitigar os riscos, poderão ser adotadas outras medidas administrativas e judiciais. O Idec criticou a abordagem e pediu medidas cautelares para proteger consumidores, principalmente mulheres, crianças e adolescentes.
Ao mesmo tempo, destaca-se que a atuação conjunta visa proteger dados pessoais, relações de consumo e direitos fundamentais, especialmente a dignidade de mulheres, crianças e adolescentes.
