O Instituto de Defesa do Consumidor (Idec) solicitou ao governo federal a suspensão da ferramenta de inteligência artificial generativa Grok, integrada à plataforma X (antigo Twitter), devido a denúncias de violações graves a direitos de crianças, adolescentes e mulheres.
O pedido foi formalizado por meio de ofício encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Segundo o Idec, há evidências de violações “graves e reiteradas” de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da Grok. A entidade afirma que a ferramenta tem sido utilizada para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores, sem salvaguardas mínimas de segurança ou de prevenção de abusos.
No ofício, o Idec sustenta que o problema caracteriza defeito grave na prestação do serviço, conforme o Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança esperado pelos usuários e pelas vítimas dos danos. O documento também aponta potenciais violações à LGPD, ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao ECA Digital, recentemente aprovado.
O instituto observa ainda que o caso já gerou reações internacionais, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia, reforçando o caráter sistêmico e global das falhas associadas ao uso da Grok. A ausência de mecanismos eficazes de mitigação é descrita como um risco concreto e contínuo de danos.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, disse o Idec no documento.
Por fim, o Idec afirma que o caso da Grok deve ser considerado nos debates em curso sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, articulada pelo Comitê Intersetorial, e no processo de regulação da IA, especialmente no âmbito do PL nº 2338/2023, visando assegurar proteção reforçada a crianças e adolescentes diante de usos de IA que possam causar danos irreversíveis.
