O Instituto de Defesa de Consumidores (Idec) enviou um ofício, nesta segunda-feira, ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, pedindo providências diante de supostas violações associadas ao uso da ferramenta Grok, IA generativa integrada à plataforma X (antigo Twitter).
O Comitê, que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República (Secom) e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda), foi alvo do pedido do Idec.
Conforme a entidade de defesa do consumidor, há evidências de violações a direitos fundamentais, principalmente envolvendo crianças, adolescentes e mulheres, relacionadas ao funcionamento da Grok.
O Idec aponta que a Grok tem sido utilizada para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico com pessoas reais, inclusive menores, sem salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.
Para o instituto, trata-se de defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), pois a plataforma não oferece o nível de segurança esperado. Também há alegações de violações à LGPD, ao Marco Civil da Internet, ao ECA e ao ECA Digital.
O caso já provocou reações internacionais, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia. Em Indonésia e Malásia, a Grok foi bloqueada após incidentes envolvendo a exposição de mulheres e menores em imagens manipuladas.
O Idec conclui que inovação tecnológica sem responsabilidade gera danos reais. Em defesa de proteção reforçada a crianças e adolescentes, o instituto sugere que o tema figure nas discussões sobre regulação de IA, especialmente no PL 2338/2023, com votação prevista para este ano.
