Este mês, a Comissão Europeia iniciou um novo procedimento formal contra a plataforma X (antigo Twitter), sob o Regulamento dos Serviços Digitais (DSA). A investigação busca apurar se a empresa implementou mecanismos eficazes de mitigação dos riscos gerados pela adoção das funcionalidades Grok na UE, além de ampliar diligências iniciadas em dezembro de 2023 para avaliar a gestão de riscos dos seus sistemas de recomendação.
Segundo a CE, os riscos envolvem a difusão de conteúdos ilegais no bloco, incluindo imagens manipuladas com conteúdo sexual explícito, envolvendo menores. A análise visa verificar se o X cumpre as obrigações do DSA, com foco na avaliação diligente de riscos sistêmicos e na mitigação de impactos negativos, como violência baseada no gênero e danos ao bem-estar física e mental decorrentes da implantação das funcionalidades Grok.
A CE encaminha a elaboração de um relatório ad hoc de avaliação dos riscos para as funcionalidades Grok no serviço X, com impacto crítico no perfil de risco antes da implantação. Além disso, o órgão abriu o procedimento para revisar se o X avaliou e mitigou adequadamente os riscos dos seus sistemas de recomendação, incluindo o impacto da transição anunciada para um sistema baseado no Grok. Caso comprovados, tais descumprimentos constituiriam infrações, com medidas prioritárias de investigação.
No Brasil, o Grok também está sob observação de autoridades nacionais. O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) emitiram recomendações à controladora da plataforma, após denúncia do Idec. O Idec sustenta que a resposta dada pela ANPD, Senacon e MPF não tratou o caso como emergência que exige ação imediata, ressaltando a gravidade de violações envolvendo dados pessoais, incluindo de crianças, na geração de imagens por meio do Grok.
