O regulador britânico Ofcom abriu uma investigação formal contra a X para apurar se a plataforma cumpriu as obrigações legais de proteção contra conteúdos ilegais no Reino Unido, em meio a relatos de uso do Grok, chatbot de IA, para criar imagens íntimas não consentidas e conteúdo sexual envolvendo crianças.
A autoridade afirma que a ação está fundamentada na Lei de Segurança Online, que impõe às plataformas a mitigação de riscos associados a conteúdos ilegais prioritários, incluindo CSAM e abuso de imagens íntimas.
Em avaliação de relatos, o Ofcom descreveu como “profundamente preocupantes” as informações recebidas sobre o Grok e informou ter procurado a X em 5 de janeiro. A X respondeu dentro do prazo, até 9 de janeiro, o que permitiu uma avaliação preliminar acelerada das evidências antes da abertura formal da investigação.
O escopo da apuração inclui verificar se a X avaliou adequadamente os riscos para pessoas no Reino Unido; adotou medidas proporcionais para impedir o acesso a conteúdos ilegais prioritários; removeu conteúdos ilegais rapidamente; protegeu a privacidade dos usuários; realizou avaliação específica de riscos para crianças antes de alterações relevantes no serviço; e manteve mecanismos de verificação etária eficientes para restringir acesso de menores.
Caso sejam identificadas violações, a Ofcom pode exigir medidas corretivas e aplicar multas de até £18 milhões ou até 10% da receita global qualificada da empresa, prevalecendo o maior valor. Em casos graves, o regulador pode solicitar ao Judiciário medidas de interrupção de negócios, que podem incluir retirada de serviços de pagamento e publicidade ou bloqueio de acesso à plataforma no Reino Unido.
Além da investigação envolvendo a X, a Ofcom também informou ter recebido resposta da xAI e está a avaliar se existem indícios de não conformidade relacionados à disponibilização do Grok que justifiquem apuração específica sob a Lei de Segurança Online.
