O Comitê Gestor da Internet no Brasil (CGI.br) divulgou uma nota técnica com recomendações de mudanças ao PL 2.338/2023, o marco regulatório de IA em tramitação na Câmara. A análise aponta um avanço regulatório, mas destaca pontos a aprimorar para ampliar a proteção de direitos fundamentais.
A regulação é descrita como “assimétrica e baseada em riscos”, com obrigações mais rigorosas para aplicações de maior potencial de impacto, buscando equilibrar proteção de direitos com estímulo à inovação e ao desenvolvimento do setor no país.
O CGI.br sustenta que a análise preliminar de risco de sistemas de IA deve ser obrigatória antes da entrada no mercado, afirmando que a avaliação é essencial para a aplicação da lei e para identificar com precisão o grau de risco das tecnologias.
Usos inaceitáveis — a nota sugere ampliar a vedação à produção de conteúdo sexual sintético sem consentimento, incluindo sistemas que criem ou disseminem material que retrate nudez ou conteúdo sexual sem autorização das pessoas retratadas.
O comitê também comenta o uso de identificação biométrica à distância, como reconhecimento facial em espaços públicos. Observa que as exceções previstas no projeto podem levar a monitoramento em larga escala e defende manter a proibição, com futuras exceções definidas por legislação específica e regulamentação.
Em relação à segurança pública e à chamada policiamento preditivo, o CGI.br alerta para potenciais efeitos discriminatórios e violações de princípios como a presunção de inocência, recomendando cautela no emprego de tais sistemas.
Outra controvérsia tratada na nota é a retirada de um dispositivo que impede a atuação regulatória sobre IA que possa afetar a liberdade de expressão, como ferramentas de moderação de conteúdo. O CGI.br argumenta que impedir o regulador de atuar nesses casos é incongruente com os fundamentos da lei.
Em síntese, o comitê defende uma regulação que proteja direitos e, ao mesmo tempo, fomente inovação, desde que haja mecanismos de avaliação robustos e delimitação clara de usos e exceções futuras.
