O ETSI anunciou a publicação do ETSI EN 304 223, o primeiro Padrão Europeu (EN) com aplicação global voltado especificamente à cibersegurança de modelos e sistemas de IA, incluindo IA generativa. O documento sucede a Especificação Técnica ETSI TS 104 223, ampliando seu alcance internacional e o peso regulatório nos mercados globais.
A norma consolida 13 princípios distribuídos em cinco fases do ciclo de vida da IA: projeto seguro, desenvolvimento seguro, implantação segura, manutenção segura e fim de vida seguro. Cada etapa está alinhada a modelos de ciclo de vida de IA reconhecidos internacionalmente, com referências explícitas a padrões e publicações relevantes desde o início de cada princípio.
Entre os riscos apontados pela ETSI estão envenenamento de dados, ofuscação de modelos e injeção indireta de prompts, além de vulnerabilidades decorrentes da gestão de dados e operações. O EN 304 223 busca conciliar práticas consolidadas de cibersegurança com medidas específicas para as características de sistemas de IA.
O escopo da norma abrange IA que utilizam redes neurais profundas, incluindo aplicações de IA generativa, em ambientes de implantação no mundo real. Ela se aplica a diferentes elos da cadeia de suprimentos — fornecedores de tecnologia, integradores de sistemas e operadores — oferecendo uma base comum para a implementação de requisitos de segurança.
Como desdobramento prático, a ETSI informou que continuará o tema com a publicação do Relatório Técnico ETSI TR 104 159, voltado à aplicação específica dos princípios do EN 304 223 em IA generativa, abordando temas como deepfakes, desinformação, confidencialidade e propriedade intelectual, além de trazer orientações mais prescritivas quando necessário.
“O EN 304 223 representa um passo importante para estabelecer uma base comum e rigorosa para a segurança de sistemas de IA”, disse Scott Cadzow, presidente do Comitê Técnico para Segurança da Inteligência Artificial do ETSI. “Em um momento em que a IA está sendo cada vez mais integrada a serviços e infraestruturas críticas, a disponibilidade de orientações claras e práticas que reflitam a complexidade dessas tecnologias não pode ser subestimada.”
A ETSI é uma das três organizações oficialmente reconhecidas pela União Europeia como Organizações Europeias de Normalização. Sem fins lucrativos, atua na padronização de TICs e reúne mais de 900 organizações membros de mais de 60 países, incluindo empresas, institutos de pesquisa, academia e governos, sendo responsável pelo desenvolvimento e ratificação de padrões com aplicação global a sistemas, aplicações e serviços digitais.
