Sistemas de IA, sistemas de alto risco e a Lei de IA para aplicação prática em empresas e órgãos públicos

Konrad Wolfenstein

11 meses atrás

Sistemas de IA, sistemas de alto risco e a Lei de IA para aplicação prática em empresas e órgãos públicos – Imagem: Xpert.Digital

Legislação da UE sobre IA: Novas diretrizes da Comissão Europeia – O que as empresas precisam saber agora

Sistemas de IA, aplicações de alto risco e a Lei de IA em empresas e órgãos públicos.

Em 11 de fevereiro de 2025, a Comissão Europeia publicou diretrizes abrangentes sobre a implementação prática da Lei da UE sobre IA. Essas diretrizes visam ajudar empresas e autoridades públicas a compreender e cumprir melhor os requisitos da Lei. Dá-se especial ênfase às práticas de IA proibidas, aos sistemas de alto risco e às medidas para garantir a conformidade.

Aspectos-chave das diretrizes

Práticas de IA proibidas

A Lei de Inteligência Artificial proíbe explicitamente certas aplicações de IA consideradas como apresentando riscos inaceitavelmente elevados. Essas proibições estão em vigor desde 2 de fevereiro de 2025. Elas incluem, entre outras:

Sistemas de IA que utilizam técnicas de manipulação ou engano.
Sistemas que exploram especificamente as vulnerabilidades de certos indivíduos ou grupos.
Sistemas de pontuação social
Inteligência artificial para prever potenciais atos criminosos sem provas claras.
Extração descontrolada de imagens faciais da internet para identificação biométrica.
Sistemas de reconhecimento de emoções no ambiente de trabalho ou em instituições de ensino
Sistemas biométricos de identificação em tempo real em espaços públicos (com algumas exceções para agências de aplicação da lei)

Essas proibições visam garantir que as tecnologias de IA sejam usadas de forma ética e responsável e não violem direitos fundamentais.

Aplicação prática das diretrizes

As diretrizes de 140 páginas da Comissão Europeia contêm inúmeros estudos de caso práticos para ajudar empresas e autoridades públicas a classificar corretamente seus sistemas de IA. Embora essas diretrizes não sejam juridicamente vinculativas, servem como referência para as autoridades de supervisão no monitoramento e aplicação das regulamentações.

Importância para empresas e autoridades

As empresas e as autoridades devem aderir ativamente às diretrizes para:

Analisar seus sistemas de IA existentes em busca de possíveis violações.
Para fazer os ajustes necessários logo no início.
Criar estruturas internas de conformidade para evitar penalidades.

O não cumprimento das normas pode ter consequências graves. As sanções podem atingir os 35 milhões de euros ou 7% do volume de negócios anual global da empresa, consoante o que for mais elevado.

Próximos passos

Antes que as diretrizes possam ser totalmente implementadas, elas ainda precisam ser traduzidas para todos os idiomas oficiais da UE e formalmente adotadas. No entanto, empresas e autoridades públicas devem tomar medidas proativas para se prepararem para a introdução gradual da Lei de Inteligência Artificial. A plena aplicação da lei está prevista para 2 de agosto de 2026.

Categorização de riscos de sistemas de IA

A Lei de IA da UE divide os sistemas de IA em quatro classes de risco, cada uma com diferentes requisitos regulamentares:

1. Risco Inaceitável – Sistemas de IA Proibidos

Esses sistemas são totalmente proibidos na UE porque representam uma ameaça significativa aos direitos e liberdades dos cidadãos. Exemplos incluem:

Sistemas de IA para pontuação social
Inteligência artificial manipulativa que influencia inconscientemente o comportamento do usuário.
Identificação biométrica em tempo real em espaços públicos para fins de aplicação da lei (com algumas exceções)
Sistemas de IA que exploram vulnerabilidades devido à idade, deficiência ou condição socioeconômica.

2. Alto risco – regulamentação rigorosa necessária

Esses sistemas devem atender a requisitos rigorosos e passar por testes de conformidade antes de serem comercializados. Eles incluem:

Inteligência artificial como componente de segurança em produtos críticos, como dispositivos médicos, veículos ou máquinas.
Sistemas de IA autônomos com implicações para direitos fundamentais (por exemplo, verificação de crédito, triagem de candidaturas, aplicação da lei, administração judicial)

Essas aplicações estão sujeitas a requisitos rigorosos em relação à transparência, gestão de riscos, qualidade de dados e supervisão humana.

3. Risco limitado – obrigações de transparência

Esses sistemas devem informar os usuários de que estão interagindo com IA. Exemplos incluem:

Chatbots
Deepfakes são usados para criar ou manipular conteúdo de mídia.

4. Risco mínimo ou inexistente – Uso gratuito

Tais sistemas não estão sujeitos a quaisquer obrigações legais específicas; no entanto, recomenda-se um código de conduta voluntário. Exemplos incluem:

videogames com inteligência artificial
Filtro de spam

Sistemas de IA de alto risco e sua regulamentação

A Lei de Inteligência Artificial define sistemas de IA de alto risco como aqueles que têm um impacto significativo na segurança, saúde ou direitos fundamentais das pessoas. Estes podem ser divididos em duas categorias principais:

1. IA como componente de segurança ou produto independente

Um sistema de IA é classificado como de alto risco se:

Ele funciona como um componente de segurança de um produto que se enquadra nos regulamentos de harmonização da UE, ou
Está sujeito a uma avaliação de conformidade por apresentar riscos potenciais.

Exemplos desses produtos incluem:

Inteligência artificial em dispositivos médicos (por exemplo, sistemas de diagnóstico)
Sistemas de assistência ao condutor com suporte de IA
Inteligência artificial na produção industrial para avaliação de riscos e garantia de qualidade.

2. Sistemas de IA autônomos de alto risco com relevância social

Esses sistemas estão listados no Anexo III da Lei de IA e afetam áreas críticas da sociedade, tais como:

a) Infraestruturas críticas

Inteligência artificial para controle e monitoramento de redes elétricas ou redes de transporte.

b) Educação e emprego

Inteligência artificial para avaliação automatizada de exames
Inteligência artificial para selecionar candidatos ou avaliar o desempenho de funcionários.

c) Acesso a benefícios financeiros e sociais

Análises de crédito com inteligência artificial
Sistemas para avaliar a elegibilidade para benefícios sociais

d) Aplicação da lei e justiça

Inteligência artificial para análise de evidências e apoio à investigação
Sistemas com suporte de IA para controle de fronteiras e gestão de migrações

e) Identificação biométrica

Sistemas para identificação biométrica remota
Sistemas de reconhecimento de emoções em ambientes críticos para a segurança

Todas essas aplicações de IA de alto risco estão sujeitas a requisitos rigorosos em relação à gestão de riscos, transparência, processamento de dados, documentação técnica e supervisão humana.

Lei da UE sobre IA: Como as empresas podem se preparar para as rigorosas regulamentações de IA

A Lei de IA da UE estabelece um quadro claro para a utilização de tecnologias de IA e dá especial ênfase à proteção dos direitos fundamentais. As empresas e as autoridades públicas devem familiarizar-se completamente com os novos regulamentos e adaptar as suas aplicações de IA em conformidade para evitar sanções. Aplicam-se requisitos particularmente rigorosos aos sistemas de alto risco, que devem ser integrados nos processos de desenvolvimento e implementação numa fase inicial.

O monitoramento contínuo da legislação e as medidas proativas de conformidade são essenciais para garantir o uso responsável da IA, fomentando simultaneamente a inovação dentro do arcabouço legal. Os próximos anos revelarão o desempenho da Lei de IA na prática e quais ajustes adicionais poderão ser necessários.

Adequado para:

Seu parceiro global de marketing e desenvolvimento de negócios

☑️ Nosso idioma comercial é inglês ou alemão

☑️ NOVO: Correspondência em seu idioma nacional!