EU AI Act (Regulamento UE 2024/1689) Regulamento europeu

41 controles, organizados por grupo, com resumo em português.

Regulamento europeu de IA, o primeiro regime abrangente de regulação de IA do mundo. Classifica sistema de IA por nível de risco (proibido, alto risco, risco limitado, risco mínimo) e impõe obrigação proporcional a cada nível: prática proibida (Art. 5), letramento em IA (Art. 4), requisito completo de gestão de risco/dado/documentação/supervisão humana pra sistema de alto risco (Art. 9-17), transparência pra chatbot e conteúdo sintético/deepfake (Art. 50) e obrigação específica pra modelo de IA de propósito geral (GPAI, Art. 53-55). Diferente do NIS2 (Diretiva), é Regulamento: diretamente aplicável em todo Estado-membro, sem precisar de lei nacional intermediária — mesmo regime do GDPR/DORA.

Fonte oficial · A cor indica o perfil em que cada controle entra: Básico Intermediário Avançado.

É regulamento da União Europeia (texto de acesso público via EUR-Lex). Os números de artigo e as obrigações que eles impõem são citação factual do próprio Regulamento (texto legal, domínio público). As descrições em português são elaboração própria da InfoCuestaSec pra fins didáticos, não tradução oficial. Divisão em Perfil 1/2/3 é organização didática nossa, não uma classificação oficial do Regulamento.

PROIB Práticas Proibidas

PROIB.1
Confirmar que nenhum sistema usado ou desenvolvido emprega técnica subliminar, manipulativa ou enganosa que distorça o comportamento de forma a causar dano (Art. 5.1.a). Prática manipulativa/subliminar é a categoria mais grave do AI Act (multa de até €35M/7% do faturamento) — evitar não é opcional em nenhum nível de maturidade.
Básico
PROIB.2
Confirmar que nenhum sistema explora vulnerabilidade de idade, deficiência ou situação socioeconômica de um grupo específico de pessoas (Art. 5.1.b). Explorar vulnerabilidade de um grupo (idade, deficiência, situação econômica) pra distorcer decisão dele é proibido mesmo que a intenção declarada seja outra.
Básico
PROIB.3
Confirmar que nenhum sistema faz pontuação social (social scoring) com tratamento prejudicial desproporcional ou fora de contexto ao comportamento real (Art. 5.1.c). Pontuação social com efeito desproporcional ou fora do contexto original é proibida mesmo quando o dado usado é real e coletado legalmente.
Básico
PROIB.4
Confirmar que nenhum sistema faz avaliação ou predição de risco criminal baseada só em perfilamento ou traço de personalidade (Art. 5.1.d). Prever criminalidade só por perfil ou traço de personalidade reproduz viés histórico e não tem base causal — é proibido mesmo com boa intenção declarada.
Intermediário
PROIB.5
Confirmar que nenhum sistema faz identificação biométrica remota em tempo real em espaço público pra fins de aplicação da lei fora das exceções estritas previstas (Art. 5.1.h). Identificação biométrica em tempo real em espaço público é vigilância em massa por padrão — só as exceções estritas da lei (pessoa desaparecida, ameaça iminente, crime grave) afastam a proibição.
Intermediário

LIT Letramento em IA

LIT.1
Garantir nível suficiente de letramento em IA de colaboradores e terceiros que operam ou usam sistema de IA em nome da organização, considerando conhecimento técnico e contexto de uso (Art. 4). Equipe sem letramento mínimo em IA não consegue reconhecer quando um sistema está classificado errado, enviesado ou sendo usado fora do propósito original.
Básico
LIT.2
Adaptar o treinamento de letramento em IA ao público afetado pela decisão do sistema, não só a quem opera o sistema (Art. 4). Treinar só quem opera o sistema e ignorar quem é afetado pela decisão deixa de fora justamente quem mais precisa entender o que está acontecendo.
Intermediário

CLASS Classificação de Risco

CLASS.1
Determinar se algum sistema de IA usado ou desenvolvido se enquadra nas categorias de alto risco do Anexo III (biometria, infraestrutura crítica, educação, emprego, acesso a serviço essencial, aplicação da lei, migração, justiça) (Art. 6-7). Sem saber se um sistema é de alto risco, a organização não sabe quais das dezenas de obrigações dos Art. 9-21 realmente se aplicam a ela.
Básico
CLASS.2
Documentar formalmente a análise de classificação de risco de cada sistema, incluindo a justificativa quando um sistema do Anexo III for tratado como não-alto-risco por executar tarefa procedural restrita (Art. 6.3). Classificação de risco feita de cabeça e nunca documentada não resiste a uma auditoria nem sobrevive à saída da pessoa que decidiu.
Intermediário

LIMIT Transparência de Risco Limitado

LIMIT.1
Informar a pessoa física, de forma clara, que está interagindo com um sistema de IA (ex.: chatbot), a menos que seja óbvio pelo contexto (Art. 50.1). Pessoa que não sabe estar falando com uma IA não consegue calibrar o quanto confiar na resposta nem exercer o direito de pedir atendimento humano.
Básico
LIMIT.2
Rotular de forma detectável (marca d'água, metadado) conteúdo sintético/manipulado — imagem, áudio ou vídeo gerado ou alterado por IA (deepfake) (Art. 50.4). Deepfake sem rótulo é o cenário exato que motivou essa regra — sem marca detectável, o conteúdo sintético circula como se fosse registro real.
Básico
LIMIT.3
Divulgar que texto publicado com o propósito de informar o público sobre assunto de interesse público foi gerado ou manipulado por IA, a menos que passe por revisão editorial humana com responsabilidade editorial (Art. 50.4). Texto informativo gerado por IA sem aviso, quando trata de assunto de interesse público, pode ser confundido com jornalismo com responsabilidade editorial humana.
Intermediário

RISC Gestão de Risco (Alto Risco)

RISC.1
Estabelecer e manter sistema de gestão de risco ao longo de todo o ciclo de vida do sistema de alto risco, com identificação, estimativa e avaliação contínua de risco (Art. 9). Sem gestão de risco contínua, um sistema de alto risco pode ficar anos operando com uma falha que só seria pega se alguém a procurasse de propósito.
Avançado
RISC.2
Adotar medida de mitigação de risco proporcional, incluindo teste do sistema antes da colocação no mercado (Art. 9). Mitigação de risco sem teste prévio é uma aposta de que o ajuste funcionou, não uma confirmação — o mesmo raciocínio de qualquer controle de segurança não testado.
Avançado

DADOS Governança de Dados de Treinamento

DADOS.1
Usar conjunto de dados de treinamento, validação e teste relevante, suficientemente representativo e, na medida do possível, livre de erro e completo pro propósito pretendido (Art. 10). Modelo treinado com dado não representativo herda a distorção do dado e produz resultado pior justamente pra quem está sub-representado nele.
Avançado
DADOS.2
Examinar o conjunto de dados quanto a viés (bias) que possa afetar direito fundamental ou levar a discriminação proibida por lei da UE (Art. 10.2.f). Viés não examinado no dado de treinamento vira discriminação sistemática na saída do modelo, mesmo sem nenhuma intenção discriminatória no código.
Avançado

DOC Documentação Técnica

DOC.1
Elaborar documentação técnica ANTES da colocação no mercado, demonstrando conformidade e permitindo avaliação pela autoridade competente (Art. 11, Anexo IV). Sem documentação técnica pronta antes do lançamento, a organização não tem como provar conformidade se for questionada por uma autoridade depois.
Avançado
DOC.2
Manter a documentação técnica atualizada durante todo o ciclo de vida do sistema (Art. 11). Documentação técnica desatualizada some do papel a mudança real que o sistema sofreu, deixando a organização descrevendo um sistema que já não existe mais daquele jeito.
Avançado

REG Registro e Manutenção de Logs

REG.1
Projetar o sistema pra registrar automaticamente evento (log) relevante pra identificar situação de risco à saúde, segurança ou direito fundamental (Art. 12). Sem log automático de evento relevante, uma falha de segurança ou direito fundamental só é percebida se alguém relatar o efeito, nunca pela causa registrada.
Avançado
REG.2
Manter o log gerado sob controle do provedor pelo período apropriado, respeitando a lei aplicável (Art. 12, Art. 19). Log apagado cedo demais elimina justamente a evidência que permitiria investigar um incidente depois que ele já aconteceu.
Avançado

TRANSP Transparência ao Deployer

TRANSP.1
Fornecer instrução de uso clara e adequada ao deployer, incluindo capacidade, limitação e nível de precisão esperado do sistema (Art. 13). Deployer sem instrução clara de limitação e precisão do sistema tende a confiar nele além do que o sistema realmente suporta.
Intermediário
TRANSP.2
Informar ao deployer sobre a supervisão humana necessária, incluindo medida técnica pra facilitar a interpretação do resultado do sistema (Art. 13). Sem saber que tipo de supervisão humana o sistema espera, o deployer pode deixar a decisão passar sem revisão nenhuma, achando que já está coberto.
Intermediário

SUPERV Supervisão Humana

SUPERV.1
Projetar o sistema pra permitir supervisão humana efetiva durante o período de uso, incluindo a capacidade de interromper ou ignorar o resultado (Art. 14). Sistema que não permite interromper ou ignorar o próprio resultado transforma a 'supervisão humana' em formalidade sem poder real.
Intermediário
SUPERV.2
Designar pessoa física com competência, treinamento e autoridade necessária pra exercer a supervisão humana do sistema (Art. 14.3). Supervisão feita por alguém sem competência ou autoridade real pra intervir é supervisão só no papel, não na prática.
Avançado

PERF Precisão, Robustez e Cibersegurança

PERF.1
Alcançar nível apropriado de precisão, robustez e cibersegurança ao longo do ciclo de vida, declarado em métrica na documentação técnica (Art. 15). Sistema sem métrica declarada de precisão/robustez não permite que ninguém, nem o próprio provedor, saiba se ele está de fato operando dentro do esperado.
Avançado
PERF.2
Implementar medida técnica contra tentativa de manipulação adversarial (adversarial attack) e falha decorrente de retroalimentação (feedback loop) do próprio sistema (Art. 15.4-15.5). Sistema vulnerável a ataque adversarial pode ser manipulado por quem descobre o padrão de entrada que engana o modelo, sem precisar de acesso interno nenhum.
Avançado

QMS Sistema de Gestão de Qualidade

QMS.1
Manter sistema de gestão de qualidade documentado, cobrindo estratégia de conformidade regulatória, controle de design, gestão de dado, gestão de risco e monitoramento pós-mercado (Art. 17). Sem um sistema de gestão de qualidade formal, cada decisão de conformidade fica isolada e depende da memória de quem a tomou, não de um processo repetível.
Avançado

CONF Avaliação de Conformidade e Registro

CONF.1
Submeter o sistema de alto risco à avaliação de conformidade aplicável (interna ou por organismo notificado, conforme o Anexo III) antes da colocação no mercado (Art. 43). Colocar sistema de alto risco no mercado sem a avaliação de conformidade exigida é, por si só, uma violação — independente de o sistema funcionar bem ou não.
Avançado
CONF.2
Emitir Declaração de Conformidade UE e afixar a marcação CE antes da colocação no mercado ou entrada em serviço (Art. 47-49). Marcação CE afixada sem a Declaração de Conformidade real por trás é uma alegação de conformidade que a organização não consegue sustentar se questionada.
Avançado
CONF.3
Registrar o sistema de alto risco (ou, quando aplicável, o próprio provedor) na base de dados pública da UE de sistemas de alto risco antes da colocação no mercado (Art. 49, 71). Sistema de alto risco não registrado na base pública da UE fica invisível pra fiscalização e pra qualquer pessoa que queira checar se ele é legítimo.
Avançado

DEPLOY Obrigações do Deployer

DEPLOY.1
Usar o sistema de alto risco de acordo com a instrução de uso fornecida pelo provedor (Art. 26.1). Usar o sistema fora da instrução do provedor transfere pro deployer a responsabilidade por qualquer resultado que a instrução original não cobria.
Intermediário
DEPLOY.2
Designar pessoa física competente pra exercer a supervisão humana do sistema, com autoridade real pra intervir (Art. 26.2-26.3). Supervisão sem uma pessoa designada com autoridade real de intervir é a mesma falha do lado do provedor (SUPERV.2), só que do lado de quem usa o sistema no dia a dia.
Intermediário
DEPLOY.3
Monitorar a operação do sistema com base na instrução de uso e informar o provedor/autoridade competente quando identificar risco (Art. 26.5). Deployer que não monitora a operação real do sistema só descobre um problema quando ele já causou dano visível, nunca antes.
Intermediário
DEPLOY.4
Realizar avaliação de impacto sobre direitos fundamentais antes de usar sistema de alto risco listado no Anexo III, quando exigido (órgão público, serviço essencial privado, seguro, banco) (Art. 27). Avaliação de impacto sobre direitos fundamentais pulada antes do uso deixa a organização sem registro prévio de que pensou nas pessoas afetadas antes de agir.
Avançado

MONIT Monitoramento Pós-Mercado e Incidente Grave

MONIT.1
Manter sistema de monitoramento pós-mercado proporcional, coletando e analisando dado sobre o desempenho do sistema ao longo da vida útil (Art. 72). Sem monitoramento pós-mercado, o provedor só sabe que o sistema degradou quando um cliente reclama, não antes.
Avançado
MONIT.2
Reportar incidente grave (serious incident) à autoridade de mercado competente dentro do prazo definido pela gravidade (regra geral 15 dias; morte, 10 dias; risco generalizado ou de infraestrutura crítica, 2 dias) (Art. 73). Reporte de incidente fora do prazo é, por si só, uma não conformidade adicional além do próprio incidente — mesmo padrão já visto no NIS2.
Avançado

GPAI Modelos de IA de Propósito Geral (GPAI)

GPAI.1
Manter documentação técnica do modelo de propósito geral, incluindo processo de treinamento e teste (Art. 53.1.a, Anexo XI). Sem documentação do processo de treinamento, quem integra o modelo downstream não consegue avaliar risco nem limitação antes de usá-lo.
Intermediário
GPAI.2
Publicar sumário suficientemente detalhado do conteúdo usado pra treinar o modelo, conforme modelo padronizado do AI Office (Art. 53.1.d). Sumário de conteúdo de treinamento ausente impede que titular de direito autoral ou pesquisador avalie se o próprio material foi usado sem consentimento.
Intermediário
GPAI.3
Manter política de conformidade com direito autoral da UE, incluindo respeito a reserva de direito expressa via opt-out de titular de obra (Art. 53.1.c). Modelo treinado ignorando reserva de direito autoral expõe o provedor (e, por extensão, quem usa o modelo) a risco jurídico direto de violação de direito autoral.
Intermediário
GPAI.4
Para modelo com risco sistêmico (treinado com mais de 10²⁵ FLOPs, ou designado pela Comissão): notificar a Comissão Europeia em até 2 semanas após atingir o critério (Art. 51-52). Notificação atrasada sobre risco sistêmico tira da Comissão o tempo de reação que a regra foi desenhada pra garantir.
Avançado
GPAI.5
Para modelo com risco sistêmico: realizar avaliação do modelo incluindo teste adversarial (red teaming), avaliar e mitigar risco sistêmico, garantir cibersegurança adequada e reportar incidente grave ao AI Office (Art. 55). Modelo de risco sistêmico sem teste adversarial dedicado pode ter vulnerabilidade grave nunca descoberta antes de ser explorada em escala.
Avançado