Equipes de segurança acumularam assistentes, copilotos e agentes de inteligência artificial em produção sem inventário, responsável definido ou critério de risco — e essa lacuna deixou de ser apenas técnica para virar item de auditoria. A resposta prática é estruturar um sistema de gestão de IA (AIMS) seguindo a ISO/IEC 42001, primeiro padrão internacional de sistema de gestão de inteligência artificial, editado pela ISO/IEC em 2023. A norma alcança quem desenvolve, fornece ou usa IA, de qualquer porte e setor, e ganhou urgência regulatória na Europa depois que o AI Act tornou-se aplicável em 2 de agosto de 2026. A ação prioritária é catalogar todos os sistemas de IA em uso e cruzar cada caso com as obrigações que já vigoram ou que chegam em 2027 e 2028.
Por que IA exige governança
O uso de IA sem governança produz três falhas concretas: ninguém sabe quantos modelos operam na empresa, nenhuma avaliação de impacto documenta decisões automatizadas e nenhum contrato cobre a IA embutida em produtos de terceiros. Para a defesa, isso significa pontos cegos em dados sensíveis, credenciais de API espalhadas e logs que ninguém revisa. A ISO/IEC 42001 trata o problema como qualquer outro sistema de gestão: política, objetivos, processos e melhoria contínua pelo ciclo Plan-Do-Check-Act, em vez de avaliação pontual por projeto. É a mesma lógica que a equipe já aplica em segurança da informação; muda o objeto gerenciado, não a disciplina.
O escopo também é explícito: a norma vale para organizações de qualquer tamanho que desenvolvam, forneçam ou usem produtos e serviços baseados em IA, de empresas de tecnologia e instituições financeiras a hospitais, indústria e administração pública. Isso permite tratar a IA contratada de fornecedor com o mesmo rigor da IA construída internamente — o contorno direto para a IA sombra espalhada pelos departamentos, que costuma aparecer primeiro nas ferramentas de monitoramento da equipe de segurança.
O que a norma exige
O corpo da norma organiza as exigências em blocos familiares de quem opera um SGSI: contexto da organização e liderança; política e objetivos de IA; gestão de risco aplicada a sistemas de IA; governança de dados e controles ao longo do ciclo de vida; transparência e prestação de informações; avaliação de desempenho e monitoramento; e melhoria contínua. A certificação é voluntária, e a própria ISO não certifica organizações — os certificados são emitidos por organismos de certificação independentes, que podem ser acreditados por entidades nacionais de acreditação.
Antes de discutir auditoria, o mínimo operacional que a norma induz já é útil:
- Inventário de sistemas de IA com dono, finalidade e criticidade;
- Política de IA aprovada pela diretoria e divulgada internamente;
- Registro de risco de IA conectado ao registro corporativo de riscos;
- Avaliação de impacto por sistema relevante, com revisão datada e assinada;
- Controles de dados: origem, qualidade, base legal e retenção;
- Métricas de desempenho e monitoramento contínuo em produção.
Como ligar norma e AI Act
O AI Act é o primeiro marco legal abrangente sobre IA no mundo e classifica os sistemas em quatro níveis de risco, com nove práticas proibidas — oito já em vigor desde fevereiro de 2025 e uma nona, contra aplicativos de nudez forjada, que entra em dezembro de 2026. As regras de transparência, como avisar que o interlocutor é uma máquina e marcar conteúdo sintético, passaram a valer em agosto de 2026. Depois do pacote de simplificação apelidado de AI Omnibus, as regras do AI Act para os casos de alto risco do Anexo III passam a valer em 2 de dezembro de 2027, e as exigências para IA embutida em produtos regulados começam em 2 de agosto de 2028.
Para modelos de propósito geral, as obrigações de transparência, direitos autorais e segurança valem desde agosto de 2025, com um código de práticas voluntário ajudando a operacionalizar o cumprimento. Quem embute esses modelos em produtos próprios herda parte das exigências ao longo da cadeia — mais um motivo para o inventário registrar a origem de cada modelo, inclusive o fornecedor da API.
O calendário esticado não reduz o trabalho. A fiscalização já atua desde agosto de 2026, com o AI Office cuidando dos modelos de propósito geral e das plataformas muito grandes, e autoridades nacionais responsáveis pelos demais sistemas. Infrações envolvendo práticas proibidas podem resultar em multas de até 35 milhões de euros ou 7% do faturamento anual mundial, número que a alta direção entende rápido. A ISO/IEC 42001 não substitui a lei nem antecipa veredito de conformidade, mas fornece a estrutura de gestão que produz a evidência documental que o regulador pede: quem aprovou, qual risco foi avaliado, qual controle existe e onde está o registro.
A correspondência entre as obrigações de alto risco e o sistema de gestão é direta:
| Obrigação do AI Act | Prática no AIMS | Evidência para arquivar |
|---|---|---|
| Avaliação e mitigação de risco | Avaliação de impacto de IA | Registro com versão, dono e decisão |
| Qualidade dos conjuntos de dados | Governança de dados | Linhagem e testes de viés documentados |
| Registro de atividades | Monitoramento e logging | Retenção e integridade dos logs |
| Documentação detalhada | Controles do ciclo de vida | Dossiê técnico por sistema |
| Informação clara ao utilizador | Transparência | Avisos e termos versionados |
| Supervisão humana | Papéis e responsabilidades | Matriz de escalonamento e treinamento |
| Robustez, segurança e precisão | Gestão de risco de segurança | Testes, correções e métricas |
Implantação em fases P1 e P2
Uma sequência realista — sugerida aqui como plano de trabalho próprio, a ajustar ao tamanho da operação — separa o essencial do maduro em duas ondas.
P1 — fundamentos. Congelar o inventário de IA, atribuir um responsável por sistema, aprovar a política de IA e classificar cada caso segundo o risco regulatório e o impacto sobre dados pessoais. Sem esse inventário, qualquer métrica posterior é ficção: não se mede o que não se listou. O corte natural de prioridade são os sistemas que decidem sobre pessoas, acessam dados sensíveis ou já sustentam processos críticos.
P2 — maturidade. Executar avaliações de impacto nos casos prioritários, integrar o risco de IA ao registro corporativo e definir métricas de desempenho do próprio sistema de gestão — a lógica de medição é a mesma das métricas de segurança com a ISO 27004. Em paralelo, conectar os assistentes críticos ao plano de continuidade de negócio, seguindo o caminho da revisão da ISO 22301, porque uma ferramenta de IA que virou dependência operacional precisa de alternativa quando falhar ou for desativada por decisão regulatória.
Erros que derrubam a auditoria
Cinco padrões de falha aparecem com frequência em programas jovens de governança de IA:
- Política genérica sem inventário: o auditor pede a lista de sistemas e ela não existe;
- Risco de IA isolado do risco corporativo: avaliação que não muda decisão não é gestão;
- Evidência sem data nem responsável: revisão sem registro vale como ausência;
- Ignorar IA de terceiros: contrato sem cláusula de uso de dados deixa lacuna regulatória;
- Supervisão humana só no papel: sem escalonamento treinado, o controle é teórico.
Para a equipe defensiva, o resultado esperado é concreto: cada sistema de IA com dono nomeado, risco classificado, evidência arquivada e resposta definida quando o uso passa do limite — a mesma disciplina que o time já aplica a identidades, acessos e vulnerabilidades, agora estendida a modelos e agentes.