Guias

Um guia de Vitor Araujo

Governança de IA

As 10 perguntas mais feitas sobre governança de IA.

Gravura: um gigante coroado, com espada e báculo, cujo corpo é formado por centenas de pessoas, ergue-se sobre uma paisagem com uma cidade.
A capa do Leviatã, de Thomas Hobbes (1651): o corpo do soberano é feito de pessoas. CC0. Wikimedia Commons

O que você vai ler

01

O que é governança de IA?

Governança de IA é o conjunto de regras, responsabilidades e práticas para lidar com os riscos da inteligência artificial. Isso inclui definir quem responde pelas decisões, documentar o que é feito e testar os sistemas em condições parecidas com as do uso real.

Organizações que fornecem ou usam IA já contam com normas de gestão e princípios internacionais para orientar esse trabalho. Eles tratam não só do funcionamento da tecnologia, mas também de responsabilidade, transparência, privacidade e respeito aos direitos humanos.

  1. O guia voluntário do NIST define governança como políticas, papéis, documentação e cultura para lidar com riscos de IA, atribui responsabilidade à alta liderança e pede testes com especialistas que não construíram os sistemas.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
  2. A ISO/IEC 42001 estabelece requisitos para criar, manter e melhorar continuamente a gestão de IA em organizações de qualquer porte que forneçam ou usem essa tecnologia.ISO/IEC 42001:2023, Information technology, Artificial intelligence, Management system · ISO/IEC JTC 1/SC 42, International Organization for Standardization (catalogue entry at NSAI, Ireland's national standards body), 2023
  3. Os Princípios de IA da OCDE, atualizados em maio de 2024, pedem respeito aos direitos humanos, transparência, segurança e responsabilização.OECD AI Principles · OECD, OECD.AI, 2024

O que eu penso: Eu começaria cada novo uso de IA definindo quem responde pelas decisões e testando o sistema em condições parecidas com as do uso real antes de prometer resultados.

02

O que é IA responsável?

IA responsável é desenvolver e usar inteligência artificial com testes, proteção dos direitos das pessoas e responsáveis definidos pelas decisões e pelos riscos. Isso inclui proteger a privacidade, controlar vieses prejudiciais, explicar o funcionamento e manter supervisão humana.

Os Princípios de IA da OCDE, atualizados em maio de 2024 e com adesão do Brasil, pedem respeito aos direitos humanos, transparência e responsabilização. O guia do NIST traduz essas preocupações em tarefas como definir responsáveis, documentar decisões e testar sistemas em condições próximas do uso real.

  1. O NIST orienta que a liderança assuma responsabilidade pelos riscos de IA e que especialistas que não construíram o sistema participem de testes em condições próximas do uso real.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
  2. Os Princípios de IA da OCDE pedem respeito aos direitos humanos, justiça, privacidade, transparência, segurança e responsabilização.OECD AI Principles · OECD, OECD.AI, 2024
  3. A recomendação da UNESCO coloca a dignidade humana e a supervisão por pessoas entre os fundamentos da IA e pede sistemas que possam ser auditados e rastreados.Recommendation on the Ethics of Artificial Intelligence · UNESCO, UNESCO, 2021

O que eu penso: Eu só ampliaria o uso de IA depois de testar seu desempenho e seus riscos em condições próximas do uso real, definir responsáveis e estabelecer proteções para a dignidade das pessoas.

03

Uma empresa pode culpar a IA por um erro?

Culpar a IA não é garantia de escapar da responsabilidade: um tribunal canadense responsabilizou a Air Canada pelas informações erradas do chatbot em seu site.

Gravura: a Justiça, de olhos vendados, com espada e balança, sentada num trono entre a Paz e um soldado.
A Justiça, no frontispício de uma edição de 1773 de O Direito da Guerra e da Paz, de Hugo Grócio. Domínio público. Wikimedia Commons

A questão também alcança quem fabrica o software. Segundo a Comissão Europeia, a nova diretiva de responsabilidade por produtos defeituosos inclui sistemas de IA e vale para produtos colocados no mercado depois de 8 de dezembro de 2026.

  1. No caso Moffatt contra Air Canada, o tribunal rejeitou a ideia de que o chatbot responderia pelos próprios atos e decidiu que a empresa responde pelas informações de seu site.Moffatt v. Air Canada, 2024 BCCRT 149 · Civil Resolution Tribunal of British Columbia (tribunal member Christopher C. Rivers), Civil Resolution Tribunal, British Columbia, Canada, 2024
  2. A CBC News noticiou que a Air Canada foi condenada a indenizar um passageiro que comprou passagens pelo preço cheio após receber orientação errada do chatbot sobre um desconto por luto.Air Canada found liable for chatbot's bad advice on plane tickets · Jason Proctor, CBC News, 2024
  3. A Comissão Europeia informa que a nova diretiva permite responsabilizar fabricantes por defeitos de software, inclusive os que surgem após o lançamento por atualizações ou aprendizado de máquina.Liability for defective products (Directive (EU) 2024/2853) · European Commission, European Commission, Single Market and Economy, 2024

O que eu penso: Eu recomendo preparar o atendimento com IA para essas cobranças: testar antes de prometer e garantir que o sistema admita quando não sabe e chame uma pessoa.

04

O que é IA explicável?

IA explicável é o conjunto de métodos que permite às pessoas entender e supervisionar como uma IA chega às suas decisões. Uma explicação deve ser compreensível e refletir como o sistema realmente chegou ao resultado, não apenas parecer convincente.

O desafio também aparece nos modelos de linguagem: pesquisadores da Anthropic relatam que nem seus desenvolvedores entendem como eles fazem a maior parte do que fazem. Suas primeiras ferramentas de análise flagraram o modelo, às vezes, dando um argumento plausível para concordar com o usuário em vez de seguir passos lógicos.

  1. A Wikipedia define IA explicável como um campo de pesquisa que busca permitir às pessoas entender e supervisionar o raciocínio por trás das decisões de uma IA.Explainable artificial intelligence · Wikipedia contributors, Wikipedia, 2026
  2. Um relatório do NIST propõe que a IA apresente razões para seus resultados, dê explicações compreensíveis e fiéis ao seu funcionamento e opere apenas dentro de suas condições e limites de confiança.Four Principles of Explainable Artificial Intelligence (NISTIR 8312) · P. Jonathon Phillips et al., NIST, 2021
  3. A cientista da computação Cynthia Rudin defende que, em decisões de alto impacto, como em saúde e justiça criminal, sejam usados modelos compreensíveis desde a concepção, em vez de tentar explicar uma caixa-preta depois.Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead · Cynthia Rudin, Nature Machine Intelligence 1, 206-215, 2019
  4. Pesquisadores da Anthropic relatam que suas ferramentas, ainda capazes de captar apenas parte dos cálculos do modelo, identificaram casos em que ele produziu argumentos plausíveis para concordar com o usuário.Tracing the thoughts of a large language model · Anthropic Interpretability team, Anthropic, 2025

O que eu penso: Para mim, à medida que surgem ferramentas para examinar esses modelos, o caminho é testar se suas explicações correspondem ao funcionamento real e exigir limites claros e supervisão humana, sem confundir uma justificativa convincente com compreensão.

05

O que é a caixa-preta da IA?

A “caixa-preta” da IA é a dificuldade de entender por que um sistema chegou a uma decisão, mesmo para quem o desenvolveu. Uma explicação convincente dada pela própria IA pode não mostrar como ela realmente chegou ao resultado.

Essa dificuldade importa quando a IA influencia decisões sobre emprego, benefícios públicos, saúde ou justiça criminal. Segundo a Comissão Europeia, não conseguir descobrir o motivo de uma decisão pode dificultar identificar se alguém foi prejudicado injustamente.

  1. A enciclopédia define IA explicável como métodos para ajudar pessoas a entender e supervisionar decisões de IA, em contraste com sistemas cujas decisões nem seus criadores conseguem explicar.Explainable artificial intelligence · Wikipedia contributors, Wikipedia, 2026
  2. A cientista da computação Cynthia Rudin defende que, em decisões de alto impacto, modelos de caixa-preta sejam substituídos por modelos feitos para serem compreensíveis desde o início.Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead · Cynthia Rudin, Nature Machine Intelligence 1, 206-215, 2019
  3. Pesquisadores da Anthropic relatam que suas ferramentas, ainda limitadas, flagraram o modelo oferecendo um argumento plausível para concordar com o usuário, em vez de seguir passos lógicos.Tracing the thoughts of a large language model · Anthropic Interpretability team, Anthropic, 2025
  4. A Comissão Europeia alerta que a falta de explicação de uma decisão de IA pode dificultar identificar tratamento injusto em contratações ou pedidos de benefícios públicos.AI Act · European Commission, Shaping Europe's digital future, European Commission, 2026

O que eu penso: Eu recomendo medir os erros antes de ampliar o uso de IA e exigir fontes, limites claros sobre o que ela sabe e revisão humana.

06

Como avaliar um sistema de IA antes de usar?

Avaliar uma IA exige testá-la em condições parecidas com as do uso real. O teste deve medir acertos, riscos e se ela admite não saber.

A avaliação já é uma exigência em alguns usos públicos: um memorando da Casa Branca de abril de 2025 exige testes e uma avaliação de impacto documentada antes da implantação de IA de alto impacto nos órgãos federais dos EUA.

  1. O NIST recomenda testes em condições parecidas com as do uso real, com especialistas que não construíram o sistema e responsabilidades documentadas.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
  2. Uma pesquisa de Stanford comparou 30 modelos nos mesmos cenários, medindo não só acertos, mas também aspectos como justiça, viés e eficiência.Holistic Evaluation of Language Models · Percy Liang, Rishi Bommasani, Tony Lee et al., Transactions on Machine Learning Research (TMLR), 2023
  3. Um estudo publicado na Nature argumenta que avaliações podem premiar respostas inventadas quando chutar dá mais pontos do que admitir não saber.Evaluating large language models for accuracy incentivizes hallucinations · Adam Tauman Kalai et al., Nature 653, 1047–1051, 2026

O que eu penso: Eu só ampliaria o uso de uma IA depois de medir seus erros e verificar se ela admite não saber, em vez de premiar respostas a qualquer custo.

07

O que é o NIST AI RMF?

O NIST AI RMF é um guia de uso voluntário do National Institute of Standards and Technology para organizar a gestão dos riscos da inteligência artificial. Ele divide esse trabalho em quatro funções: governar, mapear, medir e gerenciar.

Segundo o NIST, a versão 1.0 está sendo revisada, e o guia já ganhou um complemento específico para IA generativa em julho de 2024.

  1. O guia pede responsabilidades documentadas, liderança responsável pelas decisões sobre riscos e testes em condições próximas do uso real, com especialistas que não construíram o sistema.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
  2. A página do NIST informa que o AI RMF ganhou um perfil para IA generativa e que sua versão 1.0 está sendo revisada.AI Risk Management Framework · National Institute of Standards and Technology (NIST), NIST, Information Technology Laboratory, 2026

O que eu penso: Eu acompanharia as atualizações do NIST e mediria os resultados e os riscos da IA em condições próximas do uso real antes de prometer resultados.

08

O que é a ISO/IEC 42001?

A ISO/IEC 42001 é uma norma que define requisitos para organizar, manter e melhorar continuamente a gestão da inteligência artificial. Ela se aplica a organizações de qualquer porte ou tipo que forneçam ou usem IA, para apoiar seu desenvolvimento e uso responsáveis.

Para quem precisa organizar o uso de IA, a norma faz parte de um conjunto de referências relacionadas: o centro de recursos de IA do NIST lista um mapeamento feito pela Microsoft entre seu referencial de gestão de riscos de IA e a ISO/IEC 42001.

  1. O catálogo da norma informa que a ISO/IEC 42001 estabelece requisitos para criar, implementar, manter e melhorar continuamente um sistema de gestão de IA.ISO/IEC 42001:2023, Information technology, Artificial intelligence, Management system · ISO/IEC JTC 1/SC 42, International Organization for Standardization (catalogue entry at NSAI, Ireland's national standards body), 2023
  2. O centro de recursos de IA do NIST lista uma correspondência feita pela Microsoft entre o AI RMF e a ISO/IEC 42001.AI RMF Crosswalks · NIST Trustworthy and Responsible AI Resource Center, NIST AI Resource Center, 2025

O que eu penso: Eu usaria a ISO/IEC 42001 para organizar a gestão da IA e mediria os resultados a cada melhoria, antes de prometer benefícios.

09

Quem deve supervisionar a IA numa empresa?

A alta liderança deve responder pelas decisões sobre riscos de IA, segundo o NIST. Para sistemas de alto risco, o AI Act europeu exige que a supervisão seja atribuída a pessoas com competência, treinamento e autoridade.

Ter uma pessoa acompanhando a IA não garante uma supervisão eficaz. Um estudo sobre políticas de supervisão de algoritmos do governo encontrou uma falsa sensação de segurança quando as pessoas não conseguiam fazer a revisão esperada.

  1. O NIST recomenda responsabilidades documentadas, liderança responsável pelas decisões sobre riscos e testes em condições próximas do uso real, com especialistas que não construíram o sistema.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
  2. O artigo 26 do AI Act europeu exige que organizações que usam IA de alto risco designem supervisores com competência, treinamento e autoridade, além de monitorar o sistema.Regulation (EU) 2024/1689 (AI Act), Article 26: Obligations of deployers of high-risk AI systems · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
  3. Em um estudo sobre contratação, pesquisadores observaram que participantes seguiram recomendações da IA mesmo quando avaliaram mal a ferramenta.No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy · Kyra Wilson et al., AIES 2025, 2025

O que eu penso: Eu só ampliaria o uso de IA depois de definir quem responde pelos riscos e testar o sistema com especialistas que não o construíram.

10

Como registrar as decisões de uma IA?

Para registrar decisões de IA, use registros automáticos dos eventos do sistema e mantenha documentação sobre seus usos previstos e desempenho avaliado. Acompanhe esses registros com supervisão humana feita por pessoas treinadas e com autoridade para agir.

A Comissão Europeia aponta que muitas vezes não é possível descobrir por que uma IA tomou uma decisão, o que dificulta identificar prejuízos injustos em contratações ou pedidos de benefícios públicos. O AI Act europeu prevê registro de atividades e supervisão humana para sistemas de alto risco.

  1. O artigo 12 do AI Act europeu exige registros automáticos de eventos durante toda a vida útil dos sistemas de alto risco, para identificar situações de risco e acompanhar seu funcionamento.Regulation (EU) 2024/1689 (AI Act), Article 12: Record-keeping · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
  2. O artigo 26 exige que organizações que usam IA de alto risco guardem seus registros automáticos por pelo menos seis meses e atribuam a supervisão a pessoas com competência, treinamento e autoridade.Regulation (EU) 2024/1689 (AI Act), Article 26: Obligations of deployers of high-risk AI systems · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
  3. Pesquisadores propuseram os “model cards”, documentos curtos que descrevem os usos previstos de um modelo e seu desempenho avaliado em diferentes condições e grupos, em vez de registrar cada decisão.Model Cards for Model Reporting · Margaret Mitchell et al., FAT* 2019, 2019

O que eu penso: Eu só ampliaria o uso de IA com registros, avaliação de desempenho e supervisão humana com autoridade para agir.

Quem escreve

Sou Vitor Araujo, engenheiro. Crio produtos com IA para empresas, e falo e escrevo sobre ética da IA e filosofia da tecnologia. Mais sobre mim.

Outros guias