
O que você vai ler
São as perguntas sobre governança de IA que mais aparecem no Google e nos chats de IA. Cada resposta começa curta, mostra o que a pesquisa diz e termina com o que eu penso.
- O que é governança de IA?
- O que é IA responsável?
- Uma empresa pode culpar a IA por um erro?
- O que é IA explicável?
- O que é a caixa-preta da IA?
- Como avaliar um sistema de IA antes de usar?
- O que é o NIST AI RMF?
- O que é a ISO/IEC 42001?
- Quem deve supervisionar a IA numa empresa?
- Como registrar as decisões de uma IA?
01
O que é governança de IA?
Governança de IA é o conjunto de regras, responsabilidades e práticas para lidar com os riscos da inteligência artificial. Isso inclui definir quem responde pelas decisões, documentar o que é feito e testar os sistemas em condições parecidas com as do uso real.
Organizações que fornecem ou usam IA já contam com normas de gestão e princípios internacionais para orientar esse trabalho. Eles tratam não só do funcionamento da tecnologia, mas também de responsabilidade, transparência, privacidade e respeito aos direitos humanos.
- O guia voluntário do NIST define governança como políticas, papéis, documentação e cultura para lidar com riscos de IA, atribui responsabilidade à alta liderança e pede testes com especialistas que não construíram os sistemas.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
- A ISO/IEC 42001 estabelece requisitos para criar, manter e melhorar continuamente a gestão de IA em organizações de qualquer porte que forneçam ou usem essa tecnologia.ISO/IEC 42001:2023, Information technology, Artificial intelligence, Management system · ISO/IEC JTC 1/SC 42, International Organization for Standardization (catalogue entry at NSAI, Ireland's national standards body), 2023
- Os Princípios de IA da OCDE, atualizados em maio de 2024, pedem respeito aos direitos humanos, transparência, segurança e responsabilização.OECD AI Principles · OECD, OECD.AI, 2024
O que eu penso: Eu começaria cada novo uso de IA definindo quem responde pelas decisões e testando o sistema em condições parecidas com as do uso real antes de prometer resultados.
02
O que é IA responsável?
IA responsável é desenvolver e usar inteligência artificial com testes, proteção dos direitos das pessoas e responsáveis definidos pelas decisões e pelos riscos. Isso inclui proteger a privacidade, controlar vieses prejudiciais, explicar o funcionamento e manter supervisão humana.
Os Princípios de IA da OCDE, atualizados em maio de 2024 e com adesão do Brasil, pedem respeito aos direitos humanos, transparência e responsabilização. O guia do NIST traduz essas preocupações em tarefas como definir responsáveis, documentar decisões e testar sistemas em condições próximas do uso real.
- O NIST orienta que a liderança assuma responsabilidade pelos riscos de IA e que especialistas que não construíram o sistema participem de testes em condições próximas do uso real.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
- Os Princípios de IA da OCDE pedem respeito aos direitos humanos, justiça, privacidade, transparência, segurança e responsabilização.OECD AI Principles · OECD, OECD.AI, 2024
- A recomendação da UNESCO coloca a dignidade humana e a supervisão por pessoas entre os fundamentos da IA e pede sistemas que possam ser auditados e rastreados.Recommendation on the Ethics of Artificial Intelligence · UNESCO, UNESCO, 2021
O que eu penso: Eu só ampliaria o uso de IA depois de testar seu desempenho e seus riscos em condições próximas do uso real, definir responsáveis e estabelecer proteções para a dignidade das pessoas.
03
Uma empresa pode culpar a IA por um erro?
Culpar a IA não é garantia de escapar da responsabilidade: um tribunal canadense responsabilizou a Air Canada pelas informações erradas do chatbot em seu site.

A questão também alcança quem fabrica o software. Segundo a Comissão Europeia, a nova diretiva de responsabilidade por produtos defeituosos inclui sistemas de IA e vale para produtos colocados no mercado depois de 8 de dezembro de 2026.
- No caso Moffatt contra Air Canada, o tribunal rejeitou a ideia de que o chatbot responderia pelos próprios atos e decidiu que a empresa responde pelas informações de seu site.Moffatt v. Air Canada, 2024 BCCRT 149 · Civil Resolution Tribunal of British Columbia (tribunal member Christopher C. Rivers), Civil Resolution Tribunal, British Columbia, Canada, 2024
- A CBC News noticiou que a Air Canada foi condenada a indenizar um passageiro que comprou passagens pelo preço cheio após receber orientação errada do chatbot sobre um desconto por luto.Air Canada found liable for chatbot's bad advice on plane tickets · Jason Proctor, CBC News, 2024
- A Comissão Europeia informa que a nova diretiva permite responsabilizar fabricantes por defeitos de software, inclusive os que surgem após o lançamento por atualizações ou aprendizado de máquina.Liability for defective products (Directive (EU) 2024/2853) · European Commission, European Commission, Single Market and Economy, 2024
O que eu penso: Eu recomendo preparar o atendimento com IA para essas cobranças: testar antes de prometer e garantir que o sistema admita quando não sabe e chame uma pessoa.
04
O que é IA explicável?
IA explicável é o conjunto de métodos que permite às pessoas entender e supervisionar como uma IA chega às suas decisões. Uma explicação deve ser compreensível e refletir como o sistema realmente chegou ao resultado, não apenas parecer convincente.
O desafio também aparece nos modelos de linguagem: pesquisadores da Anthropic relatam que nem seus desenvolvedores entendem como eles fazem a maior parte do que fazem. Suas primeiras ferramentas de análise flagraram o modelo, às vezes, dando um argumento plausível para concordar com o usuário em vez de seguir passos lógicos.
- A Wikipedia define IA explicável como um campo de pesquisa que busca permitir às pessoas entender e supervisionar o raciocínio por trás das decisões de uma IA.Explainable artificial intelligence · Wikipedia contributors, Wikipedia, 2026
- Um relatório do NIST propõe que a IA apresente razões para seus resultados, dê explicações compreensíveis e fiéis ao seu funcionamento e opere apenas dentro de suas condições e limites de confiança.Four Principles of Explainable Artificial Intelligence (NISTIR 8312) · P. Jonathon Phillips et al., NIST, 2021
- A cientista da computação Cynthia Rudin defende que, em decisões de alto impacto, como em saúde e justiça criminal, sejam usados modelos compreensíveis desde a concepção, em vez de tentar explicar uma caixa-preta depois.Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead · Cynthia Rudin, Nature Machine Intelligence 1, 206-215, 2019
- Pesquisadores da Anthropic relatam que suas ferramentas, ainda capazes de captar apenas parte dos cálculos do modelo, identificaram casos em que ele produziu argumentos plausíveis para concordar com o usuário.Tracing the thoughts of a large language model · Anthropic Interpretability team, Anthropic, 2025
O que eu penso: Para mim, à medida que surgem ferramentas para examinar esses modelos, o caminho é testar se suas explicações correspondem ao funcionamento real e exigir limites claros e supervisão humana, sem confundir uma justificativa convincente com compreensão.
05
O que é a caixa-preta da IA?
A “caixa-preta” da IA é a dificuldade de entender por que um sistema chegou a uma decisão, mesmo para quem o desenvolveu. Uma explicação convincente dada pela própria IA pode não mostrar como ela realmente chegou ao resultado.
Essa dificuldade importa quando a IA influencia decisões sobre emprego, benefícios públicos, saúde ou justiça criminal. Segundo a Comissão Europeia, não conseguir descobrir o motivo de uma decisão pode dificultar identificar se alguém foi prejudicado injustamente.
- A enciclopédia define IA explicável como métodos para ajudar pessoas a entender e supervisionar decisões de IA, em contraste com sistemas cujas decisões nem seus criadores conseguem explicar.Explainable artificial intelligence · Wikipedia contributors, Wikipedia, 2026
- A cientista da computação Cynthia Rudin defende que, em decisões de alto impacto, modelos de caixa-preta sejam substituídos por modelos feitos para serem compreensíveis desde o início.Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead · Cynthia Rudin, Nature Machine Intelligence 1, 206-215, 2019
- Pesquisadores da Anthropic relatam que suas ferramentas, ainda limitadas, flagraram o modelo oferecendo um argumento plausível para concordar com o usuário, em vez de seguir passos lógicos.Tracing the thoughts of a large language model · Anthropic Interpretability team, Anthropic, 2025
- A Comissão Europeia alerta que a falta de explicação de uma decisão de IA pode dificultar identificar tratamento injusto em contratações ou pedidos de benefícios públicos.AI Act · European Commission, Shaping Europe's digital future, European Commission, 2026
O que eu penso: Eu recomendo medir os erros antes de ampliar o uso de IA e exigir fontes, limites claros sobre o que ela sabe e revisão humana.
06
Como avaliar um sistema de IA antes de usar?
Avaliar uma IA exige testá-la em condições parecidas com as do uso real. O teste deve medir acertos, riscos e se ela admite não saber.
A avaliação já é uma exigência em alguns usos públicos: um memorando da Casa Branca de abril de 2025 exige testes e uma avaliação de impacto documentada antes da implantação de IA de alto impacto nos órgãos federais dos EUA.
- O NIST recomenda testes em condições parecidas com as do uso real, com especialistas que não construíram o sistema e responsabilidades documentadas.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
- Uma pesquisa de Stanford comparou 30 modelos nos mesmos cenários, medindo não só acertos, mas também aspectos como justiça, viés e eficiência.Holistic Evaluation of Language Models · Percy Liang, Rishi Bommasani, Tony Lee et al., Transactions on Machine Learning Research (TMLR), 2023
- Um estudo publicado na Nature argumenta que avaliações podem premiar respostas inventadas quando chutar dá mais pontos do que admitir não saber.Evaluating large language models for accuracy incentivizes hallucinations · Adam Tauman Kalai et al., Nature 653, 1047–1051, 2026
O que eu penso: Eu só ampliaria o uso de uma IA depois de medir seus erros e verificar se ela admite não saber, em vez de premiar respostas a qualquer custo.
07
O que é o NIST AI RMF?
O NIST AI RMF é um guia de uso voluntário do National Institute of Standards and Technology para organizar a gestão dos riscos da inteligência artificial. Ele divide esse trabalho em quatro funções: governar, mapear, medir e gerenciar.
Segundo o NIST, a versão 1.0 está sendo revisada, e o guia já ganhou um complemento específico para IA generativa em julho de 2024.
- O guia pede responsabilidades documentadas, liderança responsável pelas decisões sobre riscos e testes em condições próximas do uso real, com especialistas que não construíram o sistema.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
- A página do NIST informa que o AI RMF ganhou um perfil para IA generativa e que sua versão 1.0 está sendo revisada.AI Risk Management Framework · National Institute of Standards and Technology (NIST), NIST, Information Technology Laboratory, 2026
O que eu penso: Eu acompanharia as atualizações do NIST e mediria os resultados e os riscos da IA em condições próximas do uso real antes de prometer resultados.
08
O que é a ISO/IEC 42001?
A ISO/IEC 42001 é uma norma que define requisitos para organizar, manter e melhorar continuamente a gestão da inteligência artificial. Ela se aplica a organizações de qualquer porte ou tipo que forneçam ou usem IA, para apoiar seu desenvolvimento e uso responsáveis.
Para quem precisa organizar o uso de IA, a norma faz parte de um conjunto de referências relacionadas: o centro de recursos de IA do NIST lista um mapeamento feito pela Microsoft entre seu referencial de gestão de riscos de IA e a ISO/IEC 42001.
- O catálogo da norma informa que a ISO/IEC 42001 estabelece requisitos para criar, implementar, manter e melhorar continuamente um sistema de gestão de IA.ISO/IEC 42001:2023, Information technology, Artificial intelligence, Management system · ISO/IEC JTC 1/SC 42, International Organization for Standardization (catalogue entry at NSAI, Ireland's national standards body), 2023
- O centro de recursos de IA do NIST lista uma correspondência feita pela Microsoft entre o AI RMF e a ISO/IEC 42001.AI RMF Crosswalks · NIST Trustworthy and Responsible AI Resource Center, NIST AI Resource Center, 2025
O que eu penso: Eu usaria a ISO/IEC 42001 para organizar a gestão da IA e mediria os resultados a cada melhoria, antes de prometer benefícios.
09
Quem deve supervisionar a IA numa empresa?
A alta liderança deve responder pelas decisões sobre riscos de IA, segundo o NIST. Para sistemas de alto risco, o AI Act europeu exige que a supervisão seja atribuída a pessoas com competência, treinamento e autoridade.
Ter uma pessoa acompanhando a IA não garante uma supervisão eficaz. Um estudo sobre políticas de supervisão de algoritmos do governo encontrou uma falsa sensação de segurança quando as pessoas não conseguiam fazer a revisão esperada.
- O NIST recomenda responsabilidades documentadas, liderança responsável pelas decisões sobre riscos e testes em condições próximas do uso real, com especialistas que não construíram o sistema.Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 · National Institute of Standards and Technology (NIST), NIST, 2023
- O artigo 26 do AI Act europeu exige que organizações que usam IA de alto risco designem supervisores com competência, treinamento e autoridade, além de monitorar o sistema.Regulation (EU) 2024/1689 (AI Act), Article 26: Obligations of deployers of high-risk AI systems · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
- Em um estudo sobre contratação, pesquisadores observaram que participantes seguiram recomendações da IA mesmo quando avaliaram mal a ferramenta.No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy · Kyra Wilson et al., AIES 2025, 2025
O que eu penso: Eu só ampliaria o uso de IA depois de definir quem responde pelos riscos e testar o sistema com especialistas que não o construíram.
10
Como registrar as decisões de uma IA?
Para registrar decisões de IA, use registros automáticos dos eventos do sistema e mantenha documentação sobre seus usos previstos e desempenho avaliado. Acompanhe esses registros com supervisão humana feita por pessoas treinadas e com autoridade para agir.
A Comissão Europeia aponta que muitas vezes não é possível descobrir por que uma IA tomou uma decisão, o que dificulta identificar prejuízos injustos em contratações ou pedidos de benefícios públicos. O AI Act europeu prevê registro de atividades e supervisão humana para sistemas de alto risco.
- O artigo 12 do AI Act europeu exige registros automáticos de eventos durante toda a vida útil dos sistemas de alto risco, para identificar situações de risco e acompanhar seu funcionamento.Regulation (EU) 2024/1689 (AI Act), Article 12: Record-keeping · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
- O artigo 26 exige que organizações que usam IA de alto risco guardem seus registros automáticos por pelo menos seis meses e atribuam a supervisão a pessoas com competência, treinamento e autoridade.Regulation (EU) 2024/1689 (AI Act), Article 26: Obligations of deployers of high-risk AI systems · European Union, AI Act Service Desk, European Commission (consolidated text as at 27 July 2026), 2024
- Pesquisadores propuseram os “model cards”, documentos curtos que descrevem os usos previstos de um modelo e seu desempenho avaliado em diferentes condições e grupos, em vez de registrar cada decisão.Model Cards for Model Reporting · Margaret Mitchell et al., FAT* 2019, 2019
O que eu penso: Eu só ampliaria o uso de IA com registros, avaliação de desempenho e supervisão humana com autoridade para agir.
Quem escreve
Sou Vitor Araujo, engenheiro. Crio produtos com IA para empresas, e falo e escrevo sobre ética da IA e filosofia da tecnologia. Mais sobre mim.
Outros guias









