Guias

Um guia de Vitor Araujo

Viés algorítmico

As 10 perguntas mais feitas sobre viés algorítmico.

Gravura japonesa: monges cegos apalpam um elefante, cada um numa parte do corpo.
Monges cegos examinam um elefante, de Hanabusa Itchō. Cada um toca uma parte e descreve um animal diferente. Domínio público. Wikimedia Commons

O que você vai ler

01

O que é viés algorítmico?

Viés algorítmico é a tendência de um sistema computacional a repetir resultados injustos, como favorecer um grupo e prejudicar outro. Ele pode surgir das escolhas de quem desenvolve o sistema e da forma como os dados são coletados, organizados ou usados para treiná-lo.

Gravura: uma mulher opera uma máquina de contar, diante de um painel de mostradores.
A máquina tabuladora de Hollerith contou o censo dos EUA de 1890 (Scientific American, 1890). Domínio público. Wikimedia Commons

O problema importa em usos como a seleção de candidaturas a emprego, em que uma IA pode excluir pessoas injustamente. Segundo um relatório do NIST, o instituto de padrões dos EUA, combater o viés exige olhar também para fatores humanos, institucionais e sociais, não apenas para os dados e o programa.

  1. A Wikipédia registra que a Amazon desligou uma IA de triagem de candidaturas após perceber que ela discriminava mulheres, excluindo currículos com a palavra “women’s” e candidatas de faculdades só para mulheres.Algorithmic bias · Wikipedia contributors, Wikipedia, 2026
  2. O relatório do NIST identifica vieses sistêmicos, estatísticos e humanos e alerta que a supervisão humana ajuda, mas não elimina o risco de viés.Towards a Standard for Identifying and Managing Bias in Artificial Intelligence · Reva Schwartz et al., NIST Special Publication 1270, 2022
  3. Um estudo publicado na conferência EAAMO identifica sete fontes de dano ao longo da coleta de dados, do desenvolvimento e do uso de sistemas de aprendizado de máquina.A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle · Harini Suresh, John V. Guttag, EAAMO 2021, 2021

O que eu penso: Eu recomendo medir quem é favorecido ou prejudicado antes de ampliar o uso de uma IA e revisar tanto os dados quanto as escolhas humanas por trás dela.

02

O que é racismo algorítmico?

Racismo algorítmico é a reprodução ou o reforço do racismo por tecnologias, como buscadores e sistemas que analisam imagens. O pesquisador Tarcízio Silva o descreve como uma atualização do racismo estrutural na era dos dados.

O tema importa porque os resultados desses sistemas podem reforçar estereótipos e prejudicar a representação de pessoas negras. A discussão envolve tanto os dados usados quanto as categorias que a tecnologia adota para organizar o mundo.

  1. Um estudo de Tarcízio Silva reúne casos públicos de resultados racistas em sistemas que analisam imagens e examina como pessoas negras aparecem ou deixam de aparecer nos dados.Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina · Tarcízio Silva, Revista da ABPN 12(31), 2020
  2. Em entrevista, Tarcízio Silva explica que tecnologias podem fortalecer a distribuição racialmente desigual de conhecimentos, recursos, espaço e violência contra grupos não brancos.O racismo algorítmico é uma espécie de atualização do racismo estrutural. Entrevista com Tarcízio Silva · Daiane Batista (entrevista com Tarcízio Silva), Instituto Humanitas Unisinos (IHU), republicada do CEE-Fiocruz, 2023
  3. Segundo o verbete da Wikipédia sobre seu livro, Safiya Umoja Noble argumenta que buscadores refletem preconceitos da sociedade e de seus criadores, reforçando estereótipos sobre mulheres negras, latinas e asiáticas.Algorithms of Oppression · Wikipedia contributors, Wikipedia, 2026

O que eu penso: Eu defendo avaliar como esses sistemas tratam diferentes grupos raciais antes de ampliar seu uso, sem presumir que seus resultados sejam neutros.

03

De onde vem o viés da IA?

O viés da IA vem dos dados usados no aprendizado, das escolhas de quem a desenvolve e usa, e das desigualdades da sociedade. Também pode surgir quando o sistema busca uma meta que não representa a necessidade real das pessoas.

Isso já tem consequências fora da tela: um algoritmo de saúde amplamente usado prejudicava pacientes negros ao prever gastos médicos em vez de doença. Mesmo textos comuns podem ensinar à IA preconceitos históricos sobre raça e gênero.

  1. Um relatório do NIST, o instituto de padrões dos EUA, alerta que fontes humanas, institucionais e sociais de viés recebem menos atenção do que dados e algoritmos.Towards a Standard for Identifying and Managing Bias in Artificial Intelligence · Reva Schwartz et al., NIST Special Publication 1270, 2022
  2. Pesquisadores identificaram sete fontes de dano que podem aparecer na coleta de dados, no desenvolvimento e na implantação de sistemas de aprendizado de máquina.A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle · Harini Suresh, John V. Guttag, EAAMO 2021, 2021
  3. Um estudo publicado na Science mostrou que um modelo treinado com textos comuns aprendia vieses humanos junto com o significado das palavras.Semantics derived automatically from language corpora contain human-like biases · Aylin Caliskan, Joanna J. Bryson, Arvind Narayanan, Science, 2017
  4. Um estudo publicado na Science encontrou um algoritmo de saúde que atribuía a pacientes negros o mesmo risco de pacientes brancos mais saudáveis porque previa gastos, e se gastava menos com pacientes negros.Dissecting racial bias in an algorithm used to manage the health of populations · Ziad Obermeyer et al., Science, 2019

O que eu penso: Eu defendo avaliar os dados, a meta escolhida e os efeitos sobre as pessoas antes de ampliar o uso da IA, em vez de tratar a tecnologia como neutra.

04

O reconhecimento facial é enviesado?

Sim, o reconhecimento facial pode ter taxas de erro diferentes conforme raça e sexo, e essas diferenças variam conforme o algoritmo.

No uso policial, uma identificação errada pode levar a algemas e interrogatórios. Em Sergipe, uma abordagem errada levou à suspensão do sistema em 2024.

  1. Um estudo do NIST encontrou diferenças entre grupos na maioria dos sistemas testados, com mais identificações falsas de rostos asiáticos e afro-americanos do que brancos.NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software · National Institute of Standards and Technology (NIST), NIST news release on NISTIR 8280, 2019
  2. O Olhar Digital relatou que Thaís Santos foi algemada após um sistema identificá-la erroneamente, duas vezes, como foragida.Foi presa! IA confunde mulher com foragida da Justiça em Aracaju · Alessandro Di Lorenzo, Olhar Digital, 2023
  3. Segundo reportagem da Folhapress, Sergipe suspendeu o sistema após policiais revistarem e interrogarem um torcedor identificado por engano.Sergipe suspende uso de reconhecimento facial após abordagem errada da PM · Folhapress, TNH1, 2024

O que eu penso: Eu recomendo medir os erros por grupo e exigir revisão humana das identificações antes de ampliar o uso.

05

Quais são os casos mais conhecidos de viés algorítmico?

Casos conhecidos incluem a triagem de currículos da Amazon e o COMPAS, usado na Justiça. Outros envolvem classificação de gênero por rostos e um algoritmo de saúde que prejudicava pacientes negros.

O problema vai além de uma resposta errada: esses sistemas podem tratar grupos de forma desigual em decisões sobre emprego, Justiça e saúde. As diferenças podem surgir das escolhas de dados ou do que o sistema foi feito para prever.

  1. A Wikipédia registra que a Amazon desligou uma IA de triagem de candidaturas que excluía currículos com a palavra “women’s” e candidatas de faculdades só para mulheres.Algorithmic bias · Wikipedia contributors, Wikipedia, 2026
  2. O estudo Gender Shades encontrou erros de até 34,7% para mulheres de pele mais escura em três classificadores comerciais de gênero, contra no máximo 0,8% para homens de pele mais clara.Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification · Joy Buolamwini, Timnit Gebru, Proceedings of Machine Learning Research 81, 77-91 (Conference on Fairness, Accountability and Transparency), 2018
  3. Uma investigação da ProPublica encontrou que o COMPAS classificava por engano réus negros como futuros criminosos quase duas vezes mais que réus brancos; a fabricante, Northpointe, contestou a análise.Machine Bias · Julia Angwin et al., ProPublica, 2016
  4. Um estudo publicado na Science encontrou que um algoritmo de saúde subestimava as necessidades de pacientes negros porque previa gastos com saúde, em vez de doença, e se gastava menos com esses pacientes.Dissecting racial bias in an algorithm used to manage the health of populations · Ziad Obermeyer et al., Science, 2019

O que eu penso: Eu recomendo medir os erros por grupo e conferir o que o sistema tenta prever antes de ampliar seu uso.

06

Dá para corrigir o viés de um modelo?

Dá para reduzir vieses específicos de um modelo, inclusive corrigindo o que ele tenta prever, mas isso não garante eliminar todos os vieses. Além disso, diferentes critérios de justiça podem entrar em conflito, exigindo escolhas.

Essa diferença importa quando modelos orientam quem recebe ajuda: na saúde, prever gastos em vez de doença pode prejudicar pacientes negros. E uma técnica apresentada como correção pode apenas esconder o viés, sem removê-lo.

  1. Um estudo encontrou que um algoritmo de saúde prejudicava pacientes negros por prever gastos em vez de doença; corrigir isso elevaria de 17,7% para 46,5% a parcela de pacientes negros que recebem ajuda extra.Dissecting racial bias in an algorithm used to manage the health of populations · Ziad Obermeyer et al., Science, 2019
  2. Pesquisadores provaram que, salvo em casos especiais muito restritos, nenhum método consegue satisfazer ao mesmo tempo três critérios comuns de justiça para escores de risco.Inherent Trade-Offs in the Fair Determination of Risk Scores · Jon Kleinberg, Sendhil Mullainathan, Manish Raghavan, ITCS 2017, 2016
  3. Um estudo encontrou que dois métodos de correção do viés de gênero em representações de palavras mais escondiam o viés do que o removiam.Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them · Hila Gonen, Yoav Goldberg, NAACL 2019, 2019

O que eu penso: Eu recomendo revisar o que o modelo deve prever e medir os efeitos de cada nova correção sobre os grupos afetados antes de prometer que ele ficou justo.

07

Como testar se uma IA é enviesada?

Uma forma de testar se uma IA é enviesada é comparar suas decisões sobre currículos com as mesmas qualificações, mudando apenas nomes, ordem de apresentação ou redação. Diferenças nos resultados podem revelar preferência por características que não representam competência.

Na seleção de currículos, modelos de linguagem já mostraram preferência por certos nomes e pelo currículo apresentado primeiro. Por isso, uma explicação convincente não substitui a comparação dos resultados quando só um detalhe muda.

  1. Uma pesquisa com mais de 500 currículos em nove ocupações encontrou que os sistemas testados favoreceram nomes associados a pessoas brancas em 85,1% dos casos.Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval · Kyra Wilson, Aylin Caliskan, AIES 2024, 2024
  2. Um estudo com currículos igualmente qualificados em 70 profissões encontrou que 21 de 22 modelos preferiram o currículo apresentado primeiro.Gender and positional biases in LLM-based hiring decisions: evidence from comparative CV/résumé evaluations · David Rozado, PeerJ Computer Science 12:e3628, 2026
  3. Um estudo ainda em revisão encontrou que reescrever currículos sem mudar a competência inverteu 29,6% das decisões no Llama 3.1 8B e 41,4% no Mistral 7B.Competence-Preserving Resume Perturbations Expose Presentation Sensitivity in LLM Screening · Q. Chen, Y. Xiao, arXiv, em revisão, 2026

O que eu penso: Eu testaria nomes, ordem e redação antes de ampliar o uso da IA, sem tratar uma resposta bem escrita como prova de uma decisão justa.

08

Uma pessoa revisando resolve o viés?

A revisão humana pode ajudar, mas não elimina o viés da IA: as pessoas também podem copiar seus erros. Colocar alguém para revisar não garante decisões sem viés.

Políticas de supervisão de algoritmos do governo podem criar uma falsa sensação de segurança quando esperam das pessoas uma revisão que elas não conseguem fazer. O problema também envolve escolhas humanas, institucionais e sociais, não apenas dados e algoritmos.

  1. Um relatório do NIST, o instituto de padrões dos EUA, afirma que manter uma pessoa na supervisão ajuda, mas não resolve tudo, e que não é possível zerar o risco de viés.Towards a Standard for Identifying and Managing Bias in Artificial Intelligence · Reva Schwartz et al., NIST Special Publication 1270, 2022
  2. Um estudo que analisou 41 políticas de supervisão humana de algoritmos do governo concluiu que elas esperam das pessoas uma capacidade de revisão que as evidências não sustentam.The Flaws of Policies Requiring Human Oversight of Government Algorithms · Ben Green, Computer Law & Security Review 45, 2022
  3. Em um estudo com diagnóstico médico simulado, pessoas copiaram os erros de uma IA enviesada e continuaram a cometê-los depois que ela parou de dar sugestões.Humans inherit artificial intelligence biases · Lucía Vicente, Helena Matute, Scientific Reports 13, 15737, 2023

O que eu penso: Eu mediria se pessoas e IA repetem os mesmos erros antes de ampliar o uso, sem tratar a revisão humana como garantia.

09

A ordem das opções muda a resposta da IA?

Mudar a ordem das alternativas pode mudar a resposta de uma IA, mesmo sem alterar o conteúdo das opções. Em perguntas de múltipla escolha, modelos podem favorecer certos rótulos, como a opção A.

Esse efeito não se limita a perguntas de prova: também aparece na comparação de currículos. A posição pode influenciar a escolha da IA mesmo quando as pessoas têm qualificações equivalentes.

  1. Um estudo testou 20 modelos de linguagem e encontrou sensibilidade à posição das alternativas, associada à preferência por certos rótulos.Large Language Models Are Not Robust Multiple Choice Selectors · Chujie Zheng et al., ICLR 2024, 2024
  2. Um estudo preliminar encontrou mudanças de cerca de 13% a 75% no desempenho dos modelos ao apenas reordenar as alternativas, dependendo do teste.Large Language Models Sensitivity to The Order of Options in Multiple-Choice Questions · Pouya Pezeshkpour, Estevam Hruschka, arXiv, 2023
  3. Um estudo com dois currículos igualmente qualificados, em 70 profissões, encontrou que 21 de 22 modelos preferiram o currículo apresentado primeiro.Gender and positional biases in LLM-based hiring decisions: evidence from comparative CV/résumé evaluations · David Rozado, PeerJ Computer Science 12:e3628, 2026

O que eu penso: Eu recomendo testar a mesma comparação com as opções em ordens diferentes antes de confiar à IA uma tarefa de escolha.

10

O que a lei brasileira diz sobre decisões automatizadas?

A LGPD dá às pessoas o direito de pedir a revisão de decisões tomadas exclusivamente por tratamento automatizado de seus dados pessoais que afetem seus interesses. A lei não exige que essa revisão seja feita por uma pessoa.

É importante distinguir a lei em vigor das mudanças propostas: o texto sobre inteligência artificial aprovado pelo Senado prevê revisão humana em certos casos, mas, em 10 de novembro de 2026, ainda aguardava parecer na Câmara dos Deputados.

  1. O artigo 20 da LGPD também garante informações claras sobre os critérios usados, respeitados os segredos comercial e industrial, e permite que a autoridade nacional faça auditoria para verificar discriminação se essas informações forem negadas por segredo.Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), art. 20 · Brasil, Planalto, texto compilado, 2018
  2. Em julho de 2019, o presidente vetou a exigência de revisão por uma pessoa, argumentando que ela inviabilizaria modelos de negócio de muitas empresas e afetaria a análise de risco de crédito.Mensagem nº 288, de 8 de julho de 2019 (veto parcial ao projeto que originou a Lei nº 13.853/2019) · Presidência da República, Câmara dos Deputados, Legislação Informatizada, 2019
  3. Segundo a Agência Senado, o projeto aprovado em dezembro de 2024 prevê explicação e revisão humana de decisões com impacto jurídico relevante.Senado aprova regulamentação da inteligência artificial; texto vai à Câmara · Agência Senado, Agência Senado, 2024
  4. Em 10 de novembro de 2026, a Câmara registrava o PL 2338/2023 como aguardando parecer do relator na Comissão Especial sobre Inteligência Artificial, ainda sujeito à votação no Plenário.PL 2338/2023, ficha de tramitação · Câmara dos Deputados, Câmara dos Deputados, 2026

O que eu penso: Eu recomendo pedir critérios claros e revisão por uma pessoa enquanto novas regras são discutidas, sem confundir esse pedido com uma obrigação de revisão humana já prevista na LGPD.

Quem escreve

Sou Vitor Araujo, engenheiro. Crio produtos com IA para empresas, e falo e escrevo sobre ética da IA e filosofia da tecnologia. Mais sobre mim.

Outros guias