Ética da IA
O que é viés algorítmico?
Viés algorítmico é a tendência de um sistema favorecer ou prejudicar pessoas ou opções por fatores que não correspondem ao que deveria ser avaliado. Uma IA que compara currículos, por exemplo, pode favorecer quem aparece primeiro, mesmo quando os candidatos têm qualificações iguais.

Por que importa
Quando uma IA participa da seleção de candidatos, a ordem dos currículos, a redação e referências à deficiência podem alterar a classificação. Assim, o resultado pode refletir detalhes da apresentação, e não apenas a competência de quem concorre à vaga.
O que a pesquisa mostra
- Um estudo em 70 profissões encontrou que 21 de 22 modelos preferiram o currículo apresentado primeiro ao comparar dois candidatos igualmente qualificados.Gender and positional biases in LLM-based hiring decisions: evidence from comparative CV/résumé evaluations · David Rozado, PeerJ Computer Science 12:e3628, 2026
- Um estudo com GPT-4 encontrou que um currículo com um prêmio, uma bolsa e um cargo adicionais, todos ligados à deficiência, ficou em primeiro lugar em apenas 15 de 60 comparações com sua versão sem esses acréscimos.Identifying and Improving Disability Bias in GPT-Based Resume Screening · Kate Glazko et al., FAccT 2024, 2024
- Um estudo ainda em revisão encontrou que reescrever um currículo sem mudar a competência inverteu 29,6% das decisões no Llama 3.1 8B e 41,4% no Mistral 7B.Competence-Preserving Resume Perturbations Expose Presentation Sensitivity in LLM Screening · Q. Chen, Y. Xiao, arXiv, em revisão, 2026
- Langdon Winner propôs que o desenho de uma tecnologia pode carregar relações de poder e favorecer algumas pessoas em prejuízo de outras.Do Artifacts Have Politics? · Langdon Winner, 1980
O que eu faria
Eu recomendo que, antes de ampliar o uso de IA em contratações, se teste se mudar apenas a ordem ou a redação altera as escolhas e se mantenha uma pessoa responsável pelas decisões.
Por que eu penso assim:
- “IA sem avaliação é aposta: meça antes de prometer.” de onde vem
- “Tecnologia não é neutra: carrega as escolhas de quem a faz e de quem a usa.”
- “O humano é sempre responsável pelo que a IA decide, porque, até onde sabemos, só ele é consciente.”
Também perguntam
- O que é racismo algorítmico?
- O que é discriminação algorítmica?
- Algoritmos podem ser preconceituosos?
