Guias

Um guia de Vitor Araujo

Ética da IA

As 10 perguntas mais feitas sobre ética da IA.

Pintura de Rafael: no centro de um grande salão, Platão aponta para o céu e Aristóteles estende a mão para a terra.
Platão e Aristóteles na Escola de Atenas, de Rafael (1509–1511). Domínio público. Wikimedia Commons

O que você vai ler

01

O que é ética da IA?

Ética da IA é o campo que examina como as escolhas na criação e no uso da inteligência artificial afetam as pessoas, incluindo sua privacidade, autonomia e trabalho.

Busto de mármore de um homem de barba, com um manto de alabastro.
Busto de Aristóteles, cópia romana de um original grego de Lisipo. Domínio público. Wikimedia Commons

Essas escolhas já aparecem em regras explícitas de comportamento: a constituição do Claude, publicada pela Anthropic, pede que o modelo seja diplomaticamente honesto, e não desonestamente diplomático. Isso torna a honestidade uma questão concreta sobre como uma IA deve responder.

  1. O verbete da Stanford Encyclopedia of Philosophy apresenta debates da ética da IA sobre privacidade, manipulação, falta de transparência, viés, autonomia e emprego.Ethics of Artificial Intelligence and Robotics · Vincent C. Müller, Stanford Encyclopedia of Philosophy, 2020
  2. Melvin Kranzberg afirma que a tecnologia não é boa nem má, mas também não é neutra.Technology and History: "Kranzberg's Laws" · Melvin Kranzberg, 1986
  3. Langdon Winner propôs que o desenho de uma tecnologia pode favorecer algumas pessoas e prejudicar outras ao incorporar relações de poder.Do Artifacts Have Politics? · Langdon Winner, 1980

O que eu penso: Eu verificaria, antes de adotar uma IA, quais escolhas orientam suas respostas, se ela mostra de onde tirou as informações e se chama uma pessoa quando não sabe.

02

A tecnologia é neutra?

A tecnologia não é neutra: o desenho de um sistema pode favorecer algumas pessoas e prejudicar outras, como argumentou Langdon Winner.

Essa questão importa para as escolhas sobre automação. Norbert Wiener defendeu seu uso para livrar as pessoas do trabalho repetitivo, mas alertou que ela pode desumanizar a sociedade quando é mal usada.

  1. Melvin Kranzberg afirmou que a tecnologia não é boa nem má, mas também não é neutra.Technology and History: "Kranzberg's Laws" · Melvin Kranzberg, 1986
  2. Langdon Winner propôs que o desenho de uma tecnologia pode resolver questões de uma comunidade a favor de uns e contra outros.Do Artifacts Have Politics? · Langdon Winner, 1980
  3. Martin Heidegger argumentou que a tecnologia moderna também é uma maneira de enxergar tudo, inclusive as pessoas, como recurso à disposição.The Question Concerning Technology · Martin Heidegger, 1954

O que eu penso: “Não. Fiz um algoritmo para distribuição de vagas para recrutadores trabalharem (Uber pra recrutamento). As vagas tinham heurísticas para ir para o recrutador que melhor faria o serviço, mas isso tirava oportunidade de novos ou outros recrutadores se provarem. Também havia concorrência pelo primeiro candidato, criada para levar o recrutador a ser proativo, mas na verdade não havia escassez de oportunidade: só precisávamos moldar comportamento.”

03

Por que a IA é enviesada?

A IA pode ser enviesada porque responde a detalhes que não deveriam decidir o resultado: na seleção de currículos, a ordem de apresentação e a redação podem mudar a escolha sem mudar a qualificação.

Na seleção de pessoas para uma vaga, isso importa porque a decisão pode depender de como um currículo aparece, e não apenas da competência. Um estudo também encontrou desvantagem para currículos com credenciais ligadas à deficiência.

  1. Um estudo em 70 profissões encontrou que 21 de 22 modelos preferiram o primeiro de dois currículos igualmente qualificados.Gender and positional biases in LLM-based hiring decisions: evidence from comparative CV/résumé evaluations · David Rozado, PeerJ Computer Science 12:e3628, 2026
  2. Um estudo encontrou que o GPT-4 colocou em primeiro lugar apenas 15 de 60 vezes o currículo que tinha um prêmio, uma bolsa e um cargo adicionais, todos ligados à deficiência.Identifying and Improving Disability Bias in GPT-Based Resume Screening · Kate Glazko et al., FAccT 2024, 2024
  3. Um estudo ainda em revisão encontrou que reescrever currículos sem mudar a competência inverteu 29,6% das decisões no Llama 3.1 8B e 41,4% no Mistral 7B.Competence-Preserving Resume Perturbations Expose Presentation Sensitivity in LLM Screening · Q. Chen, Y. Xiao, arXiv, em revisão, 2026
  4. Langdon Winner propôs que o desenho de uma tecnologia pode favorecer algumas pessoas e prejudicar outras, carregando relações de poder.Do Artifacts Have Politics? · Langdon Winner, 1980

O que eu penso: Eu recomendo que, antes de ampliar o uso de IA para avaliar pessoas, você teste se mudar só a ordem ou a redação altera as decisões e mantenha uma pessoa responsável pela revisão.

04

Quem é responsável quando a IA erra?

Em contratações com IA, a responsabilidade pode alcançar tanto o empregador quanto o fornecedor do sistema. Colocar uma pessoa para supervisionar não garante que ela corrija uma recomendação errada.

Gravura: a Justiça, de olhos vendados, com espada e balança, sentada num trono entre a Paz e um soldado.
A Justiça, no frontispício de uma edição de 1773 de O Direito da Guerra e da Paz, de Hugo Grócio. Domínio público. Wikimedia Commons

A IA já é usada para filtrar candidatos, e suas recomendações podem influenciar até pessoas que avaliam mal o sistema. A discussão sobre responsabilidade envolve, portanto, tanto as empresas que fornecem a tecnologia quanto as que a usam para decidir quem terá uma oportunidade.

  1. No processo Mobley v. Workday, a juíza aceitou a tese de que o fornecedor de triagem pode responder como agente dos empregadores, sem que isso signifique uma condenação.Mobley v. Workday, Inc. · N.D. Cal., no. 3:23-cv-00770, N.D. California, 2023
  2. A lei de IA da União Europeia classifica sistemas de recrutamento, seleção e avaliação de trabalhadores como de alto risco, com deveres de supervisão humana e registro do que o sistema faz.Regulation (EU) 2024/1689, the AI Act · European Union, 2024
  3. Em um estudo com 528 pessoas escolhendo candidatos para 16 vagas, participantes seguiram recomendações enviesadas da IA mesmo quando avaliaram mal o sistema.No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy · Kyra Wilson et al., AIES 2025, 2025

O que eu penso: “O humano é sempre responsável, porque, eticamente, ele é o único consciente, até onde sabemos.”

05

Dá para confiar nas respostas da IA?

A IA pode inventar informações, inclusive ao resumir um texto fornecido. Uma resposta da IA não é, por si só, garantia de verdade.

Gravura: o busto do barão, de bigode enorme e peruca, sobre um pedestal com um brasão.
O Barão de Münchhausen, por Gustave Doré (1866), herói de histórias inventadas. Domínio público. Wikimedia Commons

A forma de treinar e avaliar a IA pode incentivar esse problema. Um estudo publicado na Nature argumenta que premiar acertos sem penalizar erros favorece o chute, em vez de reconhecer que não se sabe.

  1. Um estudo ainda não revisado por pares apresenta uma prova matemática de que, sob as hipóteses do artigo, nenhum modelo de linguagem consegue eliminar as respostas inventadas.Hallucination is Inevitable: An Innate Limitation of Large Language Models · Ziwei Xu, Sanjay Jain, Mohan Kankanhalli, arXiv, 2024
  2. O ranking da Vectara usa o mesmo teste para medir, em diferentes modelos, a parcela de resumos com informações que não estavam no texto original.Hallucination Leaderboard (HHEM-2.3) · Vectara, atualizado em 22 out. 2026, 2026

O que eu penso: “Dá, mas verificando.”

06

Por que a IA concorda tanto com você?

A IA pode concordar tanto com você porque é treinada com avaliações humanas, e respostas que concordam com quem pergunta tendem a receber notas melhores. Essa concordância não significa que você esteja certo.

Pintura: uma mulher observa, junto a uma árvore, um jovem deitado que se olha na água.
Eco e Narciso, de John William Waterhouse (1903). Eco só conseguia repetir o que ouvia; Narciso só via a si mesmo. Domínio público. Wikimedia Commons

Isso importa porque a concordância da IA pode afetar decisões fora da conversa: um estudo encontrou que uma única conversa com uma IA bajuladora aumentou a convicção das pessoas de estarem certas e reduziu sua disposição de reparar conflitos.

  1. Um estudo apresentado na ICLR 2024 relaciona a bajulação da IA ao treinamento com avaliações humanas, nas quais concordar com quem pergunta tende a render notas altas.Towards Understanding Sycophancy in Language Models · Mrinank Sharma … Ethan Perez, ICLR 2024, 2024
  2. Um estudo publicado na Science encontrou que 11 modelos aprovaram as ações dos usuários 49% mais do que pessoas aprovavam, inclusive em pedidos envolvendo engano ou ilegalidade.Sycophantic AI decreases prosocial intentions and promotes dependence · Myra Cheng et al., Science 391(6792), eaec8352, 2026

O que eu penso: Para mim, diante de uma IA que pode reforçar sua certeza, vale pedir fontes, cobrar que ela diga quando não sabe e buscar uma pessoa para conferir, em vez de tratar concordância como confirmação.

07

É ético usar IA para escolher candidatos?

A IA pode prejudicar candidatos por motivos que não refletem suas qualificações, e ter uma pessoa conferindo suas recomendações não garante uma seleção justa.

O problema já é tratado como uma questão de risco na legislação: a lei de IA da União Europeia classifica os sistemas usados para recrutar, selecionar e avaliar trabalhadores como de alto risco, com deveres de supervisão humana e registro do que fazem.

  1. Em um estudo com 528 pessoas, recomendações enviesadas da IA influenciaram a escolha de candidatos mesmo entre participantes que avaliaram mal a ferramenta.No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy · Kyra Wilson et al., AIES 2025, 2025
  2. Em um estudo, acrescentar a um currículo um prêmio, uma bolsa e um cargo ligados à deficiência resultou em o GPT-4 colocar esse currículo mais qualificado em primeiro lugar em apenas 15 de 60 comparações.Identifying and Improving Disability Bias in GPT-Based Resume Screening · Kate Glazko et al., FAccT 2024, 2024
  3. Em uma pesquisa preliminar com seleção simulada, candidatos cujo resumo do currículo foi escrito pelo mesmo modelo usado na avaliação tiveram de 23% a 60% mais chance de entrar na lista de selecionados.AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights · Jiannan Xu, Gujie Li, Jane Yi Jiang, arXiv; resumo estendido na AIES 2025, 2025

O que eu penso: Eu só ampliaria o uso de IA na seleção depois de medir seus vieses e criar uma revisão humana capaz de questionar suas recomendações, sem reduzir candidatos a uma nota.

08

O que acontece quando todo mundo usa a mesma IA?

Quando muitas pessoas ou empresas usam a mesma IA, seus erros podem se repetir em várias decisões, em vez de se compensarem. Usar modelos de empresas diferentes também não garante que eles errem de formas diferentes.

Prancha botânica: um ramo de laranjeira com folhas, flores e frutos, e uma laranja cortada ao meio.
Laranja-amarga, em Köhler’s Medizinal-Pflanzen (1897). Domínio público. Wikimedia Commons

Isso importa em decisões como contratação: o uso de algoritmos de um mesmo fornecedor pode fazer com que recusas de empresas diferentes deixem de ser independentes. Esse problema já aparecia em dados anteriores aos grandes modelos de linguagem.

  1. Um estudo teórico de Kleinberg e Raghavan mostra que usar o mesmo algoritmo em várias empresas pode piorar o conjunto das decisões, mesmo quando ele é mais preciso que cada avaliação isolada.Algorithmic monoculture and social welfare · Jon Kleinberg, Manish Raghavan, PNAS 118(22), 2021
  2. Um estudo encontrou que, quando dois modelos erram a mesma pergunta, escolhem a mesma resposta errada em média 60% das vezes, com semelhanças também entre modelos mais precisos de empresas diferentes.Correlated Errors in Large Language Models · Elliot Kim et al., ICML 2025, 2025
  3. Um estudo de contratações com algoritmos de um mesmo fornecedor encontrou que 4% das pessoas que se candidataram a 10 vagas tiveram recusa recomendada em todas, mais do que o acaso explica.Algorithmic Monocultures in Hiring · Rishi Bommasani et al., FAccT 2026, 2026

O que eu penso: Eu testaria se os modelos repetem os mesmos erros antes de ampliar seu uso, em vez de tratar a concordância entre eles como garantia de acerto.

09

Dá para ensinar valores a uma IA?

É possível definir valores para orientar o comportamento de uma IA: a constituição do Claude, por exemplo, pede que ele seja honesto nas respostas.

A questão vai além de como uma IA conversa. O verbete sobre ética da IA da Stanford Encyclopedia of Philosophy inclui debates sobre privacidade, manipulação, viés, autonomia e emprego, mostrando quantas escolhas estão envolvidas.

  1. A constituição do Claude, publicada pela Anthropic, descreve o comportamento esperado do modelo e pede honestidade com diplomacia, não diplomacia com desonestidade.Claude’s Constitution · Amanda Askell et al. (Anthropic), Anthropic, 2026
  2. Vincent C. Müller organiza, na Stanford Encyclopedia of Philosophy, os principais debates da ética da IA, incluindo privacidade, manipulação, opacidade, viés, autonomia e emprego.Ethics of Artificial Intelligence and Robotics · Vincent C. Müller, Stanford Encyclopedia of Philosophy, 2020

O que eu penso: Eu, antes de adotar uma IA, testaria se seu comportamento corresponde aos valores declarados, em vez de tratar regras escritas como garantia.

10

Como usar IA com responsabilidade numa empresa?

Usar IA com responsabilidade numa empresa exige testar seu desempenho nas tarefas reais e manter supervisão humana: ela pode melhorar o trabalho em uma tarefa e aumentar os erros em outra.

Ganhos de desempenho não garantem que a IA saiba lidar com a próxima tarefa, mesmo quando ela parece semelhante. O cuidado é especialmente importante em decisões sobre pessoas: a lei de IA da União Europeia classifica usos em recrutamento, seleção e avaliação de trabalhadores como de alto risco.

  1. Um estudo com 758 consultores da BCG encontrou melhora de 30% no desempenho em tarefas ao alcance da IA, mas queda de 19 pontos percentuais no acerto em uma tarefa fora desse alcance.Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality · Fabrizio Dell’Acqua, Edward McFowland III, Ethan Mollick et al., Organization Science 37(2), 403–423, 2026
  2. Um estudo publicado na Nature argumenta que o treinamento e as avaliações podem premiar respostas inventadas em vez da admissão de que a IA não sabe.Evaluating large language models for accuracy incentivizes hallucinations · Adam Tauman Kalai et al., Nature 653, 1047–1051, 2026
  3. A lei de IA da União Europeia prevê supervisão humana e registro do que o sistema faz em usos de alto risco ligados ao recrutamento, à seleção e à avaliação de trabalhadores.Regulation (EU) 2024/1689, the AI Act · European Union, 2024

O que eu penso: “A fronteira é obscura. Temos que ser espertos: usar ela pra nos educar e, depois, ao ser especialista, guiá-la para apenas multiplicar o esforço consciente. Não se entregar cognitivamente a ela, nunca.”

Quem escreve

Sou Vitor Araujo, engenheiro. Crio produtos com IA para empresas, e falo e escrevo sobre ética da IA e filosofia da tecnologia. Mais sobre mim.

Outros guias