Perguntas

Ética da IA

Quem é responsável quando a IA erra?

A responsabilidade por decisões de contratação com IA pode envolver tanto a empresa que usa o sistema quanto o fornecedor, dependendo do caso.

Gravura: a Justiça, de olhos vendados, com espada e balança, sentada num trono entre a Paz e um soldado.
A Justiça, no frontispício de uma edição de 1773 de O Direito da Guerra e da Paz, de Hugo Grócio. Domínio público. Wikimedia Commons

Por que importa

A questão já chegou aos tribunais e às leis: um tribunal aceitou que um fornecedor de IA pode responder como agente do empregador, e a lei de IA da União Europeia exige supervisão humana e registros em sistemas de recrutamento. Mas colocar uma pessoa para revisar não garante que ela questione a recomendação.

O que a pesquisa mostra

  1. No processo Mobley v. Workday, a juíza aceitou a tese de que o fornecedor pode responder como agente dos empregadores, sem que isso seja uma decisão final sobre as alegações de discriminação.Mobley v. Workday, Inc. · N.D. Cal., no. 3:23-cv-00770, N.D. California, 2023
  2. A lei de IA da União Europeia classifica sistemas de recrutamento, seleção e avaliação de trabalhadores como de alto risco, com deveres de supervisão humana e registro do que fazem.Regulation (EU) 2024/1689, the AI Act · European Union, 2024
  3. Em um estudo sobre contratação, pesquisadores observaram que até participantes que avaliaram mal a IA seguiram suas recomendações enviesadas.No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy · Kyra Wilson et al., AIES 2025, 2025

O que eu faria

“O humano é sempre responsável, porque, eticamente, ele é o único consciente, até onde sabemos.”

Por que eu penso assim:

  • “Tecnologia não é neutra: carrega as escolhas de quem a faz e de quem a usa.”
  • “IA sem avaliação é aposta: meça antes de prometer.” de onde vem
  • “Uma IA séria fala só o que sabe, mostra de onde tirou, diz quando não sabe e chama uma pessoa.” de onde vem

Também perguntam

  • De quem é a culpa quando a inteligência artificial erra?
  • A empresa responde pelos erros da IA?
  • O que é IA responsável?

Leia também