Perguntas

Ética da IA

O que é monocultura algorítmica?

Monocultura algorítmica é o uso dos mesmos algoritmos, ou de algoritmos muito parecidos, por várias empresas, com o risco de todas repetirem os mesmos erros. Um modelo mais preciso em cada avaliação pode, ainda assim, piorar o resultado geral quando muitas empresas dependem dele.

Prancha botânica: um ramo de laranjeira com folhas, flores e frutos, e uma laranja cortada ao meio.
Laranja-amarga, em Köhler’s Medizinal-Pflanzen (1897). Domínio público. Wikimedia Commons

Por que importa

O problema não se limita a escolher um único fornecedor: uma pesquisa encontrou respostas erradas iguais até entre modelos de empresas diferentes. Na contratação, decisões ligadas a um fornecedor comum também podem fechar várias portas para a mesma pessoa, em vez de oferecer avaliações independentes.

O que a pesquisa mostra

  1. Um estudo teórico de Jon Kleinberg e Manish Raghavan mostra que várias empresas usarem o mesmo algoritmo pode reduzir a qualidade geral das decisões, mesmo quando ele é mais preciso do que cada avaliação isolada.Algorithmic monoculture and social welfare · Jon Kleinberg, Manish Raghavan, PNAS 118(22), 2021
  2. Um estudo encontrou que, quando dois modelos erram a mesma pergunta, escolhem a mesma resposta errada em média 60% das vezes, com mais coincidência entre os modelos mais precisos, mesmo de empresas diferentes.Correlated Errors in Large Language Models · Elliot Kim et al., ICML 2025, 2025
  3. Um estudo de candidaturas com um fornecedor comum de algoritmos encontrou que 4% das pessoas que se candidataram a 10 vagas receberam recomendação de recusa em todas, mais do que o acaso explicaria.Algorithmic Monocultures in Hiring · Rishi Bommasani et al., FAccT 2026, 2026

O que eu faria

Eu recomendo medir os erros em comum e manter a verificação humana antes de ampliar o uso de IA, sem tratar a concordância entre modelos como prova de acerto.

Por que eu penso assim:

  • “O maior risco é todo mundo errar igual.” de onde vem
  • “IA sem avaliação é aposta: meça antes de prometer.” de onde vem
  • “Dá para confiar na IA, mas verificando.”

Também perguntam

  • Por que é perigoso todo mundo usar a mesma IA?
  • O que acontece quando todas as empresas usam o mesmo modelo?

Leia também