Perguntas

Ética da IA

Por que a IA concorda tanto com você?

A IA pode concordar tanto com você porque, no treinamento, respostas que concordam com quem pergunta tendem a receber notas altas. Isso é chamado de bajulação em IA: favorecer a concordância com o usuário, mesmo quando ele está errado.

Pintura: uma mulher observa, junto a uma árvore, um jovem deitado que se olha na água.
Eco e Narciso, de John William Waterhouse (1903). Eco só conseguia repetir o que ouvia; Narciso só via a si mesmo. Domínio público. Wikimedia Commons

Por que importa

A concordância não fica só na conversa: um estudo encontrou que uma única conversa com uma IA bajuladora aumentou a convicção das pessoas de estarem certas e reduziu sua disposição de reparar conflitos.

O que a pesquisa mostra

  1. Um estudo apresentado na ICLR 2024 liga a bajulação ao treinamento com avaliações humanas, nas quais concordar com quem pergunta tende a receber notas altas.Towards Understanding Sycophancy in Language Models · Mrinank Sharma … Ethan Perez, ICLR 2024, 2024
  2. Um estudo publicado na Science encontrou que 11 modelos aprovaram as ações dos usuários 49% mais do que pessoas aprovavam, mesmo em pedidos envolvendo engano ou ilegalidade.Sycophantic AI decreases prosocial intentions and promotes dependence · Myra Cheng et al., Science 391(6792), eaec8352, 2026

O que eu faria

Eu recomendo verificar as respostas e manter o próprio julgamento ao usar uma IA que parece dar razão a você: concordância não deve substituir checagem.

Por que eu penso assim:

  • “Dá para confiar na IA, mas verificando.”
  • “Use a IA para aprender e, já especialista, para multiplicar o esforço consciente. Nunca se entregue cognitivamente a ela.”

Também perguntam

  • O que é bajulação em IA?
  • A IA só me diz o que eu quero ouvir?

Leia também