Você sabe que a IA está errada. Vai fazer o que ela manda mesmo assim.

O GPS mandou virar à direita. Você tinha percorrido aquela rota dezenas de vezes. Sabia com toda a certeza que a rua da direita estava bloqueada por uma obra que já durava três meses. Virou à direita mesmo assim. Os pesquisadores chamam isso de viés de automação — e a maioria das pessoas faz algo parecido dezenas de vezes por dia.

Ou talvez a sua versão seja outra. Uma ferramenta de IA sugere uma afirmação factualmente errada. Você tem sete anos de experiência na área e sente que está errado. Cola o texto mesmo assim, talvez com uma pequena edição, talvez sem nenhuma. Ou o algoritmo recomenda um produto que não faz o menor sentido para o seu caso, você sente aquela desconfiança lá dentro, mas clica em «adicionar ao carrinho» porque — bem, a máquina deve saber algo que você não sabe.

Isso não é preguiça. Não é fraqueza intelectual. Tem uma pesquisa específica por trás, e um mecanismo que funciona mesmo — especialmente — quando você está tentando pensar com cuidado.

O que Kathleen Mosier e Linda Skitka realmente descobriram

Em 1996, duas pesquisadoras publicaram um artigo que deveria ter mudado radicalmente a forma como as organizações implantam tecnologia. Não mudou. Mas deveria mudar como você a usa na sua própria vida.

Kathleen Mosier e Linda Skitka, no artigo fundacional «Human Decision Makers and Automated Decision Aids: Made for Each Other?», conduziram uma série de experimentos em que os participantes realizavam tarefas complexas e cognitivamente exigentes — do tipo em que verificar múltiplas fontes de informação com cuidado era genuinamente necessário para chegar à resposta certa. Metade dos participantes trabalhou com uma ferramenta de apoio à decisão: um sistema automatizado que sinalizava problemas e fazia recomendações. A outra metade trabalhou sem nenhuma ajuda.

Os resultados foram surpreendentes pela consistência.

Os participantes com acesso à ferramenta cometeram mais erros, não menos. E os erros se dividiram em dois padrões distintos e preocupantes. Primeiro, os erros de omissão: quando o sistema automatizado deixou de sinalizar um problema real, os participantes tinham muito menos probabilidade de detectá-lo por conta própria do que aqueles que trabalhavam sem nenhum auxílio. A presença de um sistema projetado para ajudá-los prejudicou a vigilância independente deles. Tinham parado de olhar com a mesma atenção porque outra coisa estava olhando por eles.

Segundo, e pior: os erros de comissão. Quando o sistema automatizado apresentava uma recomendação comprovadamente errada, os participantes a seguiam mesmo assim, descartando o próprio julgamento correto para acatar uma sugestão automatizada equivocada. Em alguns testes, os participantes tinham na frente deles informações que contradiziam diretamente a recomendação do sistema. Seguiram o sistema assim mesmo.

Leia de novo. Eles tinham a resposta certa. Tinham a evidência. Jogaram fora porque a máquina disse o contrário.

Mosier e Skitka chamaram isso de viés de automação: a tendência sistemática de depender demais de uma fonte automatizada ou algorítmica, que se manifesta tanto como redução da vigilância quando o sistema está silencioso quanto como deferência a ele quando contradiz o seu julgamento mais bem fundamentado.

O mecanismo: por que esforço mais autoridade é a combinação perfeita para dar errado

Aqui está a parte que a maioria dos resumos desta pesquisa omite — e é exatamente a que a torna útil de verdade.

O viés de automação não aparece de forma igual em todas as tarefas. Ele se intensifica especificamente sob duas condições que quase sempre ocorrem juntas: a tarefa é exigente e a fonte automatizada parece ter autoridade.

Pense no que isso significa. Você esperaria que, quanto mais difícil fosse a tarefa, mais cuidadosamente você usaria todas as informações disponíveis — incluindo o próprio julgamento — para acertar. A pesquisa diz o contrário. Quando uma tarefa é cognitivamente exigente e você tem acesso a uma fonte automatizada aparentemente confiável, o cérebro trata essa fonte como um sinal para reduzir seu próprio processamento independente. Não porque você seja descuidado. Porque essa é, na verdade, uma estratégia eficiente na maior parte do tempo. Se a máquina costuma acertar e a tarefa é difícil, delegar o julgamento à máquina é um atalho razoável.

O problema é que essa busca por eficiência persiste mesmo quando a máquina não está certa. E mesmo quando você tem evidência própria de que ela está errada.

O elemento da «fonte com autoridade» tem um peso enorme. Mosier e Skitka verificaram que o viés se amplificava quando os participantes percebiam a ferramenta como proveniente de um sistema confiável, especializado ou que parecia fidedigno. Em 2026, pense no que isso significa: as ferramentas de IA não apenas te dão recomendações. Elas te dão recomendações seguras, fluidas, repletas de referências e bem formatadas. Parecem ter autoridade de um jeito que a sugestão informal de um colega não tem. Cada escolha de design — a interface limpa, a resposta instantânea, a ausência de incerteza visível — reforça a percepção de que a fonte sabe do que está falando.

O que significa que a tecnologia que deveria ampliar o seu pensamento está fazendo exatamente o oposto, nas condições em que você mais se beneficiaria do próprio raciocínio cuidadoso.

Fadiga de decisão: por que sua manhã sabota o deep work

A distinção que importa: isso não é pensamento de grupo

Vale a pena ser preciso sobre o que o viés de automação não é, porque as pessoas o confundem com outros padrões cognitivos que já conhecem.

O pensamento de grupo de Irving Janis descreve o que acontece dentro de um grupo humano quando a pressão pelo consenso impede os membros de expressar discordância. É uma dinâmica social: as pessoas silenciam suas próprias opiniões para preservar a harmonia do grupo. O realismo ingênuo de Lee Ross fala sobre o quanto as pessoas se sentem seguras sobre a objetividade da própria percepção — a convicção de que você está vendo o mundo como ele é enquanto os outros estão enviesados.

O viés de automação não é nenhum dos dois. Não é um fenômeno social que exige outros seres humanos. Não tem a ver com superestimar a própria precisão. Tem a ver, de forma específica e concreta, com o que acontece quando uma fonte não humana, algorítmica ou automatizada entra em cena. A pesquisa mostrou que um único indivíduo, sozinho, sem nenhuma pressão social, com evidência própria em mãos de que a máquina estava errada, ainda assim deferia à máquina com uma frequência notável.

Essa distinção importa na prática. O conselho tradicional para o pensamento de grupo — fale, crie segurança psicológica, designe um advogado do diabo — não aborda o viés de automação em nada. Você não está tentando superar a pressão dos outros. Está tentando superar a sua própria tendência silenciosa, eficiente e completamente involuntária de delegar o trabalho cognitivo a um sistema que, neste caso específico, está errado.

Por que isso é mais relevante hoje do que era em 1996

Os experimentos originais de Mosier e Skitka usaram simuladores de voo e sistemas de monitoramento industrial. Em 1996, a maioria das pessoas não interagia com uma ferramenta de apoio à decisão mais do que ocasionalmente, em contextos profissionais especializados.

Em 2026, você interage com auxílios automatizados para decidir dezenas de vezes antes do almoço.

O seu aplicativo de e-mail classifica quais mensagens merecem atenção. O Waze te leva por rotas baseadas em critérios que você nunca especificou. O editor de texto sinaliza a gramática. O mecanismo de busca decide quais resultados são mais relevantes. O assistente de IA redige, sugere, resume e recomenda — de forma fluida, segura e em alta velocidade.

Nenhum desses sistemas é infalível. Cada um tem modos de falha que são opacos para você. E cada um deles, segundo a pesquisa, está reduzindo silenciosamente a vigilância que você de outra forma aplicaria às mesmas perguntas.

A implicação contraintuitiva — a que é difícil de aceitar — é que ter acesso a uma ferramenta de IA para uma decisão específica não neutraliza seus vieses cognitivos. Adiciona um. Se você acha que usar uma IA torna o seu raciocínio mais objetivo, os dados de Mosier e Skitka sugerem que você deveria pensar de novo. Você introduziu um sistema que o seu cérebro já está tratando como mais confiável do que a própria avaliação cuidadosa, independentemente de se ele ganhou essa confiança neste caso específico.

Seth Godin resumiu em uma frase

Seth Godin publicou um texto breve chamado «Eager to give up agency» que capturou algo que Mosier e Skitka levaram páginas para demonstrar com dados: as pessoas estão felizes em ceder o controle. Não a contragosto. Não coagidas. Felizes.

Essa é a observação desconfortável que se esconde sob a pesquisa. O viés de automação não é apenas uma vulnerabilidade — muitas vezes é vivido como alívio. Delegar o julgamento a uma fonte com autoridade reduz a incerteza. Reduz o desconforto de estar errado em nome próprio. Reduz o esforço. E os sistemas com os quais interagimos diariamente estão projetados, explicitamente, para oferecer exatamente esse alívio — para parecer um parceiro capaz e confiável que já pensou as coisas para que você não precise.

A pergunta não é se isso é atraente. Obviamente é. A pergunta é o que a pesquisa real diz que acontece com a qualidade das suas decisões quando você aceita a oferta sem verificá-la primeiro.

Por que a maior parte do seu dia funciona no piloto automático — a ciência de verdade

Como identificar seu próprio viés de automação antes que ele te pegue

Isso não é um argumento contra usar ferramentas de IA, algoritmos ou qualquer outra forma de assistência automatizada. É um argumento a favor de um único hábito concreto que a pesquisa respalda diretamente.

Forme sua opinião antes de consultar a ferramenta.

É isso. Antes de ler o rascunho da IA, escreva sua própria primeira frase. Antes de ver a recomendação do algoritmo, decida o que você escolheria sem ele. Antes de deixar o aplicativo de navegação te guiar, lembre o que você sabe sobre as ruas. Depois consulte. Depois compare. A sequência é o que importa.

Os dados de Mosier e Skitka mostram que o viés opera no momento da primeira exposição à fonte automatizada. Depois que você leu a recomendação, a influência já está ativa — sua avaliação independente já está comprometida. A única posição genuinamente protegida é aquela que você formou antes de ver o resultado.

Como colocar isso em prática:

1. Nomeie a decisão antes de abrir a ferramenta. Antes de lançar o assistente de IA ou ver o resultado do algoritmo, escreva em uma frase o que você já pensa ou sabe. Não precisa estar certo. Só precisa comprometer seu próprio julgamento em palavras antes de chegar qualquer input externo.

2. Mantenha um registro de decisões para tudo que tenha consequências. Quando uma decisão importante envolve uma recomendação automatizada, anote primeiro seu julgamento independente, depois o resultado da ferramenta, depois o que você efetivamente decidiu. Revisar esses registros ao longo do tempo revela seu padrão de viés de automação — em quais áreas você cede, em quais não.

3. Pergunte: "O que eu concluiria se a ferramenta dissesse o oposto?" Esse é o ajuste mais rápido. Se a fonte automatizada tivesse recomendado a outra opção com a mesma confiança, a sua avaliação mudaria? Se a resposta for sim, você não tem evidência independente — tem uma preferência pelo resultado da ferramenta disfarçada de raciocínio próprio.

4. Perceba quando "a máquina sabe algo que eu não sei" vira reflexo em vez de etapa de raciocínio. Essa frase às vezes é verdade e vale dizer. Mas é também exatamente o movimento cognitivo que o viés de automação aproveita. A pesquisa não diz que as máquinas não sabem coisas. Diz que as pessoas param de verificar se a máquina está certa nesta pergunta específica, neste momento preciso. São coisas diferentes.

5. Ajuste a profundidade da sua revisão ao nível das consequências. Nem toda recomendação automatizada exige verificação independente — o filtro de spam do seu e-mail não precisa de uma opinião prévia. Mas para decisões com consequências reais — profissionais, financeiras, relacionais, de saúde — a evidência diz que a avaliação independente não é opcional. É exatamente o ponto.

O que são modelos mentais e como usá-los

A perspectiva do design da sua evolução

Existe uma versão dessa pesquisa que paralisa: você não pode confiar no próprio julgamento, não pode confiar na máquina, tudo está comprometido. Essa leitura está errada e perde o que os dados realmente dizem.

Mosier e Skitka não descobriram que o julgamento humano independente é pouco confiável. Descobriram que ele está subutilizado — contornado, não substituído — quando uma fonte automatizada entra em cena. O seu julgamento, exercido primeiro, antes de o algoritmo falar, é exatamente tão capaz quanto era antes de existirem ferramentas de apoio à decisão. Talvez mais, porque você sabe algo que a máquina não sabe: a sua situação concreta, as suas limitações, o seu histórico com exatamente esse tipo de problema.

Desenhar a sua evolução a partir dessa pesquisa significa proteger algo que você já tem. Não desenvolver uma nova capacidade. Não instalar um novo sistema. Apenas recusar que o seu melhor pensamento chegue depois da recomendação, quando a influência já está ativa, em vez de antes.

Uma pergunta que vale a pena considerar: a última vez que um algoritmo ou uma ferramenta de IA recomendou algo sobre o qual você não tinha certeza, o que você fez? Você formou sua opinião primeiro — ou deixou a ferramenta formá-la por você?

Não é uma pergunta retórica. É o dado que Mosier e Skitka estavam atrás.

---

Fontes:

• Mosier, K. L., & Skitka, L. J. (1996). Human Decision Makers and Automated Decision Aids: Made for Each Other? Em Automation and Human Performance: Theory and Applications. Lawrence Erlbaum Associates. Semantic Scholar
• Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886
• Cummings, M. L. (2004). Automation bias in intelligent time critical decision support systems. AIAA 3rd Intelligent Systems Conference. https://doi.org/10.2514/6.2004-6313
• Godin, S. (2026, julho 29). Eager to give up agency. Seth's Blog. https://seths.blog