Viés da automação: saiba o que é e como funciona

O viés da automação é um tipo de viés cognitivo que representa a tendência humana de acreditar mais no parecer de sistemas tecnológicos automatizados do que no parecer de outros seres humanos.

Esse viés funciona como um erro de julgamento, já que nem sempre os sistemas são mais corretos do que as pessoas. Dessa forma, esse viés pode ocasionar erros e injustiças.

Apesar de ser prejudicial, perceber que está sendo guiado por este ou outros vieses cognitivos é bem complicado, já que a lógica que eles proporcionam parece correta para o nosso cérebro. Mesmo assim vale a pena ficar de olho e tentar evitar este viés.

O que é o viés da automação?

O viés da confirmação é a tendência que o ser humano tem de confiar mais nas informações passadas por sistemas tecnológicos automatizados do que nas informações de outros seres humanos.

Ou seja, temos a tendência de acreditar que os seres humanos são mais propensos a cometerem falhas do que as máquinas. Logo, tendemos a confiar mais no parecer dos algoritmos do que dos humanos.

Em um primeiro momento, isso parece fazer sentido, já que vemos os algoritmos como procedimentos precisos e sem a ambiguidade do ser humano. Sendo assim, vemos os algoritmos como sistemas perfeitos.

No entanto, as coisas não são tão simples, já que o uso da automação, sobretudo a partir do desenvolvimento da inteligência artificial é um grande desafio para profissionais e empresas em todos os setores econômicos.

Como ele funciona?

O viés da automação funciona como um erro de julgamento, assim como outros vieses cognitivos. Em resumo, os vieses cognitivos são erros no processamento de informações, que tem uma aparência lógica, mas que geram falhas na forma com que julgamos a nossa realidade.

Existem muitos tipos de vieses cognitivos, com efeitos dos mais variados. É possível identificar e evitar os vieses, mas não é fácil pois eles parecem fazer sentido na nossa cabeça.

Guiado pelo viés da confirmação, por exemplo, você passa a ignorar as informações que vão contra as suas crenças e busca apenas por aquelas que confirmem a sua opinião. O problema é que você nem percebe que está ignorando as opiniões contrárias!

Já no caso do viés da automação, parece fazer sentido confiar desmedidamente em sistemas automatizados, mesmo quando as informações são questionáveis.

Como o viés da automação pode interferir na nossa vida?

O viés da automação pode fazer com que você confie demais nas máquinas em questões que seria melhor a atuação de um ser humano.

Por exemplo, usar máquinas para contratar pessoas pode ser bem problemático, pois a inteligência artificial usa informações históricas para aprender melhor sobre os padrões humanos. Isso é problemático pois ela acaba contratando mais homens brancos do que mulheres e negros, por exemplo.

Ou seja, a máquina aprende sobre um padrão histórico que não é positivo e acaba perpetuando isso, dando preferência a homens brancos do que grupos opostos. Desse modo, a automação não cumpre o seu principal objetivo que é combater a influência dos vieses humanos nas decisões de contratação.

Portanto, em casos como este do exemplo, o sistema não faz escolhas melhores, como somos levados a acreditar pelo viés da automação. Então antes de acreditar 100% no parecer de uma máquina, é melhor verificar os resultados que ela obteve.

A tendência à automação existe em vários setores, até mesmo nos investimentos por meio dos robôs investidores. Inclusive, o investidor pode acabar confiando demais no robô e não conferir como está indo a sua carteira de investimentos, o que é um erro.

Enfim, apesar de não ser fácil de notar quando estamos sendo guiados por vieses, é essencial ficar atento. Afinal de contas, podemos cometer injustiças e erros ao seguirmos vieses.

• Leia também: Viés do conservadorismo: o que é, como funciona e seus efeitos

Fontes; Mais retorno e Ux design.