Segundo o pesquisador futurista Anders Sandberg, o clichê “a falta de conhecimento histórico leva a humanidade a repetir os mesmos erros” não faz muito sentido. Tudo indica que, mesmo com informação, o ser humano pode escolher ignorar os alertas.
Para Sandberg, uma das causas dessa situação é a incapacidade de perceber como os eventos passados são relevantes para os eventos atuais, ignorando os padrões que se desenrolam.
Quando cometemos erros, em vez de determinar por que uma decisão falhou e como evitá-la no futuro, tendemos a preferir ignorá-la. Isso significa que, quando uma situação semelhante surgir novamente, não percebemos a semelhança e repetimos o erro.
Ambos os casos revelam problemas com a informação. No primeiro caso, falhamos em lembrar informações pessoais ou históricas. No segundo caso, falhamos em codificar informações quando estão disponíveis.
Além disso, também cometemos erros quando não conseguimos deduzir eficientemente o que vai acontecer. Talvez a situação seja muito complexa ou consuma muito tempo para pensar. Ou por estarmos propensos a interpretar erroneamente o que está acontecendo.
A tecnologia, como a inteligência artificial (IA), pode armazenar e recuperar informações, facilitando a aprendizagem e a memorização. No entanto, lembrar não se resume apenas a recuperar informações, mas também a identificar semelhanças e fazer conexões relevantes. A IA pode identificar semelhanças indesejáveis e nos alertar sobre coisas que não são importantes, o que pode ser irritante.
Um dos problemas fundamentais é que tanto a falta de informação quanto o mau uso da informação podem levar a erros. Além disso, a complexidade da tecnologia pode aumentar o risco de erros. Embora a tecnologia possa ser útil e confiável, também pode falhar, especialmente quando confiamos muito nela.
A IA, embora possa complementar nosso pensamento e ajudar na tomada de decisões, também pode cometer erros que os humanos nunca imaginariam. Além disso, os sistemas de IA são programados e treinados por humanos, o que pode levar à incorporação de vieses e à repetição de erros do mundo humano.
Apesar dessas limitações, podemos trabalhar para reduzir as consequências dos erros. O design cuidadoso, a criação de sistemas à prova de falhas e a incorporação de recursos de segurança são medidas que podem ajudar a evitar erros.
A tecnologia pode ser uma ferramenta valiosa, desde que consideremos cuidadosamente o que realmente desejamos dela e a projetemos de acordo com nossas necessidades.