Pesquisadores da Microsoft e da Universidade Carnegie Mellon publicaram recentemente um estudo analisando como o uso de IA generativa no trabalho afecta as habilidades de pensamento crítico.
“Usadas de forma inadequada, as tecnologias podem resultar e resultam na deterioração de faculdades cognitivas que deveriam ser preservadas”, afirma o artigo.
Quando as pessoas confiam na IA generativa no trabalho, seus esforços mudam para verificar se a resposta de uma IA é boa o suficiente para ser usada, em vez de usar habilidades de pensamento crítico de ordem superior, como criar, avaliar e analisar informações. Se os humanos só intervêm quando as respostas da IA são insuficientes, diz o artigo, então os trabalhadores são privados de “oportunidades rotineiras para praticar seu julgamento e fortalecer sua musculatura cognitiva, deixando-os atrofiados e despreparados quando as exceções surgem”.
Em outras palavras, quando confiamos demais na IA para pensar por nós, pioramos nossa capacidade de resolver problemas quando a IA falha.
Neste estudo de 319 pessoas, que relataram usar IA generativa pelo menos uma vez por semana no trabalho, os entrevistados foram solicitados a compartilhar três exemplos de como eles usam IA generativa no trabalho, que se enquadram em três categorias principais: criação (escrever um e-mail formulaico para um colega, por exemplo); informação (pesquisar um tópico ou resumir um artigo longo); e conselho (pedir orientação ou fazer um gráfico a partir de dados existentes). Em seguida, foi perguntado se eles praticam habilidades de pensamento crítico ao fazer a tarefa e se usar IA generativa os faz usar mais ou menos esforço para pensar criticamente. Para cada tarefa que os entrevistados mencionaram, eles também foram solicitados a compartilhar o quão confiantes estavam em si mesmos, na IA generativa e em sua capacidade de avaliar resultados de IA.
Cerca de 36% dos participantes relataram que usaram habilidades de pensamento crítico para mitigar potenciais resultados negativos do uso de IA. Uma participante disse que usou o ChatGPT para escrever uma avaliação de desempenho, mas verificou duas vezes a saída da IA por medo de que pudesse enviar acidentalmente algo que a levaria à suspensão. Outro entrevistado relatou que teve que editar emails gerados por IA que ele enviaria ao seu chefe — cuja cultura dá mais ênfase à hierarquia e à idade para que ele não cometesse uma gafe. E em muitos casos, os participantes verificaram as respostas geradas por IA com pesquisas na web mais gerais de recursos como YouTube e Wikipedia, possivelmente derrotando o propósito de usar IA em primeiro lugar.
Para que os trabalhadores compensem as deficiências da IA generativa, eles precisam entender como essas deficiências acontecem. Mas nem todos os participantes estavam familiarizados com os limites da IA.
“Potenciais danos posteriores das respostas GenAI podem motivar o pensamento crítico, mas somente se o usuário estiver conscientemente ciente de tais danos”, diz o artigo.
De fato, o estudo descobriu que os participantes que relataram confiança na IA usaram menos esforço de pensamento crítico do que aqueles que relataram ter confiança em suas próprias habilidades.
Embora os pesquisadores evitem dizer que ferramentas de IA generativas tornam você mais burro, o estudo mostra que a dependência excessiva de ferramentas de IA generativas pode enfraquecer nossa capacidade de resolução independente de problemas.
