O ChatGPT está nos deixando burros?

A forma como usamos as ferramentas de IA pode desencorajar a curiosidade intelectual e criar uma dependência que limita o desenvolvimento cognitivo a longo prazo.

Em 2008, a revista americana The Atlantic causou polêmica com uma matéria de capa provocativa que questionava: o Google está nos deixando burros?

No artigo de 4.000 palavras, que depois acabou virando um livro, o autor Nicholas Carr sugeria que a resposta era sim, argumentando que tecnologias com mecanismos de pesquisa estavam piorando a capacidade dos americanos de pensar com profundidade e reter conhecimento.

No centro da preocupação de Carr estava a ideia de que as pessoas já não precisavam mais memorizar ou aprender fatos quando elas podiam simplesmente pesquisar isso online. 

Apesar de haver alguma verdade nisso, as ferramentas de busca ainda demandam pensamento crítico para interpretar e contextualizar os resultados.

Chegamos aos dias de hoje, e com uma mudança tecnológica ainda mais profunda. Com o surgimento de ferramentas de inteligência artificial generativa, como o ChatGPT, os usuários da internet não podem apenas terceirizar a memória, mas o próprio pensamento.

Ferramentas de IA generativa não só resgatam informações, elas podem criar, analisar e resumir conteúdos. Isso representa uma mudança crucial: a IA generativa é a primeira tecnologia com potencial de substituir o pensamento e a criatividade do ser humano.

Isso levanta uma questão importante: o ChatGPT está nos deixando burros?

Como professor de sistemas de informação que trabalha com IA por mais de duas décadas, eu acompanhei essa transformação de perto. E, à medida que cada vez mais pessoas delegam tarefas cognitivas à inteligência artificial, eu acredito que vale a pena refletir o que estamos ganhando e o que corremos risco de perder.

IA e o efeito Dunning-Kruger

A IA generativa está mudando a forma como as pessoas acessam e processam informação.

Para muitos, ela está substituindo a necessidade de analisar fontes, comparar pontos de vista e lidar com ambiguidades. Mas, a IA oferece respostas claras e refinadas em questão de segundos.

Embora os resultados possam ser ou não precisos, eles são inegavelmente eficientes. Isso já vem provocando grandes mudanças no nosso modo de trabalhar e pensar.

Mas a conveniência pode ter um custo.

Quando as pessoas se apoiam na IA para realizar tarefas e pensar por elas, podem acabar enfraquecendo sua capacidade de pensar criticamente, resolver problemas complexos e se envolver profundamente com a informação.

Embora as pesquisas até o momento sejam limitadas, o consumo passivo de conteúdos de IA generativa pode desencorajar a curiosidade intelectual, reduzir a capacidade de atenção e criar uma dependência que limita o desenvolvimento cognitivo a longo prazo.

Para melhor entender os riscos, consideremos o efeito Dunning-Kruger.

Esse é um fenômeno em que as pessoas menos informadas e menos competentes tendem a ser mais confiantes em suas habilidades, porque elas não sabem o que não sabem.

Em contraste, pessoas mais competentes tendem a ser menos confiantes, geralmente porque elas conseguem reconhecer as complexidades que ainda não dominaram.

Esse conceito pode ser aplicado ao uso da inteligência artificial. Alguns usuários podem se apoiar fortemente em ferramentas como o ChatGPT para substituir seu esforço cognitivo, enquanto outros o usam para potencializar suas capacidades.

No primeiro caso, eles podem acreditar erroneamente que compreendem um assunto por apenas conseguirem repetir o conteúdo gerado por IA. Dessa forma, a inteligência artificial pode artificialmente inflar a percepção de inteligência, ao mesmo tempo que reduz o esforço cognitivo.

Isso cria uma divisão em como as pessoas usam a IA. Alguns permanecem presos no "topo do monte dos burros" usando essas ferramentas para substituir a criatividade e o pensamento crítico. Outras as usam para aumentar suas habilidades cognitivas existentes.

Em outras palavras, o que importa não é se uma pessoa usa IA generativa, mas como ela usa.

Quando usado de forma acrítica, o ChatGPT pode levar à acomodação intelectual. Os usuários podem aceitar suas respostas sem questionar premissas, buscar pontos de vista alternativos ou realizar análises mais profundas.

Mas, quando o ChatGPT é usado como uma ajuda complementar, isso pode torná-lo um recurso poderoso para estimular a curiosidade, gerar ideias, esclarecer temas complexos e provocar diálogos intelectuais.

A diferença entre o ChatGPT nos tornar burros ou aumentar nossas capacidades está em como o utilizamos. A IA generativa deve ser usada para potencializar a inteligência humana, não substitui-la. Isso significa usar o ChatGPT como apoio a uma pesquisa, não um atalho. Significa usar as respostas das ferramentas de IA como o ponto de partida de um pensamento, não o fim.

IA, pensamento e o futuro do trabalho

A adoção em massa de ferramentas de inteligência artificial generativa, liderada pela ascensão explosiva do ChatGPT — que alcançou 100 milhões de usuários dois meses após seu lançamento — tem, na minha opinião, deixado usuários da internet diante de uma encruzilhada.

Um caminho leva ao declínio intelectual: um mundo onde nós deixamos a IA pensar por nós. O outro caminho oferece uma oportunidade: expandir a capacidade do nosso cérebro ao trabalhar em parceria com a IA, aproveitando seu poder para ampliar o nosso próprio.

Com frequência, ouvimos que a inteligência artificial "não vai roubar o nosso emprego", mas alguém usando IA vai.

No entanto, parece claro que as pessoas que usam a IA para substituir suas próprias habilidades cognitivas ficarão presas no topo do "monte dos burros". Essas serão as mais fáceis de serem substituídas.

Aqueles que adotam uma abordagem de aumento cognitivo no uso da IA vão alcançar o caminho da compreensão, trabalhando em conjunto com a inteligência artificial para gerar resultados que nenhum dos dois conseguiria produzir sozinho. É nesse ponto que, inevitavelmente, estará o futuro do trabalho.

Este artigo começou com a pergunta: O ChatGPT está nos deixando burros? Mas eu gostaria de terminá-lo com uma pergunta diferente: Como usaremos o ChatGPT para nos tornar mais inteligentes?

As respostas para ambas as perguntas não dependem da ferramenta, mas de quem a utiliza.

AARON FRENCH - professor assistente de Sistema da Informação na Universidade estadual de Kennesaw, nos EUA.