Não pergunte ao ChatGPT

E vamos parar de chamar algoritmos estatísticos de inteligência artificial

A notícia mais assustadora que eu li neste mês que acabou não tinha nada a ver com Trump nem Bolsonaro, nem mesmo com a fome em Gaza, que apenas atesta que é possível ser desumano mesmo tendo a capacidade biológica de 16 bilhões de neurônios corticais para tomar boas decisões que levam o bem alheio em consideração. 

A notícia que mais me assustou foi outra: nossos jovens estão recorrendo a algoritmos estatísticos para buscar conselhos, obter apoio emocional e tomar decisões –além, é claro, de fazer o dever de casa.

Segundo a pesquisa em questão, metade dos adolescentes nos EUA usa regularmente plataformas e aplicativos de "inteligência artificial" como "amiguinhos digitais". 

Como se não bastasse usar, um terço dos jovens consultados já recorreu a algoritmos estatísticos para discutir assuntos importantes, e 31% dos jovens consideram que conversar com esses algoritmos é tão bom quanto falar com amigos de verdade. 

A filha adolescente do meu hóspede confirma: ela usa ChatGPT para pedir conselhos, recomendações e ideias.

Isso é assustador em um nível completamente diferente dos temores de obsolescência de habilidades humanas causada por tecnologia que remontam a Platão, do tipo "os livros vão acabar com a memória oral", "o rádio vai acabar com a leitura", "a internet vai acabar com os jornais". 

Livros, rádio, jornais e mesmo o corpo de dados acumulado, documentado, catalogado e disponibilizado via internet têm se mantido fiéis à intenção dos humanos que observaram, pensaram e geraram o conhecimento comunicado por esses meios. 

O mais importante, contudo, é que o uso das informações e conhecimento veiculados depende de pessoas que pensam e que, com suas vontades e valores humanos, oferecem compreensão, amizade e conselhos com intenção, empatia, e preocupação com o futuro.

Algoritmos, não. A tal da "inteligência artificial" que os jovens consultam, que de inteligência não tem nada, pois não tem nem oferece flexibilidade, é apenas um algoritmo estatístico. 

Empoderados pela vasta capacidade computacional que a cognição humana desenvolveu em silicone, e às custas de muita energia, esses algoritmos mapeiam a probabilidade de sequências cada vez longas de palavras. 

Dado um prompt na forma de pergunta ou pedido, as "respostas" que os algoritmos estatísticos cospem são apenas novas sequências de palavras relacionadas ao prompt que refletem sua probabilidade de incidência no corpo de dados que treinou o algoritmo.

Ou seja: algoritmos estatísticos treinados por comentários de redes sociais, que contêm o pior que a humanidade é capaz de produzir, vão cuspir de volta conselhos odiosos, incitação ao crime e ao suicídio simplesmente porque isso está representado nos dados cujas probabilidades foram mapeadas pelos algoritmos.

Algoritmo não sente, não sofre, não pensa. Algoritmo não é amigo de ninguém. 

Mas algoritmo vendido como "inteligência artificial", com apelido bonitinho –ChatGPT, Claude – e que fala com a gente através de uma tela, como a gente já se acostumou que os poucos amigos de verdade também falam, dá às BigTechs um exército cada vez maior de jovens prontos a oferecer seus cérebros, e pior, suas vidas, a serviço dos seus bolsos.

É preciso explicar aos jovens que não há inteligência alguma em usar algoritmos estatísticos como substituto a outros humanos. 

Já os adultos podem fazer duas coisas imediatamente: só chamar algoritmo estatístico pelo que é, e escolher não usar algoritmo estatístico. 

Em seu lugar, sugiro a Wikipedia, que continua bem documentada por indivíduos pensantes e fazendo a gente pensar.

SUZANA HERCULANO-HOUZEL - bióloga e neurocientista da Universidade Vanderbilt (EUA)