Não é inteligência e sim marketing para explorar trabalho humano, diz Nicolelis.

Neurocientista diz que a mente humana resulta de milhões de anos de evolução: 'quero ver ChatGPT sobreviver a um jogo do Palmeiras'.

O ChatGPT funciona como uma ferramenta de marketing por gerar desigualdades na relação entre empregador e força de trabalho, diz o neurocientista Miguel Nicolelis. 

Para ele, a inteligência é o resultado de milhões de anos de evolução, que não podem ser computados em código binário.

Nicolelis trabalha há 30 anos com redes neurais, mecanismo por trás dos atuais algoritmos de aprendizado de máquina. 

Referência em interfaces entre cérebro e máquina, atuou no desenvolvimento de neuropróteses capazes de restaurar movimentos do corpo. Durante a abertura da Copa de 2014, na capital paulista, um cadeirante chutou a bola ao gol com o auxílio de um equipamento desenvolvido por ele.

Nicolelis afirma à Folha que é absurdo dizer que os modelos de linguagem como o ChatGPT são dez vezes mais inteligentes que um ser humano por escreverem de forma veloz ou se comunicarem em diversos idiomas, como fez Geoffrey Hinton, cientista da computação que inventou as redes neurais e foi sócio e conselheiro do Google por mais de uma década. "A tartaruga é extremamente inteligente, só é lenta."

• O sr. criticou o escritor Yuval Harari. Por quê?
  Ele mistura coisas de outras áreas sem ter conhecimento profundo. No Sapiens, ele mistura as referências e interpreta os nossos resultados de uma maneira que não tem absolutamente nada a ver com o que fizemos. É um trabalho que gastei 30 anos da minha vida. Quando ele fala que no futuro vamos colocar essa coisa chamada interface cérebro-cérebro, que era algo experimental que fiz entre ratos, fiz entre macacos e fizemos entre seres humanos, para reabilitação. Mas não é que eu vou trocar meus sentimentos com outras pessoas. É uma troca de comandos motores, coisas apropriadas para reduzir a lógica digital. Ele fez uma interpretação disso como se eu estivesse lendo a mente de alguém, o que nunca vai acontecer. Ele fala: 'nós vamos viver até os 200 anos', 'vamos acabar com o envelhecimento'. Tudo isso é fantasia.
• E sobre o que Harari diz da inteligência artificial?
  Ele vive de lacração em lacração. Ele escreveu que a inteligência artificial sequestrou o sistema; ela não sequestrou nada. A espécie humana está sequestrando sua própria evolução.

• Por trás da inteligência artificial, existem exércitos de pessoas que anotam dados.
  E tem exércitos de evangelistas. Nunca gostei dessa palavra, porque ela denota que a vasta maioria dos movimentos humanos viraram religiões. Tudo parece religião. Do ponto de vista científico, digo isso há anos, e agora Noam Chomsky usa a mesma frase, a inteligência artificial não é nem inteligente nem artificial. Não é artificial porque é criada por nós, é natural. E não é inteligente porque a inteligência é uma propriedade emergente de organismos interagindo com o ambiente e com outros organismos. É um produto do processo darwiniano de seleção natural. O algoritmo pode andar e fazer coisas, mas não são inteligentes por definição. Se estivesse vivo, Charles Darwin teria um infarto com isso
• Chamar de aprendizado de máquina é melhor?
  Aprendizado de máquina, deep learning, machine learning, são grandes nomes que usam palavras que nós nos acostumamos coloquialmente a usar, relacionadas ao cérebro humano ou de qualquer animal, para definir coisas que nós fazemos com lógica binária. A inteligência humana não é binária. Por isso, é um nome impróprio.
• O criador das redes neurais Geoffrey Hinton diz que ele tenta simular a estrutura do neurônio, para pensar esses algoritmos.
  Ele comenta um monte de absurdo também. Ele falou que a inteligência artificial já é dez vezes superior à inteligência humana, o que é um absurdo. Nós temos esses marqueteiros dessas áreas de tecnologia que alegam coisas que parecem verdade. Mas eles não têm a prova.
• Ele trabalha com resultados. Ele fala da velocidade com a qual ele entrega respostas, vários idiomas.
  A tartaruga é extremamente inteligente. Ela é lenta. Mas o que nós estamos falando é tentar usar a linguagem do mercado para definir o que a vida faz. O mercado quer coisas rápidas, eficientes, com lucro infinito e gasto zero. A inteligência não tem esse compromisso. A inteligência do organismo tem o compromisso de fazê-lo sobreviver o máximo possível em um ambiente em contínua mudança. Só porque um computador joga xadrez mais rápido e ganha de um campeão mundial, não indica que ele é inteligente. Ele só é mais eficiente, porque o xadrez é um jogo com regras predeterminadas. Esse computador não consegue sobreviver no estádio do Palmeiras em uma noite de jogo, não entende os motivos de uma briga, porque não tem a capacidade de generalizar sua inteligência.
• A pesquisadora do instituto Open Philantropy, Ajeya Cotra, estimou que, no atual modelo de sociedade, a mente humana corre o risco de estar obsoleta até 2037 em termos de produção para o mercado de trabalho. Isso faz sentido?
  Depende do que você chama de produção e do que chama de obsolescência. Existe um limite da lógica digital. Acabei de ler um livro de um dos melhores intelectuais da área de IA, o Michael Wildridge, da Universidade de Oxford. Saiu em 2021. No livro ele fala: sabemos que existe um limite determinado por fenômenos não computáveis, nos quais não há um algoritmo, não há uma fórmula matemática solucionável com um programa. Só que ele põe dois parágrafos sobre a coisa mais importante do livro, e comenta que os pesquisadores não prestam muita atenção nisso porque têm muita coisa para fazer. Mas a mente humana é repleta de fenômenos não computáveis: inteligência, intuição, criatividade, senso estético, definições de beleza, de criatividade, tudo isso é não computável. Qual é a fórmula para a beleza?
• Uma jovem publicou no Twitter que seu tio foi acusado de plágio porque um professor pegou um trecho do trabalho dele e perguntou se havia sido feito pelo ChatGPT para o ChatGPT. A plataforma não é feita para reconhecer se um texto foi feito por inteligência artificial e sempre responde que é o autor de qualquer texto.
  De certa maneira, o ChatGPT é um grande plagiador, porque pega o material feito por um monte de gente, mistura e gera algo que chama de produto novo, mas, na realidade, é em grande parte influenciado pelo produto intelectual de milhares e milhares de seres humanos. Para o sistema capitalista atual, moderno, a inteligência artificial é a grande ferramenta de marketing, porque gera uma total desigualdade no relacionamento com a força de trabalho.
• Um patrão pode dizer: tenho um aplicativo de inteligência artificial, se o trabalhador não aceitar o salário que estou disposto a pagar, que é 10% do que ganha hoje, demito e uso o aplicativo. Existe toda uma ideologia de substituição do trabalho humano, que não pode ser feita 100%, não há como.
• Dá para dizer que ganha espaço na sociedade um pensamento mais utilitarista?
  Esse é o problema, isso não tem nada a ver com a máquina. O que está se fazendo é forçar a biologia humana a seguir regras de mercado. As regras de mercado não são divinas, elas são abstrações criadas pela mente humana. O que elas produziram na história da humanidade? Uma estrondosa desigualdade de distribuição de renda. Nós temos gente gastando dinheiro para mergulhar para ver o Titanic explodindo no meio do oceano. Se alguém andar da avenida Paulista até aqui, como eu fiz, vê dezenas de milhares de pessoas morrendo de fome nas ruas. Tudo isso está sendo ignorado porque esses sistemas são convenientes. Eles aumentam a nossa produtividade e nosso alcance como ser humano.
• O sr. está mais alinhado com o pensamento de que hoje esses modelos de linguagem são mais como papagaios estatísticos?
  Totalmente. Deep learning nada mais é do que redes neurais com múltiplas camadas, mais camadas, mais neurônios e mais conexões entre essas camadas. O cérebro faz isso também. Todavia, é impossível simular os mecanismos biológicos que o cérebro usa para tomar essa decisão.
• O cérebro gasta muito menos energia do que supercomputadores de IA para entregar o mesmo processamento.
  É um processo de otimização de milhões de anos. Não é à toa que nós descemos das árvores, levou 4 milhões de anos para sairmos andando. É uma coisa muito mais elaborada: 20% da energia que seu corpo produz vai para cá [aponta para a cabeça]. A energia do cérebro dá para acender uma lâmpada, mais ou menos. É um troço extremamente otimizado que sofreu modificações brutais desde que a vida apareceu na Terra. E não é computável. O próprio Alan Turing sabia disso, depois de propor sua tese, disse: há certos problemas que essa minha máquina teórica, que já virou máquina de Turing e gerou os computadores, não vai conseguir resolver. E quando eu tiver esse impasse, só tem uma solução. Tenho que chamar um oráculo para tomar uma decisão. O oráculo é um ser humano.
• Mas dentro dessa lógica de concorrência entre máquina e ser humano, o senhor concorda com os riscos para a espécie aventados por pesquisadores e gente da indústria de tecnologia?
  Os riscos são tremendos. Essas ferramentas têm de ser usadas sob a supervisão humana. Na programação de um sistema de IA, a pessoa pede algo, mas pode não considerar que os meios para alcançar o objetivo são indesejados. É o que ocorre com o computador HAL do filme "2001 - Uma Odisseia no Espaço", de Stanley Kubrick. A missão dele era chegar com a tripulação a um local. Só esqueceram de falar que HAL não podia matar a tripulação. Esqueceram os cenários em que a missão seria completa, mas não sobraria gente para ver. Quando alguém delega para algo fazer uma missão em seu nome, não vai ser possível oferecer para essa coisa todas as restrições que temos de imediato por causa da evolução.
• Esses mecanismos podem ser úteis, em termos de pesquisa, como são seus estudos em neurociência?
  Uso redes neurais para interpretar padrões de atividade neural reais desde os anos 1990. Não as mesmas redes de hoje, mas mais simples. É um método estatístico de reconhecimento padrão.
• Não concordo com transformar uma ferramenta estatística em um novo Deus e construir embaixo dele toda uma religião, como está acontecendo. Eu chamo a igreja da tecnologia.

MIGUEL NICOLELIS, 62 - chefiou, o Centro de Neuroengenharia da Universidade de Duke, antes de se aposentar como professor emérito em 2021. Médico, ele é referência no estudo da interface entre cérebro e máquina e coordenou comitê científico do Consórcio Nordeste. Foi o primeiro brasileiro a publicar um artigo na capa da revista científica Science.