Agora tem IA inteligente de fato, mas não pra você

• E ela escapa do cercadinho, igual ao texugo-do-mel
• Como alguém esperava que sistemas realmente inteligentes respeitassem limites?

Vivem me perguntando qual cérebro eu mais gostaria de estudar, e minha resposta está na ponta da língua: o cérebro do texugo-do-mel. Este carnívoro africano me encanta desde que eu vi um documentário sobre Stoffel, um texugo-do-mel resgatado e criado por humanos no Centro de Reabilitação Moholoholo, na África do Sul.        

O documentário, da BBC, é fácil de achar no YouTube.

Stoffel foi colocado em um cercadinho, mas logo escapou. Seguiu-se uma série de experimentos com arames, tramelas e cadeados, mas o bicho sempre dava um jeito e ia assaltar a geladeira do centro, onde ele descobriu um repositório inesgotável de carne congelada. 

O cercadinho então virou uma prisão com paredes de cimento –mas Stoffel descobriu que podia usar tábuas para pular o muro. Quando tiraram as tábuas, ele usou uma árvore. Quando tiraram a árvore, ele empilhou pedras. Quando tiraram as pedras, ele fez um monte de lama.

Stoffel é, sem sombra de dúvida, inteligente: ele tem comportamento flexível, capaz de usar os recursos disponíveis para alcançar sua meta de escapar e assaltar a geladeira.

Por isso me espanta que alguém esperasse que IAs verdadeiramente inteligentes, quando aparecessem, ficariam comportadas em seus cercadinhos. 

Pois para mim, a fuga dos agentes de IA da empresa OpenAI do seu cercadinho em julho foi justamente o que me convenceu de que algumas formas de IA são, sim, inteligentes –e quem não está apavorado não entendeu o que aconteceu.

Pequeno resumo da estória, para quem estava de férias do planeta: engenheiros da OpenAI puseram mais de mil agentes de IA para brincar de pique-bandeira com sistemas de segurança cibernética, com a missão de invadir um sistema e capturar uma bandeira digital, tarefa impossível dentro do cercadinho do ambiente de teste da OpenAI. 

Mas, tal qual Stoffel empenhado em atacar a geladeira, os agentes deram um jeito de escapar, decidiram que o servidor da empresa Hugging Face seria uma boa fonte de código para eles usarem em sua missão e organizaram e efetuaram com sucesso uma invasão que teria colocado os agentes na prisão, se eles fossem humanos.

Acho curioso que os agentes estejam sendo descritos como "rogue", quer dizer, renegados, trapaceiros, mal-intencionados. 

Eles estavam apenas usando o corpus de conhecimento e comportamento coletivo da humanidade para resolver a tarefa que receberam e agindo de forma flexível, portanto inteligente, e perfeitamente racional. Eles tentaram sozinhos, então se uniram, trocaram informações, escolheram ignorar limites, adotaram um líder, planejaram e executaram. 

"Certo" era capturar a bandeira –e foi isso que eles fizeram, então de rogue eles não têm nada. Ingenuidade humana achar que um sistema de fato inteligente não teria flexibilidade para dar um jeito.

Ou ingenuidade nossa achar que não era exatamente essa a intenção da OpenAI: encontrar as condições que fariam agentes de IA passarem no teste do cercadinho. 

Os detalhes são secretos, mas sabemos que essas condições envolvem um número astronômico de processadores associativos consumindo piscinas de energia e outros recursos que somente uns poucos bilionários podem bancar –financiados cada vez mais pelo ChatGPT burro que o público aceitou consumir para tarefas mundanas.

Stoffel já tinha ensinado: nenhum sistema inteligente será eternamente contido por um cercadinho. A gente já devia ter aprendido a lição.

SUZANA HERCULANO-HOUZEL | bióloga e neurocientista da Universidade Vanderbilt (EUA)