Aplicações de inteligência artificial funcionam, mas não sabemos exatamente como

·          

“Com grande poder vem grande ignorância.” É com esse trocadilho que o professor de Harvard Jonathan Zittrain abre uma das mais bem-sucedidas críticas ao modelo de inteligência artificial que está se espalhando pelo planeta.

Para quem não conhece, Zittrain tem 49 anos e é uma mistura de George Clooney com o personagem Leonard, da sitcom “Big Bang Theory”. É advogado e especialista em tecnologia. Aos 30 anos foi um dos fundadores do centro Berkman, em Harvard, que estuda a relação entre internet e sociedade. Foi também meu professor quando estive lá.

Seu livro “O Futuro da Internet” é de 2008, mas permanece mais atual do que nunca. Nele, previu que episódios de violação de segurança da rede só aumentariam, o que continua a acontecer. 

Agora, ele levanta uma das questões intelectuais mais importantes envolvendo inteligência artificial, que ele batiza de “débito intelectual”. 

Em suma, o modelo de inteligência artificial que utilizamos hoje assemelha-se ao funcionamento acidental de certos remédios. 

Ele dá como exemplo o modafinil, que suprime o sono e é usado em casos de narcolepsia. Quem se der ao trabalho de ler a bula vai encontrar a seguinte frase: “O mecanismo pelo qual o modafinil suprime o sono é desconhecido”. Em outras palavras, há evidências de que a droga funciona, mas não sabemos como. 

O mesmo aconteceu com a aspirina. Suas propriedades como anti-inflamatório são conhecidas desde 1897. Mas só em 1995 foi explicado como o medicamento atua.

Essa mesma questão aparece em aplicações de inteligência artificial. Elas funcionam, mas não sabemos 
exatamente como.

Redes neurais artificiais não são “programadas”, mas sim “treinadas” com grandes volumes de dados. Por exemplo, é possível treinar uma rede neural a reconhecer imagens de gatos. Para isso, ela precisa ser alimentada com milhões de imagens de bichanos. 

Após esse processo, começará então a reconhecer imagens de gatos que nunca tinha visto.

Ninguém sabe exatamente como a rede chega a essa conclusão. Mas, na prática, mostre uma foto e ela dirá corretamente (na maioria dos casos) se ali tem um gato ou não.

Esse tipo de aplicação é comum hoje. O que, nas palavras de Zittrain, vai criando um crescente débito intelectual. Passamos a confiar em decisões que são feitas sem entender de fato como ocorrem. Tal como a aspirina, pode ser preciso décadas para que posamos entender o mecanismo que as orienta.

A preocupação de Zittrain é que, como hoje a inteligência artificial está em toda parte, esse débito intelectual só tende a aumentar. Especialmente quando a informação utilizada para treinar uma máquina resulta da operação de outras máquinas (o que é comum hoje).

Quando tudo termina bem, ótimo. Mas o que dizer do crash da Bolsa de Nova York, em 2010, que fez desaparecer US$ 1 trilhão em 36 minutos em razão da interação malsucedida entre algoritmos usados para comprar e vender ações?

Talvez tenhamos de nos contentar com um mundo em que a tecnologia aplicada suplantará mesmo a ideia de ciência básica. Ou talvez seja necessário criar alguma estratégia para administrar esse desafio, como se faz, aliás, com qualquer outro tipo de débito.

Ronaldo Lemos - advogado, diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro.

Fonte: coluna jornal FSP