Humanidade precisa dominar IA antes que ela nos domine

Em jogos como o xadrez, nenhum humano pode vencer um computador. O que acontece se a mesma coisa ocorrer na arte, na política e até na religião?

Imagine que, ao embarcar num avião, metade dos engenheiros que o construíram lhe diga que há 10% de chance de ele cair, matando você e todos os outros a bordo. Você ainda embarcaria?

Em 2022, mais de 700 acadêmicos e pesquisadores ligados às principais empresas de inteligência artificial foram entrevistados sobre o risco futuro da IA. 

A metade dos entrevistados afirmou que havia 10% ou mais de chance de extinção humana (ou perda de poder igualmente permanente e severa) por futuros sistemas de IA. 

As empresas de tecnologia que constroem os grandes modelos de linguagem de hoje estão envolvidas numa corrida para colocar toda a humanidade nesse avião.

As empresas farmacêuticas não podem vender novos medicamentos às pessoas sem antes submeterem seus produtos a rigorosas verificações de segurança. 

Os laboratórios de biotecnologia não podem lançar novos vírus na esfera pública para impressionar os acionistas com sua magia. 

Da mesma forma, os sistemas de IA com o poder do GPT-4 e além não devem se envolver na vida de bilhões de pessoas num ritmo mais rápido do que as culturas podem absorvê-los com segurança. 

Uma corrida para dominar o mercado não deve definir a velocidade de implantação da tecnologia mais importante da humanidade. Devemos nos movimentar na velocidade que nos permita fazer isso direito.

O espectro da IA assombra a humanidade desde meados do século 20, mas até recentemente permaneceu uma perspectiva distante, algo que pertence mais à ficção científica do que a sérios debates científicos e políticos. 

É difícil para nossa mente humana compreender as novas capacidades do GPT-4 e ferramentas semelhantes, e é ainda mais difícil compreender a velocidade exponencial em que essas ferramentas estão desenvolvendo capacidades ainda mais avançadas e poderosas. 

Mas a maioria das habilidades-chave se resume a uma coisa: a capacidade de manipular e gerar linguagem, seja com palavras, sons ou imagens.

"No princípio era o verbo." A linguagem é o sistema operacional da cultura humana. 

Da linguagem emergem mitos e leis, deuses e dinheiro, arte e ciência, amizades e nações –até mesmo códigos de computador. 

O novo domínio da linguagem da IA significa que agora ela pode hackear e manipular o sistema operacional da civilização. 

Ao obter o domínio da linguagem, a IA está apreendendo a chave mestra da civilização, de cofres de banco a sepulcros sagrados.

O que significaria para os humanos viver num mundo em que uma grande porcentagem de histórias, melodias, imagens, leis, políticas e ferramentas são moldadas por uma inteligência não humana, que sabe explorar com eficiência sobre-humana as fraquezas, preconceitos e vícios da mente humana –enquanto também sabe formar relacionamentos íntimos com os seres humanos? 

Em jogos como o xadrez, nenhum humano pode esperar vencer um computador. O que acontece quando a mesma coisa ocorre na arte, na política e até na religião?

A IA poderia consumir rapidamente toda a cultura humana –tudo o que produzimos ao longo de milhares de anos–, digeri-la e começar a produzir uma enxurrada de novos artefatos culturais. 

Não apenas redações escolares, mas também discursos políticos, manifestos ideológicos e até livros sagrados para novos cultos. Em 2028, a corrida presidencial dos Estados Unidos poderá não mais ser conduzida por humanos.

Os humanos muitas vezes não têm acesso direto à realidade. Somos encapsulados pela cultura, experimentando a realidade através de um prisma cultural. Nossas visões políticas são moldadas por relatos de jornalistas e anedotas de amigos. 

Nossas preferências sexuais são ajustadas pela arte e pela religião. 

Esse casulo cultural foi até agora tecido por outros humanos. Como será vivenciar a realidade através de um prisma produzido por uma inteligência não humana?

Há milhares de anos, nós, humanos, vivemos dentro dos sonhos de outros humanos. Adoramos deuses, perseguimos ideais de beleza e dedicamos nossas vidas a causas que se originaram na imaginação de algum profeta, poeta ou político. 

Em breve, também nos encontraremos vivendo dentro das alucinações da inteligência não-humana.

A franquia "Exterminador do Futuro" mostrava robôs correndo pelas ruas e atirando nas pessoas. "Matrix" supunha que, para ter o controle total da sociedade humana, a IA teria que primeiro obter o controle físico de nossos cérebros e conectá-los diretamente a uma rede de computadores. 

Na verdade, porém, simplesmente por dominar a linguagem, a IA teria tudo de que precisa para nos conter num mundo de ilusões semelhante a Matrix, sem atirar em ninguém ou implantar chips em nossos cérebros. 

Se algum tiro for necessário, a IA pode fazer os humanos puxarem o gatilho, apenas nos contando a história certa.

O espectro de estar preso num mundo de ilusões assombra a humanidade há muito mais tempo do que o espectro da IA. Logo estaremos finalmente cara a cara com o demônio de Descartes, com a caverna de Platão, com a Maya budista. 

Uma cortina de ilusões pode descer sobre toda a humanidade, e talvez nunca mais possamos arrancá-la –ou mesmo perceber que ela está lá.

A rede social foi o "primeiro contato" entre a IA e a humanidade, e a humanidade perdeu. O "primeiro contato" nos deu o gosto amargo do que está por vir. 

Nas redes sociais, a IA primitiva foi usada não para criar conteúdo, mas para selecionar conteúdo gerado por usuários. 

A IA por trás de nossos feeds de notícias continua escolhendo quais palavras, sons e imagens atingem nossas retinas e tímpanos, com base na seleção daquelas que terão mais viralidade, mais reação e mais engajamento.

Embora muito primitiva, a IA por trás da rede social foi suficiente para criar uma cortina de ilusões que aumentou a polarização social, minou nossa saúde mental e destruiu a democracia. 

Milhões de pessoas confundiram essas ilusões com a realidade. Os Estados Unidos têm a melhor tecnologia de informação da história, mas os cidadãos americanos não podem mais concordar sobre quem ganhou as eleições. 

Embora todos já estejam cientes do lado negativo da rede social, ele não foi abordado, porque muitas de nossas instituições sociais, econômicas e políticas se envolveram com ele.

Modelos de linguagem grandes são nosso "segundo contato" com a IA. Não podemos nos dar ao luxo de perder novamente. 

Mas com base em quê devemos acreditar que a humanidade é capaz de usar essas novas formas de IA em nosso benefício? 

Se continuarmos como sempre, as novas capacidades da IA serão mais uma vez usadas para obter lucro e poder, mesmo que inadvertidamente destruam os fundamentos de nossa sociedade.

A IA realmente tem o potencial de nos ajudar a derrotar o câncer, descobrir medicamentos que salvam vidas e inventar soluções para nossas crises climáticas e energéticas. 

Existem inúmeros outros benefícios que nem podemos imaginar. Mas não importa a altura do arranha-céu de benefícios que a IA possa acumular se o alicerce desmoronar.

A hora de contar com a IA é antes que nossa política, nossa economia e nossa vida diária se tornem dependentes dela. 

A democracia é uma conversa, a conversa depende da linguagem e, quando a própria linguagem é hackeada, a conversa é interrompida e a democracia se torna insustentável. Se esperarmos que o caos se instale, será tarde demais para remediá-lo.

Mas há uma pergunta que pode pairar em nossa mente: "Se não formos o mais rápido possível, o Ocidente não correrá o risco de perder para a China?" Não. 

A implantação e o entrosamento descontrolado da IA na sociedade, libertando poderes semidivinos dissociados de responsabilidade, poderão ser de fato a razão que leve o Ocidente a perder para a China.

Ainda podemos escolher qual futuro queremos com a IA. Quando poderes semidivinos são combinados com responsabilidade e controle proporcionais, podemos perceber os benefícios que a IA promete.

Nós convocamos uma inteligência alienígena. Não sabemos muito sobre ela, exceto que é extremamente poderosa, nos oferece presentes maravilhosos, mas também poderia sabotar as bases de nossa civilização.

Conclamamos os líderes mundiais a reagirem a este momento no nível do desafio que ele representa. 

O primeiro passo é ganhar tempo para atualizar nossas instituições do século 19 para um mundo pós-IA e aprender a dominar a IA antes que ela nos domine.

Yuval Harari - Tristan Harris - Aza Raskin

Harari é historiador e fundador da empresa de impacto social Sapienship.

Harris e Raskin são os fundadores do Centro para Tecnologia Humana.

Fonte: Jornal FSP

Tradução de Luiz Roberto M. Gonçalves.