Inteligência artificial aumenta perigo de postar fotos de filhos nas redes.

Recursos que fazem reconhecimento facial podem ser usados por criminosos e abusadores.

Existem dois tipos de comportamentos distintos de pais no TikTok: aqueles que quebram ovos na cabeça de seus filhos para rir e aqueles que estão desesperadamente tentando garantir que a internet não saiba quem são seus filhos.

Para a estrela do TikTok que posta sob o nome de Kodye Elyse, uma experiência desconfortável online a fez parar de incluir seus três filhos em suas redes sociais. 

Um vídeo que ela postou em 2020 de sua filha pequena dançando atraiu milhões de visualizações e comentários assustadores de homens estranhos. 

(Ela solicitou que o The New York Times não publicasse seu nome completo porque ela e seus filhos já foram alvos de pessoas que revelaram suas identificações na internet no passado.)

"É como se fosse (o filme) "O Show de Truman" na internet", disse Elyse, 35, que tem 4 milhões de seguidores no TikTok e posta sobre seu trabalho como tatuadora e suas experiências como mãe solteira. "Você nunca sabe quem está olhando."

Após essa experiência, ela apagou as imagens de seus filhos da internet. Ela rastreou todas as suas contas online, em sites como Facebook e Pinterest, e as excluiu ou as tornou privadas. Desde então, ela se juntou ao barulhento grupo de TikTokers que incentiva os pais a não postarem sobre seus filhos publicamente.

Mas, no mês passado, ela descobriu que seus esforços não foram totalmente bem-sucedidos. Kodye Elyse usou o PimEyes, um mecanismo de busca que encontra fotos de uma pessoa na internet em segundos usando a tecnologia de reconhecimento facial. 

Quando ela enviou uma foto de seu filho de 7 anos, os resultados incluíram uma imagem dele que ela nunca havia visto. Ela precisava de uma assinatura de US$ 29,99 (R$ 152,59) para ver de onde a imagem tinha vindo.

Seu ex-marido tinha levado seu filho a um jogo de futebol, e eles estavam ao fundo de uma fotografia em um site de notícias, sentados na primeira fileira de assentos atrás do gol. 

Ela percebeu que não seria capaz de fazer com que o site de notícias apagasse a foto, mas preencheu um pedido de exclusão no PimEyes para remover a imagem de seu filho para que ela não aparecesse se outras pessoas procurassem por seu rosto.

Ela também encontrou uma foto de sua filha quando era criança, agora com 9 anos, sendo usada para promover um acampamento de verão que ela havia frequentado. 

Ela pediu ao acampamento para remover a foto, o que eles fizeram.

"Acho que todo mundo deveria verificar isso", disse ela. "É uma boa maneira de saber que ninguém está reutilizando as imagens de seus filhos."

CUIDADO COM O "SHARENTING"

Até que ponto os pais devem postar sobre seus filhos online tem sido discutido e examinado a um grau tão intenso que tem o seu próprio termo: "sharenting".

Historicamente, a principal crítica aos pais que compartilham demais online tem sido a invasão da privacidade de seus filhos, mas os avanços em tecnologias baseadas em inteligência artificial apresentam novas maneiras para pessoas mal-intencionadas apropriarem-se indevidamente de conteúdo online de crianças.

Entre os riscos novos estão golpes com o uso de tecnologia "deepfake", que imitam vozes de crianças, e a possibilidade de um estranho descobrir o nome e o endereço de uma menor de idade apenas pesquisando sua foto.

Amanda Lenhart, chefe de pesquisa da Common Sense Media, uma organização sem fins lucrativos que oferece conselhos de mídia para pais, destacou uma recente campanha de serviço público da Deutsche Telekom (operadora de telecomunicações da Alemanha) que propagava o compartilhamento mais cuidadoso dos dados das crianças.

O vídeo apresentava uma atriz interpretando uma menina de 9 anos chamada Ella, cujos pais fictícios eram indiscretos ao postar fotos e vídeos dela online. 

A tecnologia deepfake gerou uma versão digitalmente envelhecida de Ella que foi usada para chantagear seus pais fictícios, dizendo-lhes que sua identidade foi roubada, sua voz foi duplicada para enganá-los pensando que ela foi sequestrada e uma foto nua de sua infância foi vendida.

Lenhart chamou o vídeo de "exagerado", mas afirmou que mostrava que "na verdade, essa tecnologia é realmente muito boa" para qualquer fim.

As pessoas já estão recebendo ligações de golpistas imitando entes queridos em perigo usando versões de suas vozes criadas com ferramentas de IA.

Jennifer DeStefano, uma mãe que mora no estado de Arizona (EUA), recebeu uma ligação este ano de alguém que afirmava ter sequestrado sua filha de 15 anos. 

"Eu atendi o telefone 'Alô'; do outro lado estava nossa filha Briana soluçando e chorando dizendo: 'Mãe'", relatou a mãe em depoimento no Congresso no fim do semestre passado.

DeStefano estava negociando para pagar aos sequestradores US$ 50 mil quando descobriu que sua filha estava em casa "descansando em segurança na cama".

O QUE UM ROSTO REVELA

Fotos e vídeos obscuros online podem ser vinculados ao rosto de alguém com tecnologia de reconhecimento facial, que tem se tornado mais poderosa e precisa nos últimos anos. 

Fotos tiradas em uma escola, uma creche, uma festa de aniversário ou um parquinho podem aparecer em uma busca. (Uma escola ou creche deve apresentar um termo de consentimento e deixar o responsável à vontade para negar)

"Quando uma criança é mais nova, os pais têm mais controle sobre sua imagem", disse Debbie Reynolds, consultora de privacidade de dados e tecnologias emergentes. 

"Mas as crianças crescem. Elas têm amigos. Elas vão a festas. As escolas tiram fotos", destacou.

Reynolds recomenda que os pais pesquisem online pelos rostos de seus filhos usando um serviço como PimEyes ou FaceCheck.ID. Se não gostarem do que encontrarem, eles devem tentar fazer com que os sites nos quais a foto foi postada a removam, disse ela. (Alguns irão, mas outros —como sites de notícias—podem não fazê-lo.)

Em uma pesquisa de 2020 do Pew Research, mais de 80% dos pais relataram compartilhar fotos, vídeos e informações sobre seus filhos em sites de rede social. Especialistas não conseguiram dizer quantos pais estão compartilhando essas imagens apenas em contas privadas em vez de publicamente, mas disseram que o compartilhamento privado era uma prática cada vez mais comum.

Embora um mecanismo público de busca facial seja uma ferramenta potencialmente útil para um pai, ele também pode ser usado para fins nefastos.

"Uma ferramenta como o PimEyes pode ser —e provavelmente é— usada tão facilmente por um perseguidor quanto por um pai preocupado", disse o pesquisador de privacidade Bill Fitzgerald, que também expressou preocupação com pais autoritários que a usam para monitorar as atividades de seus filhos adolescentes.

O proprietário do PimEyes, Giorgi Gobronidze, disse que mais de 200 contas foram desativadas no site por pesquisas inadequadas de rostos de crianças.

Um mecanismo de reconhecimento facial semelhante, Clearview AI, cujo uso é limitado às forças policiais, foi utilizado para identificar vítimas em fotos de abuso sexual infantil. 

Gobronidze explicou que o PimEyes também foi o recurso adotado por organizações de direitos humanos para ajudar crianças.

Mas ele está preocupado o suficiente com possíveis usuários que são predadores de crianças e alega que o PimEyes está trabalhando em um recurso para bloquear pesquisas de rostos que parecem pertencer a menores de idade.

Por sua vez, o consultor Bill Fitzgerald está preocupado que os pais que usam a ferramenta para procurar seus próprios filhos possam estar ajudando inadvertidamente o algoritmo do PimEyes a melhorar seu reconhecimento desses menores.

Antropóloga cultural e diretora do Connected Learning Lab da Universidade da Califórnia, Mimi Ito afirmou que a tecnologia de reconhecimento facial tornou o compartilhamento online de fotos de crianças, que normalmente é alegre, mais desafiador.

"Há uma crescente consciência de que, com a IA, não temos realmente controle sobre todos os dados que estamos espalhando no ecossistema das redes sociais", disse.

ZUCKERBERG E SNOWDEN ESCONDEM ROSTOS DE FILHOS

Lucy e Mike Fitzgerald, dançarinos profissionais de dança de salão em Saint Louis, nos EUA, mantêm uma presença ativa nas redes sociais para divulgar seu negócio e se abstêm de postar imagens online de suas filhas, de 3 e 5 anos, e pediram a amigos e familiares que respeitem a decisão. 

Eles acreditam que as crianças devem ter o direito de criar e controlar por si mesmas. Eles também se preocupam que suas imagens possam ser usadas de forma inadequada.

"O fato de você poder roubar a foto de alguém em alguns cliques e depois usá-la para o que quiser é preocupante", disse Lucy. 

"Eu entendo o apelo de postar fotos de seus filhos, mas, no final das contas, não queremos que sejam eles que tenham que lidar com possíveis consequências não intencionais."

Ela e seu marido não são especialistas que foram "informados sobre o que está por vir no horizonte da tecnologia", mas explicou que eles "tiveram uma sensação" anos atrás. "(achávamos que) haveria capacidades que não podemos prever agora que eventualmente serão problemáticas para nossos filhos".

Pais que são mais propensos a conhecer detalhes sobre o que está por vir no horizonte da tecnologia, como Edward Snowden, o contratante da Agência de Segurança Nacional que se tornou denunciante, e Mark Zuckerberg, o co-fundador do Facebook, escondem os rostos de seus filhos em postagens públicas de mídia social.

Em postagens temáticas de feriados no Instagram, Zuckerberg usou o método desajeitado de emojis - postando um adesivo digital nas cabeças de seus filhos mais velhos - enquanto Snowden e sua esposa, Lindsay Mills, posaram artisticamente um de seus dois filhos atrás de um balão para obscurecer seu rosto.

"Eu quero que meus filhos tenham a opção de se revelarem ao mundo, da forma que escolherem, quando estiverem prontos", disse Mills.

Um porta-voz de Zuckerberg se recusou a comentar ou explicar por que o rosto de seu bebê não recebeu o mesmo tratamento e se foi porque a tecnologia de reconhecimento facial não funciona muito bem em bebês.

PRIVACIDADE E SUCESSO NO FUTURO

Muitos especialistas observaram que os adolescentes pensavam muito sobre como resolver suas identidades digitais e que alguns usavam pseudônimos online para evitar que os pais, professores e potenciais empregadores encontrassem suas contas. 

Mas se houver uma imagem pública nessa conta que mostre o rosto deles, ainda pode ser vinculada a eles por meio de um mecanismo de busca facial.

"É muito difícil manter seu rosto fora da web", disse Priya Kumar, professora assistente na Universidade da Pensilvânia, que estudou as implicações de privacidade do compartilhamento de informações pessoais online.

Kumar sugere que os pais envolvam as crianças, por volta dos 4 anos de idade, no processo de postagem e conversem com elas sobre quais imagens são adequadas para compartilhar.

Amy Webb, CEO da consultoria focada em tecnologia Future Today Institute, prometeu em um post no Slate há uma década não postar fotos pessoais ou informações de identificação de sua filha pequena online. 

Alguns leitores encararam isso como um desafio e encontraram uma foto da família que Webb inadvertidamente tornou pública, ilustrando o quão difícil pode ser manter uma criança fora da internet.

Sua filha, agora adolescente, disse que gostava de ser um "fantasma online" e achava que isso a ajudaria profissionalmente.

"Futuros empregadores 'não vão encontrar absolutamente nada sobre mim porque eu não tenho nenhuma plataforma", disse ela. "Isso vai me ajudar a ter sucesso no futuro."

Outros jovens que cresceram na era do compartilhamento online também disseram que eram gratos por terem pais que não postavam fotos deles publicamente na internet.

Shreya Nallamothu, de 16 anos, é uma estudante cuja pesquisa sobre influenciadores infantis ajudou a promulgar uma nova lei estadual em Illinois, nos EUA, que exige que os pais reservem ganhos para seus filhos se estiverem apresentando-os em conteúdo online monetizado.

Ela disse que era "muito grata" por seus pais não postarem "momentos super embaraçosos de mim nas redes sociais". 

"Há pessoas na minha turma que são muito boas em encontrar o Facebook dos pais dos seus colegas e rolar a página", explicou. Eles usam qualquer material embaraçoso para postagens de aniversário que desaparecem no Snapchat.

Arielle Geismar, de 22 anos, estudante universitária e defensora da segurança digital em Washington, descreveu isso como um "privilégio crescer sem que uma identidade digital seja criada para você".

"As crianças são atualmente cobaias da tecnologia", disse Geismar. "É nossa responsabilidade cuidar delas."

THE NEW YORK TIMES