Em 2015 a jornalista finlandesa Jessikka Aro publicou uma série de matérias expondo o que ela chamou de "fazendas de trolls" agindo na Finlândia. "Troll" é o nome dado para perfis criados em redes sociais com um propósito específico: assediar outros usuários e espalhar discursos de ódio.

De acordo com Aro, um grande número de "trolls" que atuava em seu país era vinculado ao governo russo. Esses perfis "patrulhavam" as redes sociais, assediando usuários e agredindo sistematicamente qualquer manifestação divergente.

Infelizmente esse tipo de atuação não ocorre só nos países nórdicos. Basta um passeio rápido pelas redes sociais no Brasil para se deparar com o mesmo padrão, em ação em todos os campos políticos.

Em geral são perfis com algumas características em comum: são monotemáticos, adotam como foto uma imagem genérica ou algum ícone genérico. Têm poucas atividades pessoais, muitas delas falsas. Reproduzem publicações de outros perfis similares. Passam o dia patrulhando a web e a mídia tradicional (jornais, TV, rádio etc.) em busca de afirmações que contradizem a ideia que querem disseminar. Uma vez identificada uma manifestação desse tipo, atacam imediatamente a ideia ou a pessoa que a proferiu.

A maioria desses perfis espalha mensagens pré-fabricadas. Com isso, esperam infectar pessoas nas adjacências, fazendo-as repetir as mesmas palavras e usar o mesmo tom. Os objetivos dessa estratégia são muitos: tornar discursos de ódio "normais", calar divergências e tornar aceitável o inaceitável.

Esse tipo de ação está se tornando tão comum que várias empresas começaram a desenvolver tecnologias antitrolls. Muitas estão desenvolvendo ferramentas que usam inteligência artificial para reconhecer os padrões do discurso dos "trolls". Tarefa que não é tão difícil, dado que esse tipo de discurso é simplório e repetitivo.

Com essas ferramentas em mãos, cada rede social, site, usuário ou comunidade poderá decidir o que fazer com esse tipo de manifestação. Uma possibilidade será reduzir seu alcance. Em casos relacionados a questões graves, como Estado Islâmico, será possível bani-lo na raiz.

Essa tecnologia foi usada com sucesso pelo popular jogo "League of Legends", que tem 67 milhões de usuários. A empresa identificou que os chats estavam se tornando um covil de ódio e assédio. Adotou então inteligência artificial para avisar aos jogadores em tempo real quando escreviam um comentário abusivo. Com isso, 92% mudavam a mensagem para algo mais construtivo.

Esse tipo de tecnologia estará em breve disponível para qualquer empresa ou comunidade on-line. Isso trará interessantes debates sobre liberdade de expressão.

Um emprego potencial será na área de comentários dos jornais, em que discursos de ódio são frequentes. Até lá, continuará valendo a máxima criada nos primórdios da internet para se lidar com "trolls": nunca brigue com um porco, ambos ficarão sujos, mas o porco gosta.

Ronaldo Lemos - advogado, diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITSrio.org). Mestre em direito por Harvard. Pesquisador e representante do MIT Media Lab no Brasil.

Fonte: coluna jornal FSP