A radicalização matou a rede social — e pessoas no mundo real


20/3/19 às 8h33

Os atentados em Suzano (SP) e na Nova Zelândia criaram bodes expiatórios instantâneos, como os video games. Mas em vez de recriarmos a mesma caça às bruxas de vinte anos atrás do caso Columbine, deveríamos estar atentos às plataformas digitais que, com algoritmos que priorizam prender a atenção dos usuários através da radicalização dos seus interesses, têm um potencial danoso maior do que os tiros e sangue virtuais que aparecem nos games. Ouça o Tecnocracia desta semana:

Ou se preferir, baixe o MP3.

O Tecnocracia está nas principais plataformas de podcasts. Acompanhe-o pelo seu app favorito: Apple Podcasts, Google Podcasts, Spotify ou RSS para os demais.

Não sabe ouvir podcasts? Este guia lhe será útil.

Abaixo, a transcrição integral desta edição:


De vez em quando, o algoritmo do YouTube acerta. Na semana passada, o site me indicou um vídeo do New York Times detalhando como a Arábia Saudita preparou a morte do jornalista Jamal Khashoggi numa embaixada na Turquia, dos voos feitos em aviões oficiais com legistas ao uso de um dublê de corpo semelhante a Khashoggi para simular que o dissidente tinha saído do prédio onde foi brutalmente morto.

Depois de perceber que eu gostei do vídeo e me inscrevi no canal, o algoritmo fez o que algoritmos fazem para me manter mais tempo lá: sugeriu outros vídeos do mesmo canal. Apareceu um segundo. Esse resgatava os sete dias anteriores ao maior atentado com armas da história dos Estados Unidos, quando um assassino abriu fogo contra uma multidão que via um show em Las Vegas e matou 58 pessoas. E um terceiro, que falava sobre o massacre de Columbine, quando dois assassinos entraram no colégio com armas e explosivos e mataram 13 pessoas. Foi um marco em termos de chacinas perpetradas por alunos em colégios nos EUA. Virou filmes — os bons Bowling for Columbine, documentário do Michael moore, e a ficção Elephant, do Gus Van Saint. Mas, mais que virar filme, Columbine virou modelo. O YouTube ter indicado o vídeo do NYTimes sobre Columbine e eu ter assistido na semana passada foi uma triste coincidência com Suzano (SP).

A reação à chacina de Suzano misturou uma tristeza pelos mortos por razões banais com a raiva pela forma como uma boa parte da mídia e dos políticos brasileiros abordaram o caso. Se você assistir o documentário do NYTimes sobre Columbine (o que te aconselho fortemente a fazer), notará que a cobertura generalizada do caso tentava colar na dupla de assassinos o papel de “esquisitos se vingando”. Eles não tinham amigos. Eles eram isolados. Eles jogavam videogames. Eles sofriam bullying. É o que se chama “lone wolf” em inglês — eles não eram parte do grupo, eram párias que resolveram se vingar da maneira mais trágica possível.

A cobertura excessiva transformou os dois em heróis. Massacres surgiram nos anos seguintes tentando emular Columbine. Um deles foi o de Suzano. Uma parte da mídia norte-americana aprendeu a lidar com isso. A CNN, por exemplo, reporta massacres em escolas sem citar os nomes dos autores. Para não criar essas figuras que possam ser rastreadas online e imitadas. “Geralmente, a história se lembra do nome dos assassinos, não das vítimas”, resumiu bem Anderson Cooper, âncora da CNN.

“Horrores como Columbine nos aterrorizam e nós precisamos de uma explicação. Ainda que a gente não tenha uma resposta, a gente acha uma”. O resumo na mosca é de Dave Cullen, que escreveu um livro sobre Columbine após ler milhares de páginas da investigação e dos diários dos assassinos. Massacres geram uma comoção. Quando essa comoção esfria, é possível ver o que realmente havia por trás. E Cullen descobriu que aquela imagem vendida dos dois assassinos não tinha nenhuma relação com a realidade. Eles tinham vida social. Não havia indícios de que o bullying ou os games tenham sido a causa. Os alvos do ataque não foram só um grupo específico, como os atletas, mas todos os alunos. Segundo Cullen no vídeo do NYTimes, o que motivou a dupla foi uma mistura de “malícia, ódio de si mesmo e a vontade de ser famoso. Com o tempo, ambos viraram um culto de duas pessoas, determinados a deixar uma marca no mundo em um ato final”.

Muitas das características que vimos em Columbine apareceram na cobertura da chacina de Suzano. Os amigos isolados. A vingança excessiva. E um culpado expresso nas horas seguintes. “Hoje a gente vê essa garotada viciada em videogames e videogames violentos. Só isso que fazem. Quando eu era criança e adolescente, jogava bola, soltava pipa, jogava bola de gude, hoje não vemos mais essas coisas. É isso que temos que estar preocupados”, falou o vice-presidente da República, Hamilton Mourão.

Não, Mourão. Permita-me discordar.

Não eu, mas quem estuda o assunto há anos. Uma pesquisa do Instituto de Internet de Oxford, divulgada em fevereiro, analisou mais de dois mil adolescentes britânicos entre 14 e 15 anos e seus pais e chegou à conclusão que não existe uma ligação clara entre games violentos e agressividade:

“O estudo é um dos mais definitivos até hoje por usar uma combinação de dados subjetivos e objetivos para mensurar a agressividade dos adolescentes e a violência dos games. Ao contrário de estudos anteriores, que dependiam fortemente de dados reportados pelos adolescentes, o estudo de Oxford usou informações dos pais e cuidadores para julgar o nível de comportamento agressivo em seus filhos.”

Ainda que não tenha encontrado correlação entre agressividade na vida real e violência nos games, o estudo deixa claro que as situações virtuais podem provocar irritações ou reações negativas dos jogadores, como qualquer um que já jogou Cuphead sabe bem. Essas reações podem descambar em “trash talk” e trolladas. O que não quer dizer que o jogador vai pegar uma metralhadora para matar seus adversários. (Eu me sinto até meio pateta de ter que argumentar isso!)

Existiram outros casos semelhantes no Brasil que precisamos considerar. Em novembro de 1999, um estudante medicina foi ao Shopping Morumbi para ver Clube da luta. No meio da projeção, sacou uma submetralhadora e a disparou contra o público. Matou três e feriu quatro. Ele foi preso, confessou o crime e, sem surpresa nenhuma, Duke Nukem e Doom despontaram como inspirações para o crime, além do próprio Clube da luta.

Mais tarde, descobriu-se que quem encampava a teoria dos games era a própria defesa, que queria classificá-lo como instável emocionalmente para diminuir sua pena. O assassino teria direito a pleitear uma progressão de pena após ter cumprido uma parte da de mais de 120 anos que lhe foi imposta. Não conseguiu o benefício por ter tentado matar um colega de cela que tinha deixado a TV alta demais. Consta que, após anos presos, Mateus não teve contato com o novo Doom ou que tivesse conhecido Counter-Strike. Já em 2013, um adolescente de 13 anos pegou a arma dos pais policiais e matou ambos, a avó, a tia e o primo. No Facebook, o adolescente usava uma foto do protagonista de Assassin’s Creed, uma série em que se mata sem usar armas de fogo. Pronto: a explicação tinha sido encontrada.

Culpar os video games é cortina de fumaça. É ruim porque esconde a real razão. Há um caldo de razões que levam jovens a tomarem uma atitude tão extrema. Mais que uma cortina de fumaça, é irresponsável: no dia seguinte ao massacre, não há forma nenhuma de saber o que o desencadeou.

Em Columbine, além dos jogos, a culpa foi de Matrix. A cena em que Neo e Trinity entram metralhando seguranças em um prédio foi repetida incontáveis vezes. No fim, não era. A opinião do vice-presidente, sem qualquer base empírica e baseada no velho “ouvi falar, assim me parece”, é uma estratégia diversionista. Jogar a culpa nos games logo na largada parece ser uma boa maneira de tentar encerrar a discussão e não deixar que aflorem discussões de outros potenciais motivos, principalmente para um governo de forte caráter bélico. Não, a flexibilização da posse de armas não tem relação nenhuma, já que a arma foi obtida ilegalmente, provavelmente, antes de o decreto ser apresentado em janeiro. Mas sugerir metralhar os rivais políticos no Acre ou descobrir 117 fuzis com um vizinho do presidente, tem. É mais fácil culpar o Doom.

É inacreditável que, 20 anos depois de Columbine, o Brasil continue a repetir
este anacronismo. A mídia repetiu o nome dos dois assassinos brasileiros. O governo usou a resposta fácil dos games. É uma fórmula que impede uma discussão pública séria e facilita que o crime seja usado como inspiração para quem deseja repeti-lo.

Há um lado de tecnologia que cobre Suzano e o massacre da Nova Zelândia, mas não a que vem sendo explorada exaustivamente desde quarta-feira. Não é video games, nunca foram os video games. É a radicalização online.

A radicalização online se assenta em uma das premissas potencialmente benéficas das redes sociais. Neste mundo infinito de grupos digitais, só fica sozinho quem quer. Busque e você vai encontrar aquele seu nicho especializadíssimo, de assuntos muito sérios a trivialidades. Quem teve uma doença rara pode encontrar conforto em trocar palavras e experiências com outros pacientes, ainda que separados por um oceano. Esse é outro impacto da tecnologia nas nossas vidas que foi vendido, no começo, embrulhada na embalagem “tecnoutópica”. A gente só via o lado bom.

Assim como pacientes de um mal raro, grupos como bulímicas, teoristas da conspiração, bandidos, nazistas e extremistas religiosos também podiam encontrar seus pares e trocar experiências e impressões. Tudo sob a tutela do algoritmo em grupos que, durante anos, não encontraram qualquer tipo de resistência legal. Tudo era permitido.

Aqui, a tutela do algoritmo começa a ter duas consequências claras: por um lado, o algoritmo reintroduz conteúdos e participantes que se assemelham aos que já estão no grupo, criando um efeito eco: você tende a interagir mais com quem tem visões de mundo que corroboram as suas próprias.

Quem melhor descreveu esse fenômeno há oito anos foi Eli Pariser no livro O filtro invisível: O que a internet está escondendo de você [Amazon]. Muita gente achava que o Pariser estava exagerando. Hoje fica claro que ele até pegou um pouco leve. Se você não quer ler o livro, azar o seu, mas Pariser fez uma apresentação no TED na qual explica bem a premissa central: ao criar uma bolha onde só os nossos interesses são servidos, a gente tende a ficar alienado e começa a ver o dissonante como inimigo. E olha que, em 2011, quando o Pariser cunhou a expressão, o Facebook não era uma máquina de imprimir dinheiro, o Instagram era uma startup com menos de um ano que ainda tentava imitar o Foursquare, a Netflix não produzia nada, só distribuía e, principalmente, ninguém usava o WhatsApp.

A coisa piorou muito de lá para cá. Principalmente o WhatsApp porque, antes dele, a cisão entre grupos diferentes online era clara quando as discussões eram feitas às claras, ao alcance de todos. Quando o WhatsApp vira o app de mensagens mais popular do Ocidente, torna mais difícil rastrear os grupos e o que rola dentro deles. O WhatsApp é o ápice da estratégia de rompimento iniciada nas redes sociais. É o próprio aquartelamento da comunidade num grupo de difícil acesso e que, se alguém não fala o que se espera, aquela pessoa é expelida como se fosse um espião inimigo.

Essa caminhada em direção ao tribalismo (que não tem nada a ver com aquela banda) matou as redes sociais como espaços de convívio coletivo. A partir do momento em que você coloca seu pezinho para fora da sua bolha, qualquer lado de qualquer guerra tenta te arrastar para uma discussão interminável. Um exemplo prático: um tweet meu foi parar em um “Moments” na semana passada. E abriram-se as portas do inferno político que o Brasil se encontra. A projeção significa que seu tweet vai virar o ponto focal de uma discussão insuportável entre os dois extremos do espectro político brasileiro. Se você critica um governo cujo presidente tem laços óbvios com grupos paramilitares cariocas em esquemas de corrupção, aparece uma galera que defende Nobel da Paz para o ex-presidente preso e apoia o ditador venezuelano Nicolás Maduro. Se você critica a inacreditável defesa do ditador venezuelano pela presidente do partido da oposição, o outro lado defende o fim da mais alta corte do país e a liberação das armas como solução para qualquer problema. Não há espaço para discussão e bom senso nas redes sociais. Só para grito. A radicalização matou o diálogo online.

Não é bom para sua saúde mental, mas é excelente aos bolsos das plataformas. Tal qual o YouTube me mandando mais vídeos do NYTimes, o algoritmo faz isso para manter o sujeito em atividade o maior tempo possível. Quanto maior a média diária de horas interagindo com o site, maior o espaço para publicidade e, consequentemente, maior o lucro ao fim do trimestre e o bônus para os diretores e CEO no fim do ano.

Esta discussão tem pontos de contato com outros dois episódios do Tecnocracia. Para atingir essa interação cada vez maior, empresas de tecnologia adotaram técnicas que empresas de tabaco e jogos de azar usam há décadas para manter seus “clientes” viciados (note que as aspas não estão em viciados; trata-se literalmente de viciados). Como consequência dessas escolhas, o design das redes sociais acabou focando em interações curtas, não em discussões. As interfaces de Facebooks, Twitters e afins são péssimas para qualquer tentativa de passar um argumento mais estruturado adiante. O que se tem ali não é uma conversa, mas um concurso de grito — quem tem a melhor garganta ou é mais extremista, “leva”.

A segunda consequência clara desta tutela do algoritmo é que gente com objetivos que ultrapassavam as leis encontraram semelhantes e descobriram que existem espaços virtuais onde eles poderiam agir como achavam correto sem se preocupar com o julgamento alheio.

Alguns desses grupos começaram em plataformas tradicionais e acabaram sendo expulsos quando as administrações dos sites se deram conta do uso maléfico, sejam grupos com objetivos claramente criminosos ou comunidades em que as interações entre seus membros começaram a resultar em comportamentos abusivos. Só que era tarde demais. Muitos dos mais extremistas já tinham se mobilizado e podiam mudar todo o fórum para lugares onde era difícil a pouca legislação vigente alcançar.

Uma das sementes deste comportamento começou a brotar no Reddit há muitos anos. É bastante conhecida a história de um subreddit chamado r/jailbait (expressão que aqui se traduz livremente como “chave de cadeia”), onde a comunidade publicava fotos de meninas vestidas, mas em poses sensuais. Em 2008, o responsável pelo Reddit defendeu a permanência do subreddit, afirmando que o site não condenaria a liberdade de expressão dos seus membros. Nos anos seguintes, imagens de menores sem roupa apareceram no grupo. O subreddit só foi banido três anos depois quando a CNN produziu uma ampla reportagem.

O r/jailbait está longe de ser a única comunidade tóxica do Reddit. Nos últimos anos, o Reddit baniu comunidades centradas em pedofilia, venda de armas, teorias da conspiração, exposição e ameaças físicas graves a mulheres, vazamentos de nudes, racismo, ódio contra gordos, incentivo a suicídios, montagens pornográficas de celebridades… A lista é grande e chocante. Semana passada foi preciso banir uma que congratulava o terrorista que matou muçulmanos na Nova Zelândia, ainda que, inacreditavelmente, o Reddit tenha se recusado a tirar o vídeo do ar num primeiro momento. É revoltante. Como toda rede social, o Reddit tem uma parte lixo, que é muito relevante na sua comunidade, mas não é só um lixo — existem alguns subreddits sensacionais, como o desafio de ler 52 livros em um ano, o centrado em Black Mirror, os focados em pacientes que já tiveram câncer…

Alguém está errado na Internet.
— Você está vindo dormir?
— Não posso. Isto é importante.
— O quê?
— Alguém está errado na Internet. Imagem: xkcd/reprodução.

A radicalização não foi apenas tolerada, como incentivada pelo design das redes sociais. O algoritmo busca uma reação sua ao conteúdo publicado e não existe reação que mais engaje que o ódio, a raiva. Hoje, você entra na internet, essencialmente, para passar raiva. A raiva faz com que você dê uma resposta, tal qual o clássico quadrinho do xkcd de que “ tem alguém errado na internet”. Sempre vai ter. E sempre vai ter gente preparada para passar horas e horas em Facebooks, Twitters e afins tentando dar respostas.

Quer um exemplo prático? Te dou dois.

O primeiro é sobre o Facebook. Em janeiro de 2018, Mark Zuckerberg anunciou que o algoritmo do feed de notícias mudaria para mostrar menos notícias e mais posts de amigos. Um ano depois, o resultado foi o contrário. Uma análise da consultoria NewsWhip mostra um aumento na circulação de artigos abordando temas divisivos, como aborto, religião, armas e política. O veículo mais popular na análise? A Fox News, o veículo que mais atrai reações extremadas do público, seja de apoio ou de repulsa. Não à toa, o engajamento aumentou em comparação a 2018. Quando sua empresa está sendo fortemente questionada e sua base está caindo, apostar em polêmica garante que os números subirão, como diz a cartilha Faustão e Gugu da década de 1990.

(Se você quiser ir mais a fundo, leia a reportagem do NYTimes mostrando o papel que o Facebook teve nos levantes islamofóbicos na Ásia.)

O segundo é sobre o YouTube e você mesmo pode fazer em casa. Entre no YouTube com sua conta deslogada. Quantos cliques você precisa dar até cair num vídeo de teoria da conspiração? Eu precisei de dois para chegar em um defendendo que implantar um chip cutâneo é um plano do diabo para conquistar a Terra (1,7 milhão de visualizações). Dois cliques de novo, e estava vendo outro religioso destilando ódio contra Pabllo Vittar e John Lennon (2,3 milhões de visualizações). Mais dois para um outro sobre como um avião saiu da Alemanha e pousou em Porto Alegre 35 anos depois, com todos os passageiros e pilotos mortos. O YouTube oferece isso de cara para novos usuários. Não só teoria da conspiração, mas também mentiras deslavadas de fundo religioso e preconceito escancarado.

Print de um vídeo extremista recomendado pelo YouTube.
Imagem: YouTube/Reprodução.

Quando as plataformas perceberam, era tarde demais. O bicho já tinha se desenvolvido tanto que não voltaria mais para a casinha. O ódio a minorias, a misoginia, o tráfico de armas, o preconceito, as ameaças de dano físico ou morte, tudo isso encontrou um ninho nos chans.

Os chans nasceram inspirados pelos image boards japoneses. É de lá que saem muitos dos memes que todos usam hoje (o lolcatz e o Rickrolling vieram de lá, por exemplo), mas lá também é a fonte na qual terroristas, assassinos, criminosos e trolls da vida real bebem. Os dois matadores de Suzano pediram ajuda em um chan brasileiro hospedado na deep web e, após o massacre, as fotos dos seus cadáveres foram tratadas como a de heróis. Não só a deles: assassinos responsáveis por outros massacres, como o de Realengo, também.

Os chans são velhos conhecidos de quem presta atenção nos problemas reais da internet brasileira. O criador do chan frequentado pelos assassinos de Suzano começou no Orkut, com posts racistas, antissemitas, homofóbicos, xenófobos e misóginos. Entrou e saiu da cadeia e criou o chan, de onde coordenava um grupo para mandar ameaças de morte a defensores de direitos humanos. Lola Aronovich, um dos seus alvos mais comuns, detalha bem a perseguição que sofreu pelo criador e também dá um pano de fundo da atuação dos chans no Brasil em uma reportagem publicada no The Intercept.

A radicalização não apenas nos deixa mais burros nesse ambiente digital onde é impossível ter uma discussão civilizada usando fatos, como nos deixa mais vulneráveis à ação criminosa de… como chamá-los?, assassinos e dementes que povoam alguns dos chans e tornam a vida de pessoas com quem eles não concordam um inferno. Responsáveis pelo crescimento do bicho, as plataformas não têm interesse em mudar, já que lucram no processo. A gente fica burro e vulnerável para aumentar a fortuna de algumas centenas de multimilionários e bilionários concentrados especialmente na Califórnia.

O problema real a se debater é esse. Não é a arma que seu sobrinho usa no Fortnite. Por que o máximo que o Fortnite pode te trazer é uma leve humilhação. A radicalização, não. A radicalização tem consequências muito mais sérias. Ouviu, Mourão?

Este post contém links comissionados de lojas parceiras do Manual do Usuário. Caso faça uma compra a partir de um deles, o blog receberá uma pequena comissão — que não afeta o valor final pago por você.

Colabore
Assine o Manual

Privacidade online é possível e este blog prova: aqui, você não é monitorado. A cobertura de tecnologia mais crítica do Brasil precisa do seu apoio.

Assine
a partir de R$ 9/mês