Anúncio Black Friday na Insider: descontos exclusivos na máscara antiviral

O grande dilema

Fundo preto com números e glitches. À direita, o perfil de uma cabeça humana com contornos luminosos e, no lugar do cérebro, o ícone de um coração com os olhos em "x", como se estivesse morto.

Se você lê o Manual do Usuário há algum tempo, é possível que O dilema das redes, novo documentário de Jeff Orlowski lançado pela Netflix, não acrescente novidades ao assunto que aborda — a saber, os impactos negativos, nem sempre evidentes, das grandes empresas de tecnologia em nossas vidas, em especial as de redes sociais. Mesmo assim, vale a pena conferi-lo.

O dilema das redes reúne nomes relevantes de gente que se opõe à atuação das chamadas Big Tech, as grandes empresas de tecnologia. Eles se dividem em dois grupos: o dos executivos e engenheiros arrependidos, pessoas que ajudaram inadvertidamente a criar o monstro que hoje tentam combater; e o dos pensadores e pesquisadores que já faz muito tempo alertam para o tamanho e o perigo crescentes desse monstro.

Uma historinha fictícia, que retrata o vício de uma família norte-americana em celulares e redes sociais, permeia as entrevistas. As atuações beiram o constrangedor1 e ainda hoje, uma semana depois de assistir ao documentário, fico na dúvida se esse segmento dramático mais ajuda do que atrapalha. De qualquer maneira, é uma ilustração que talvez seja útil a quem tem dificuldades em conectar a atuação das empresas aos resultados que os entrevistados atribuem a elas, como a degradação das relações interpessoais e a radicalização política.

Logo no início, vários entrevistados do grupo dos engenheiros e executivos arrependidos emudecem ante a seguinte pergunta: Qual é o problema? Na maior parte do tempo, O dilema das redes se esforça em respondê-la. E consegue, em boa medida. Entender o problema é importante. Indicar soluções — às vezes dramáticas — e apontar culpados, também, mas para essas perguntas o grupo dos arrependidos tem menos clareza nas respostas. Uma das entrevistadas afirma que “não há vilões”, de certa forma eximindo a todos de qualquer responsabilidade.

As empresas criticadas no documentário continuam atuando sem mudanças significativas, exceto por reforços em seus departamentos de relações públicas a fim de forjarem uma imagem melhor de si mesmas. O foco, afinal, segue o mesmo: gerar lucro ignorando tanto quanto possível quaisquer “externalidades”. O memorando explosivo publicado esta semana pelo BuzzFeed de Sophie Zhang, ex-cientista de dados do Facebook, é uma prova tempestiva de que no jogo das Big Tech troca-se as peças, mas a lógica torta que nos trouxe ao caos atual permanece inalterada. E é bem provável, como argumenta Fernando Schüler em sua crítica, que “[s]e um punhado deles [executivos] resolvesse dizer ‘chega, não vamos investir mais em design viciando as pessoas’, um outro punhado de empreendedores menos bacanas, e provavelmente ainda mais jovens, o faria”.

Ilustração com uma mãozinha depositando uma moeda em uma caixa com o logo do Manual do Usuário em uma das faces, segurada por dois pares de mãos. Ao redor, moedas com um cifrão no meio flutuando. Fundo alaranjado.

Apoie o Manual do Usuário.
Você ajuda a manter o projeto no ar e ainda recebe recompensas exclusivas. Saiba mais »

O Facebook não vai curá-lo do vício no Facebook e Instagram, tampouco resolver os graves problemas que ele criou e, mais importante que isso, transformaram aquela startup criada em um dormitório de Harvard em uma das maiores empresas do mundo. Também não dá para esperar esse tipo de mudança significativa de qualquer outra empresa que desafie essas gigantes atuando na mesma arena e com as mesmas regras debaixo do braço2.

Há incentivos sistêmicos muito fortes para que todas as empresas atuem da maneira que atuam, e que dão pistas do tal “vilão” que, acho eu, existe, mas infelizmente não é personagem central no documentário. Sem surpresa, ele só aparece nas entrelinhas, como se fosse um vilão que não pode ser nomeado, nas falas dos pensadores e pesquisadores entrevistados — Jaron Lanier, Shoshana Zuboff, Cathy O’Neil. Por isso, atenção especial a eles.

Uma saída parcial, mas possível

Críticas como a do The Verge, site de tecnologia norte-americano, atacaram O dilema das redes por ele supostamente apresentar parte do problema como se fosse o todo. Extremistas que cometem chacinas espetaculares teriam surgido em ambientes pequenos e não comerciais, como os chans, argumenta a repórter Adi Robertson; a internet só seria mais um meio entre os muitos de comunicação de massa usados para manipulação; e, por fim, muito da manipulação política em países periféricos acontece no WhatsApp, que não trabalha com algoritmo, logo a culpa não seria do algoritmo.

É uma redução simplista do argumento. Ninguém acredita que, se um dia Facebook e YouTube deixassem de existir, o mundo viraria automaticamente uma daquelas ilustrações do “céu” comuns em panfletos de igrejas, com pessoas sorridentes em florestas repletas de animais3. O que distingue as redes sociais de outros meios de manipulação e interdição do debate público anteriores, e as tornam merecedora de uma crítica mais contundente, são dois ineditismos históricos: personalização e escala.

Os meios de comunicação de massa do século XX falavam a um público difuso mesmo quando miravam certas demografias e, mais importante, eram facilmente verificáveis por qualquer um, pois não era possível empacotar mensagens específicas para cada indivíduo. Em redes sociais algorítmicas, o meu feed e o seu jamais são iguais e mesmo que vejamos anúncios da mesma empresa, eles podem ter leves variações apelando às nossas fraquezas, extraídas previamente pela rede social e usadas pelo anunciante para nos manipular.

Sobre a escala, grupos pequenos capazes de desestabilizar a ordem pública sempre existiram, mas eles costumavam atrair pessoas já inclinadas — por outros motivos — a atitudes radicais e eram pequenos por definição. Em alguns poucos anos de Facebook, nossos pais, tias e amigos viraram extremistas cruéis e/ou paranóicos, ou pelo menos se sentiram confortáveis para manifestarem opiniões controversas (para dizer o mínimo) que, antes, não seriam socialmente aceitas. Agora extrapole isso para mais de dois bilhões de pessoas e… bem, dá para ter uma vaga dimensão do problema atual.

Por fim, o fato do WhatsApp não conter algoritmos é um forte sinal de que o mau uso das redes modernas transcende esse aspecto, ou seja, é preciso estar atento para toda forma de subversão de ferramentas de comunicação em ferramentas de manipulação massiva. Além disso, não se pode perder de vista que o WhatsApp funciona, em muitos casos, como distribuidor de conteúdo gerado e amplificado inicialmente nas redes algorítmicas.

É bem provável que a mensagem de O dilema das redes não seja forte o bastante para motivar a maioria a largar seus perfis em redes sociais comerciais para criarem blogs, voltarem ao e-mail ou se cadastrarem no Mastodon. E concordo com colegas e especialistas que afirmam que grandes mudanças não virão da ação individual. Neste dilema específico, porém, estou com o Jaron e o Schüler: se puder, pule fora.

Há dois benefícios em sair das redes sociais comerciais. Primeiro, negar essas redes as enfraquece. O maior ativo do Facebook não é um app nem mesmo seu algoritmo opaco, mas sim as pessoas que interagem em suas propriedades, muitas crentes de que outras formas de interação virtual não são viáveis. Logo, abandonar esses locais significa criar furos na rede, ou minar o efeito de rede, o poderoso mecanismo que aglutina mais e mais pessoas num local e que, somente por isso, o torna cada vez mais valioso para quem está dentro e irresistível aos que estão fora.

O segundo benefício é de foro íntimo. O bombardeio de informações proporcionado pelas redes colapsa nosso cérebro. Não que elas sejam constituídas apenas de maluquice, mas é que a maluquice é muito maior e rapidamente ocupa todo o espaço possível, algo que às vezes só nos damos conta quando já estamos emocionalmente exaustos de tanta grita, tantos anúncios, tanto ruído após horas rolando telas infinitas. Desligar-se dessas redes é um choque, ou seja, não é confortável, mas tal qual outros vícios, passado o choque inicial a gente reencontra o equilíbrio, volta a apreciar outros ritmos de vida. “O dia está bonito lá fora, percebeu?”, provoca Jaron a certa altura.

É para quem não se importa com o problema

Os grandes trunfos de O dilema das redes são seu didatismo pé no chão e o apelo que um documentário em destaque na Netflix tem a perfis que jamais sequer pensaram nos riscos que a obra escancara. Ao formatar a mensagem dessa maneira e colocá-la na frente de — literalmente — milhões de pessoas, abre-se uma grande oportunidade de conscientizar mais gente e, com isso, ampliar o debate e aumentar a pressão por mudanças.

Já perdi as contas de quantos artigos de opinião e reportagens sobre o assunto li em outros veículos e publiquei aqui. Em todos eles, sempre aparece alguém incapaz de perceber o problema. (Imagine o contingente dos que não veem o problema e não se manifestam, ou, ainda, daqueles que passam longe de materiais desse tipo.) Iniciativas de nicho como este Manual do Usuário e muitas outras que permeiam o debate dos impactos da tecnologia nas nossas vidas têm, não por acaso, limitações de alcance. Levá-lo a canais populares, como a plataforma de streaming líder global, é um passo na direção certa.

Imagem do topo: Netflix/Divulgação.

  1. Nem mesmo Vincent Kartheiser, de Mad Men, que no documentário incorpora o “algoritmo”, se salva.
  2. O Snap, do Snapchat, me vem à cabeça. Antes uma desafiante séria do Facebook, hoje ela gera receita com… publicidade segmentada.
  3. Seguramente, não no Brasil de 2020.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

8 comentários

  1. Assisti o documentário esses dias. Como dito no texto, ele não acrescenta tanto para quem já entendeu a mecânica ruim como as coisas funcionam nestas redes sociais. Também achei a “historinha” bem fraca, mas talvez, a simplicidade consiga transmitir alguma mensagem para uma grande quantidade de pessoas. Na verdade, penso que todo o documentário é um bom ponto de partida para alertamos pessoas que não se desligam das redes, e não fazem ideia do porquê.

  2. O documentário introduz a discussão, gostei das atuações, são reais pra mim, e sei que vai atingir em quem eu quero que seja introduzido nessa discussão, já comentei sobre os algoritmos e as redes poucas vezes com amigos, sempre com cuidado para não ser o paranóico e esse doc ajuda.

  3. O drama encenado ao longo do documentário é um tanto pastelão, talvez estereotipado demais, mas é bem simples e penso que mais ajuda, sim, em especial a quem não tinha pensado no assunto até então. É interessante ver que a projeção do rapaz que é analisado vai sendo construída e ficando mais precisa e detalhada, retratando a construção cada vez mais correta e completa dos nossos perfis pelas redes sociais.

    O ponto mais apavorante do documentário é a conclusão de que os controladores das redes podem, ao apertar de alguns botões, controlar e manipular o pensamento de milhões (ou bilhões!) de pessoas ao seu bel-prazer. Ou, talvez pior, causar efeitos inadvertidamente, como consequência do objetivo de seus algoritmos, tal como a polarização política, incentivada indiretamente para gerar interação e, finalmente, lucro.

  4. Acabo de ver o filme. Sabia do texto do Manual do Usuário, mas resolvi ver o documentário e depois ler o texto. Gostei de ambos e discordo de ambos. Aprendi coisas de ambos e mudei o comportamento que, em geral, já era ressabiado. Não conhecia a alternativa ao twitter, por isso resolvi dar uma olhada. Até conversei um pouco com a minha mãe a respeito da diferença entre manipulação e o que essas empresas de midias estão fazendo. O IA do algorítimo não mais te induz a mudar de comportamento mas reforça ideias e junta pessoas com as mesmas ideias, seja, verdade, falsa ou escabrosas. E depois vende!

  5. De fato pra quem já foi atrás dos males que mto tempo e pouco filtro em redes sociais causa pode ser meio chato, achei algumas caricata demais… mas pra quem tá 100% desligado do assunto pode ser sim a porta de entrada ( ou de saída, rs dsclp o trocadilho infame )

Do NOT follow this link or you will be banned from the site!