Lucas Santos, 16 anos, filho da cantora de forró Walkyria Santos, foi encontrado morto no condomínio onde morava com a mãe em Natal (RN). Após sofrer uma onda de ofensas homofóbicas no TikTok, ele se suicidou.
Em vídeo, Walkyria desabafou: “Ele postou um vídeo no TikTok, uma brincadeira de adolescente com os amigos, achou que as pessoas iriam achar engraçado, mas as pessoas não acharam engraçado. Como sempre, as pessoas destilando ódio na internet. Meu filho acabou tirando a vida. Estou desolada, estou acabada, estou sem chão.”
Não é a primeira vez que um suicídio envolvendo o TikTok acontece no Brasil. E, infelizmente não deverá ser a última. Se, como Pierre Levy diz, “já éramos muito maus antes da internet”, plataformas populares como a do TikTok continuarão atraindo gente disposta a cometer todo tipo de atrocidade que resulta em tragédias como esta.
Soube da triste notícia por outra rede social. No Twitter, nomes do chamado Conselho Consultivo de Segurança do TikTok, lançado em março deste anopara ajudar a rede social a “navegar em temas desafiadores, seja desinformação relacionada às eleições, discurso de ódio, ou bullying, e a desenvolver abordagens e soluções pioneiras no setor”, lamentaram a morte de Lucas e cobraram da rede social um posicionamento e medidas para evitar que casos do tipo se repitam no futuro.
No final da tarde desta quarta (4), o perfil do TikTok se manifestou. Iniciou a sequência de mensagens dizendo que “estamos profundamente tristes com esta tragédia”, que “comentários discriminatórios, que violam nossas políticas e prejudicam nossa comunidade, não são tolerados e são removidos da nossa plataforma quando identificados” e que “nossos usuários também contam com diversas ferramentas para evitar conteúdo nocivo”. Para Lucas, nada disso funcionou.
Que pese a boa intenção do TikTok em tentar se antecipar e pedir conselhos de ótimos especialistas (se segue esses conselhos, são outros quinhentos), cabe ao menos considerar que este talvez seja um problema sem solução. Ou, posto de outra forma, que o problema começa antes, muito antes, no momento em que damos as chaves do debate público a plataformas monolíticas gigantescas, multinacionais e com interesses e incentivos desalinhados dos nossos.
Não é um pouco ingênuo acreditar que, por mais bem intencionadas que sejam, qualquer uma dessas plataformas conseguirá algum dia moderar os comentários de — literalmente — bilhões de pessoas falando ao mesmo tempo, no mesmo espaço?
TikTok, Facebook, Twitter, todas essas redes se apresentam como versões virtuais das interações que temos, como seres humanos, há muitos milênios. É uma imagem mentirosa. Dificilmente Lucas, mesmo sendo filho de alguém famosa, estaria de outra forma exposto ao julgamento cruel de milhares de anônimos. Por que aceitamos e naturalizamos isso?
É nessa diferença que reside boa parte dos problemas enfrentados em ambientes online, não por acaso cada vez mais restritos àqueles controlados por essas grandes redes sociais com prioridades bem particulares, como lucrar mais e mais e arquitetar versões ainda mais opulentas e invasivas de si mesmas.
A moda agora no Vale do Silício são os “metaversos”, que Facebook, Microsoft e joguinhos como Fortnite e Roblox tentam vender como a próxima grande tendência. Anunciam esses planos ambiciosos com a displicência de quem varre para baixo do tapete as mortes, os crime contra a democracia e toda a sorte de absurdos que acontecem rotineiramente em seus domínios. Numa triste ironia, parecem se esquecer ou fingem não saber que o próprio termo “metaverso” foi cunhado para descrever “um lugar viciante, violento e que libera os nossos piores impulsos” — poderia ser a descrição da internet que elas ajudam a moldar.
Talvez o metaverso tenha a ver com as tentativas incessantes de levar tais produtos a crianças cada vez menores. O Facebook tem o “Messenger Kids”e prepara um Instagram para menores de 13 anos. Por quê? Qual o benefício? Quem se beneficiaria?
Precisamos repensar a comunicação virtual. Existem modelos alternativos, como as redes descentralizadas, as redes limitadas a contatos próximos, os aplicativos de mensagens. Falta-lhes dinheiro e influência para rivalizarem de igual com os Facebooks e TikToks da vida. O modelo dessas grandes plataformas, que há pelo menos 15 anos nos servem um tecido social virtual puído e mal cheiroso, está falido. Talvez estivesse fadado ao fracasso desde o começo.
Desfechos extremos como o de Lucas são raros, mas as pressões a que adolescentes, que gentes de todas as idades são submetidos nas redes sociais comerciais que tomamos como paisagem na internet são muito comuns. Muito mesmo.
Se você está passando por uma fase difícil ou pensando em tirar a própria vida, procure ajuda no CVV e os Centros de Atenção Psicossocial (CAPS) da sua cidade. O CVV funciona 24 horas por dia, inclusive aos feriados, pelo telefone 188, e também atende por e-mail, chat e pessoalmente.
Este post saiu primeiro na newsletter do site. Inscreva-se gratuitamente para receber os próximos direto no seu e-mail:
Foto do topo: Adrian Swancar/Unsplash.
Centralizada, descentralizada, regulada, não regulada. As pessoas estragam qualquer rede social.
A caixa de pandora já foi aberta e não adianta tentar colocar lá dentro o que já saiu.
Bom se você criar uma rede social só pra você e teus dois melhores amigos…
Mas é melhor fazer o simples: Rede Social, não tenha, não use.
Ainda acompanho este site por causa das matérias de tecnologia. Na parte ideológica é algo triste.
Responsabilizar o TikTok por essa tragédia significa delegar o trabalho dos pais para empresas. Não é papel delas educar os filhos dos outros.
Se alguém tiver culpa(se tiver!) será da mãe, do pai ou ambos que não prepararam o suicida para lidar com o público.
Quando estamos na nossa casa, temos regras e costumes, mas quando saímos ‘para o mundo’, encontramos todo tipo de pessoas, e nessa hora não existe o tal “discurso de ódio”(censura disfarçada de boas intenções), pois as pessoas são… humanas. Elas criticam, zombam, dizem palavrões, e não há como controlar ações de milhões de indivíduos. Sim, num site o dono consegue censurar opiniões/amordaçar a liberdade de expressão, mas não quando ele tem que lidar com uma vasta quantidade de gente de forma simultânea.
Caberia aos pais educar, ensinar que a homossexualidade é natural e incutir o valor da resiliência pra só então permitir ao filho fazer vídeos para o Tiktok.
Enquanto a imprensa atribuir a educação a terceiros, continuaremos a ver essas tragédias e ver também pais desajuizados procriando.
Em momento algum atribui a responsabilidade de educar quem quer que seja ao TikTok. (Não que eu concorde com sua lógica, só estou pontuando que ela não dialoga com a minha crítica.) O problema apontado no texto é que o TikTok não consegue aplicar as regras que ele mesmo criou e que, em tese, os usuários concordam e precisam seguir para participarem da plataforma.
Seguindo sua mesma lógica incompleta. Se em uma escola uma criança sofre bullying. A coordenação pedagógica não deve fazer nada frente aos agressores e em sim chamar os pais do aluno que está sofrendo e orientar pra que de alguma forma os pais ensinem seu filho a apanhar, ser insultado e tudo mais.
Percebe o quanto a sua lógica está errada?
Não dá nem para dialogar com quem faz um paralelo entre o linchamento virtual a que foi submetido o Lucas e uma tal “liberdade de expressão”.
Se (se) eu fosse adotar a linha de pensamento do sr. “Anon”, diria que os pais dele erraram gravemente em sua educação.
“Precisamos repensar a comunicação virtual. Existem modelos alternativos, como as redes descentralizadas, as redes limitadas a contatos próximos, os aplicativos de mensagens. Falta-lhes dinheiro e influência para rivalizarem de igual com os Facebooks e TikToks da vida. O modelo dessas grandes plataformas, que há pelo menos 15 anos nos servem um tecido social virtual puído e mal cheiroso, está falido. Talvez estivesse fadado ao fracasso desde o começo.”
Que parágrafo infeliz. Sim, existem redes descentralizadas, mas não é que falta dinheiro pra elas, falta gente pra usá-las, coisa que facebook, twitter e tiktok tem. É tipo whatsapp e signal. Signal é melhor, mas não tem ninguém lá.
E de onde o Ghedin tirou que “o modelo das redes sociais está falido”? Você já viu os números? Você conhece alguém que não use alguma rede social? Dizer que as plataformas estão falidas é muito desconhecimento.
O problema não é a plataforma, são as pessoas. Pessoas faziam bullying antes da internet. Eu sofri bullying na escola, por ser nerd (numa época que isso não era glamourizado como é hoje). Sofri, felizmente não tive tendencias suicidas, e a vida foi se ajeitando. Hoje a zoação é me chamarem de “incel”, o que talvez daqui uns anos seja glamourizado também.
Enfim. As pessoas são o problema, não as plataformas. Lavagem de dinheiro existe com dinheiro de papel, mas quando é feita com bitcoin culpam a tecnologia.
O ideal é não deixar crianças acessarem a internet. Ou se deixar, que os pais controlem. Mas quem faz isso? Hoje em dia os pais dão celular de presente, e gostam quando a criança está quieta. Dar um celular com internet pra criança/adolescente é uma das coisas mais nocivas que pode ser feita pra pessoa, mas é tido como normal pela sociedade. E aí, quando a criança sofre as consequências disso, culpam, claro, a tecnologia.
É muito triste o que aconteceu com o rapaz.
E não tem ninguém lá por quê? Minha hipótese é de que falta dinheiro e influência para se investir em marketing. As pessoas precisam de incentivos para experimentarem algo novo. Como redes sociais não são mais novidade, esse incentivo hoje depende muito de marketing — vide, por exemplo, Kwai e TikTok literalmente pagando por novos usuários.
A falência a que me refiro não é mensurada em números. Falo da falência ética, do compromisso mínimo (ou que deveria ser mínimo) de não permitir que sua plataforma seja usada para abusos. Nesse sentido, as redes sociais comerciais sempre fracassaram, continuam fracassando e, como argumento no texto, provavelmente sempre fracassarão. Assim sendo, nesse contexto, é um projeto falido.
“Armas não matam, pessoas matam”? Óbvio que são pessoas agindo, mas elas só cometem essas atrocidades porque se sentem confortáveis com isso, com uma plataforma permissiva e que falha em aplicar suas próprias regras.
E não é porque você ou qualquer um sofreu bullying que isso se torna aceitável. Pelo contrário. É uma pena que tenha passado por isso e um dever de todos nós tentar evitar que mais gente tenha esse tipo de experiência traumática — por mais que você acredite que “a vida se ajeitou”, esse tipo de coisa deixa marcas profundas e, paradoxalmente, às vezes difíceis de compreender.
Finalmente um ponto em que concordamos :)
Eu não tenho uma concepção sobre se a descentralização resolveria esse problema, assim como também não tenho concepção sobre a participação de crianças nessas redes.
Mas eu penso que se a plataforma fosse mais transparente e democrática em seus algoritmos e no processo de moderação do conteúdo, se respeitasse leis e regulações e tivesse uma moderação mais rápida também. Muito já avançaríamos neste discurso.
Enfim. As pessoas são o problema, não as plataformas. Lavagem de dinheiro existe com dinheiro de papel, mas quando é feita com bitcoin culpam a tecnologia.
A culpa da “tecnologia”, seja no caso do suicídio, seja nas lavagens de dinheiro com bitcuin, é o fato que as tecnologias ainda não possuem filtros para evitar crimes e problemas sociais.
Seguindo com sua analogia: os filtros de combate ao bullying em grandes redes como Twitter e Facebook só estão funcionando de forma mínima isso porque houve cobrança de todos os lados – sociedade e governos. O dinheiro “de papel”, na verdade as moedas dos países, hoje só tem mais aceitação pois existem mecanismos de controle fiscal, assim sabendo o quanto de dinheiro cada pessoa em um país tem (mais ou menos). Para isso serve o Conaf, a Receita Federal e outros órgãos.
Tik Tok /Kwai não tem filtros perfeitos e ainda falha em manter um ambiente sadio, ainda vendo nudez descontrolada (não duvide que exista menores de idade se expondo), incentivos a atos de violência e suícidio. Os filtros falham pelo caos gerado.
Nas moedas digitais, apesar da suposta “segurança” devido as transações, na prática tais transações podem ocultar movimentações financeiras maiores – pode-se não roubar bitcoins sem expo-las. Pode ver as transações ocorrendo, mas não conseguir ver movimentações ocultas em transações menores ou disfarçadas em operações entre traders (Quem troca moedas digitais por moedas federais, por exemplo). Por trás de operações de troca, pode existir a lavagem, que fica teoricamente como se fosse uma operação de trade mas na prática pode estar levando dinheiro de Rio das Pedras para Suíça.
Infelizmente, acho que esse problema é inerente ao conceito de rede social, tenho receio que um sistema distribuído seja até mais perigoso no longo prazo.
As redes sociais comerciais, ao lucrarem com o tempo e engajamento das pessoas nas redes, tem um modelo de negócios que incentiva esse tipo de agressão e fenômenos como o QAnon. Eles fazem movimentos pontuais para controle de imagem, mas todo o design é propício para casos como esse, de engajamento rápido, viral e visceral. Enquanto for baseada em anúncio, é secar gelo ter consultor/conselho/etc…
Só que modelos descentralizados ou privados não resolvem, até pioram pelo controle ser impossível.
Exceto pelo Facebook por trás, o WhatsApp não tem a questão de anúncios e táticas de engajamento, mas a partir do momento que passou a ser dominado por grupos e disseminação de fake news….o que sobrou para fazer? Mesmo coisas simples e de efeito menor, como limitar encaminhamentos, seria impossível sem um responsável por trás.
Imagine se o Mastodon virasse a rede social do Trump ou algo assim. Não há o incentivo inicial de engajamento das redes comerciais, mas com milhões de pessoas interagindo, é questão de tempo para acontecer algo assim.
Ao meu ver, esse modelo de rede social privada e descentralizada, teria o mesmo destino das criptomoedas. Muita gente sonha que é melhor não ter estados/bancos controlando o sistema financeiro, mas na prática vira um esquema de vencedor leva tudo. Para redes sociais, continuaríamos tendo as mesmas coisas, mas nem alguém para apontar o dedo sobraria.
A gente está no campo hipotético aqui. Dito isso, um outro caminho possível para as redes descentralizadas seria uma “autorregulação” meio similar à que existe no debate público. Isso já funciona no Mastodon: administradores de instâncias trocam informações e bloqueiam instâncias que são explicitamente extremistas e/ou criminosas.
Não me iludo achando que esse ou qualquer outro modelo acabaria com esses discursos nocivos, e nem é papel de rede social/empresa impor esses limites — isso cabe à Justiça. Acho, porém, que a descentralização poderia ajudar a limitar o alcance de conteúdo que gera reações fortes, porque nesse modelo não há incentivos para tolerar certas coisas que, no comercial e centralizado, existem, quiçá são prioritários.
O paralelo com as criptomoedas me parece falho porque não é como se, hoje, as redes sociais fossem públicas, ou estivessem à mercê do escrutínio público. O controle já é privado e restrito a uns poucos ganhadores — os vencedores já levaram tudo, ainda que a cada quatro ou cinco anos um novo vencedor desponte, caso do Snapchat em 2013 e do TikTok em 2016. O modelo de redes descentralizadas visa democratizar esse poder e, assim, mitigar os vícios que, em grande medida, decorrem exatamente da concentração de poder que as três ou quatro Big Tech de redes sociais detêm hoje.
Não sei se vou conseguir contribuir neste debate, mas estava pensado uma coisa na linha do Arruda.
Sim, de fato as redes Mastodon aparentemente são razoavelmente monitoradas e procuram isolar atividades obviamente criminosas. Nisso, as redes sociais criminosas (como os Gab e Chans) ficam isoladas.
No entanto, mesmo este isolamento acaba inócuo, quando não, incentivando pessoas que tem pensamento similar a participarem e alimentarem aquela outra rede social isolada.
“A responsabilidade é da Justiça”. Só que sabemos que mesmo a justiça (ao menos a BR) não é perfeita e inclusive há membros da justiça que acabam adeptos das linhas de pensamento criminosas. Lembremos de um famoso promotor twitteiro…
Creio que o ideal aqui é um misto de política, psicologia, tecnologia e entendimento jurídico. Entender os porquês das redes criminosas se abastecerem e achar métodos de contrapropaganda seriam formas de inibir com força tais pontos de encontro.
Não sei se é eu que vou pouco atrás de informação, mas sei que são poucos os atos policiais / jurídicos que buscam comunidades de ódio. Lembrando inclusive que já temos membros destas comunidades no poder brasileiro. E mesmo a justiça não tem feito muita coisa – apenas quando repercute de forma extrema, tipo o Daniel Silveira por exemplo.
Creio que na hora que o salnorabo sair do poder, pode ser um indicativo que será possível mudar a postura, sendo mais combativo aos ataques de ódios em redes sociais, assim permitindo criar e financiar programas de monitoria ativa e incentivo a redes sociais descentralizadas.
Eu acho mais provável que criasse mundos separados, que de certa forma já são mesmo na estrutura atual, em que essas tragédias continuariam ocorrendo. Teriam mais lugares legais, mas um monte de terríveis também.
O interesse em monetizar fortalece esse cenário de sentimentos fortes das redes sociais, mas não é como se não fosse natural. Tipo açúcar: a publicidade piora o cenário, mas é algo que realmente vicia.
Mas é hipótese, gostaria de estar errado.
Não que eu tenha tanta esperança, mas não houve nem tentativas de controlar essas empresas né? Isso começou a ser discutido com Brexit e ganhar realmente força agora no governo Biden.
Mantendo a analogia financeira, hoje estamos no cenário da crise de 29, em que havia zero controle e regulamentação dos mercados. Não que hoje esteja perfeito, mas o sistema financeiro é muito mais confiável e funcional.
Talvez, tenhamos que aprender como controlar essas coisas, o que seriam os BCs, SoX, Basileias, etc…mas para redes sociais.
Acho que em um regime federado seria interessante no começo, mas logo algumas federações passariam a ser o centro de gravidade e centralizar a maior parte dos usuários.
Em algum momento, os donos da instância terão um poder imenso, suponho que começariam a ser vendidas e entrar em um esquema de mercado como as atuais. Caindo no mesmo problema, talvez até mais complicado a depender da jurisdição.
Sinto que falta muito conhecimento ainda, para gente controlar esses ambientes com milhões de pessoas.
Mas aí que tá: acho que seria uma boa “escantear” essa galera criminosa em um lugar apartado. Se o Lucas estivesse numa rede descentralizada, por exemplo, em uma instância menor, bem cuidada e que bloqueasse ativamente instâncias podres, talvez o volume de ataques seria menor, nesse caso. É utópico pensar em zero ataques, mas em um volume menor, talvez não. Volume, nesses casos, faz diferença — mesmo em casos muito menos sérios, como naqueles tuítes meus do carro de bunda-mole da Tesla e do foguete do Bezos, já rola uma adrenalina; nem imagino como deve ser terrível ataques pessoais e na casa dos milhares.
De fato, ainda não houve qualquer tentativa séria de regular redes sociais. Pode ser um caminho. Temo duas coisas, porém: 1) que mesmo em um cenário de regulação, os incentivos continuarão os mesmos, o que levará essas empresas a atuarem no limite da regulação e a sempre empurrarem esse limite para mais longe; e 2) que talvez já seja tarde demais. Essas empresas têm muita grana, muito lobby e influência, e estarão presentes em qualquer faísca de tentativa de regulação a fim de mantê-la tão frouxa quanto possível. Espero estar errado.
Pensando nesse caso do TikTok , acho que os silos são realmente benéficos, reduz o risco de ataques em massa até mesmo por simples probabilidade. É realmente mais saudável, não ter o espaço invadido por desconhecidos e recomendações/publicidade, vide a diferença de usar Twitter na web e somente seguindo suas listas.
Minha preocupação, seu exemplos pessoais ilustram bem, é que não enxergo uma resposta para o problema da câmera de eco: ao mesmo tempo que não é saudável e nem produtivo, ficar ouvindo discursos agressivos e contra seus princípios, como a gente vive em sociedade que cada um tem suas redes?
Quanto a gente deve saber, que as pessoas defendem bilionários com unhas e dentes? São muitos ou poucos barulhentos? É um diálogo necessário, mas cada vez mais impossível.
Se o diálogo nunca foi muito produtivo na “praça pública” do Facebook, nos grupos de WhatsApp e redes sociais apartadas, nem a realidade é mais compartilhada. E, vide eleições no Brasil e no mundo, não são meia dúzia de loucos mas um esgarçamento universal do tecido democrático.
Um exemplo que conheço de como redes descentralizadas podem ser um refugio para canais extremistas e propagadores de desinformação é ver o canal do Mamãe falei no Odysee.
Jamais saberia da existência desse canal não fosse esse comentário. Percebe o benefício? Por que ninguém mais fala do Trump? Tudo bem, ele não é mais presidente, mas o outro impacto, tão forte quanto a perda da reeleição, foi ele ter perdido seu palanque nas redes comerciais. Não é coincidência que essas redes alternativas — Parler, Gab, Gettr — definham e ninguém fale nelas. Extremistas aprenderam a usar o RAGE contra o algoritmo das redes comerciais, e isso dá a eles palanque para naturalizar seus absurdos.
Quem sabe transformar tudo em redes federadas descentralizadas? A situação já passou dos limites e tudo indica que vai piorar.