No último domingo (30/4), o Brasil conheceu o Discord. Em uma longa reportagem, o Fantástico da Rede Globo denunciou a existência de grupos na plataforma que estimulam e assediam adolescentes a cometerem atos cruéis contra si mesmos.
Vídeos de embrulhar o estômago, dos quais só ouvimos as falas, mostram aos repórteres automutilação, abusos sexuais e crueldade contra animais domésticos, tudo isso num ambiente de tortura psicológica, com outros membros, alguns maiores de idade, assediando, estimulando e se divertindo com a situação.
A reportagem dividiu opiniões. Uns dizem que ela é apelativa e injusta com o Discord; outros, que trata-se de um serviço a pais e responsáveis que, até então, não tinham ideia da existência do serviço.
Há um tom meio sensacionalista, é inegável, porém acredito que o saldo da matéria seja positivo.
Ao contrário de outras histórias de pânico moral envolvendo menores que se alastraram nos últimos anos, como a famigerada “baleia azul” e a boneca Momo, a história do Discord parte de provas contundentes de que danos estão sendo infligidos contra crianças e adolescentes.
Se até hoje ninguém conseguiu achar alguém que tenha feito o desafio da baleia azul ou o da boneca Momo, não resta dúvidas de que as crueldades perpetradas no Discord geraram vítimas, de que o dano é real.
Lançado em 2015, o Discord é uma espécie de “WhatsApp turbinado”. A princípio, focava no público gamer, mas expandiu-se muito durante a pandemia.
No linguajar da plataforma, grupos são chamados “servidores” e, dentro deles, é possível criar inúmeras salas de conversa por texto e fazer videochamadas, como no Zoom ou Google Meet, sem limitações. Um grupo pode ter milhares de membros. Quase tudo é gratuito.
Há muitos usos legítimos e lícitos do Discord, algo que o Fantástico menciona de passagem.
O Discord tem termos de uso que proíbem o que foi mostrado pela reportagem do Fantástico. Talvez seja utópico esperar que eles sejam aplicados com rigor, considerando a natureza efêmera das videochamadas — onde os piores abusos acontecem — e a escala da plataforma, que armazena trilhões (com “t” mesmo) de mensagens de mais de 150 milhões de usuários.
Isso não significa que não devemos fiscalizar e cobrar ações da empresa. Tampouco que denunciá-la, como fez a Rede Globo, seja enxugar gelo, no sentido de que agora as pessoas procurarão outros lugares para continuar cometendo suas ilicitudes.
Sempre haverá “outro lugar”. Acontece que o Discord é um lugar proeminente, ao alcance de qualquer um, inclusive crianças e adolescentes, que facilita o falar com estranhos e, em muitos casos, opera como uma grande armadilha para pessoas vulneráveis que não deveriam estar ali.
A Rede Globo veiculou a reportagem do Discord na antevéspera da votação do PL das fake news, que a emissora apoia e que acabou sendo adiada. Não deve ter sido coincidência. De qualquer maneira, o caso do mau uso do Discord é um forte argumento a favor da necessidade da regulação.
Sou pai, já tinha ouvido falar de Discord, mas não sabia bem o que era. Agora vou ficar atento.
A matéria que eu escrevi em janeiro de 2020:
“Em março do ano passado, o Twitter alterou suas normas de conduta na rede – o que outras plataformas, como Instagram, Facebook e LinkedIn fazem esporadicamente. Dessa vez, a mudança não implica na mudança de emojis ou na escolha de nomes de perfil.
‘Em 2019, o Twitter silenciosamente mudou seus termos de serviço para permitir discussões sobre ‘atração por menores’ com a condição de que ‘eles não promovam ou exaltem a exploração sexual infantil de forma alguma’. Os especialistas em proteção infantil e prevenção de abusos não foram consultados, porque nunca teríamos endossado essa mudança”, publicou no próprio Twitter o criminologista australiano Michael Salter. (https://twitter.com/mike_salter/status/1212888057252171776)
Segundo ele, que é coordenador do Organized Abuse, site com informações sobre abuso para profissionais, vítimas e sobreviventes, a brecha na política do Twitter foi aberta a pedido de psiquiatras forenses, que “queriam um fórum para esse grupo discutir suas questões”.
Em uma série de tweets, Salter mostra como a situação é perigosa. “É comprovadamente inseguro promover conversas públicas não monitoradas entre grandes grupos de pedófilos. Os desejos sexuais e a inclusão social dos pedófilos foram priorizados pelo Twitter em detrimento da segurança das crianças na plataforma ou na comunidade. No ano passado, as redes de pedofilia no Twitter explodiram”, diz ele.
Salter põe em dúvida se mesmo denúncias feitas vão adiante. “Hoje, precisei denunciar um usuário que afirmou ser atraído por crianças, defende o contato físico inapropriado com elas e tem uma imagem dele com um menor como foto de perfil. Não tenho certeza se o Twitter vai tomar medidas contra esse usuário, e muito menos se vai encaminhar a denúncia aos serviços de proteção à criança e às autoridades policiais.” (…)
Segundo estatísticas da Internet Watch Foundation (IWF), órgão de vigilância contra abusos online do Rei no Unido, nos últimos três anos, 49% dos vídeos, links e imagens achados em mídias sociais, mecanismos de busca e serviços em nuvem se originaram no Twitter – quase 1.400 casos de um total de 2.835 incidentes reportados. Cada registro, por sua vez, pode representar centenas ou milhares de imagens ou vídeos, já que são, na verdade, links para sites de abuso infantil. O mais grave: todo o material encontrado pela IWF estavam na web aberta, ou seja, as imagens e os vídeos já haviam passado pelos filtros das empresas de tecnologia (incluindo o Twitter) e estavam disponíveis para qualquer um clicar e navegar à vontade. E os números não param de crescer: 742 casos registrados em 2016, 1.016 em 2017 e 1.077 em 2018. Esse fato é ainda mais assustador quando se constata que a IWF não tem acesso a grupos privados do Facebook ou a links trocados no Whatsapp.
John Carr OBE, secretário da Coalizão de Caridade das Crianças pela Segurança na Internet, que representa organizações como a NSPCC e a de Barnardo, disse: “É assustador e escandaloso que milhares de imagens de abuso de crianças estejam abertamente disponíveis nas mídias sociais e em buscadores para qualquer um ver. Por trás de cada relatório sobre uma imagem, existem centenas ou milhares delas por trás. A indústria precisa erradicar esse mal de suas bases e o Twitter, em particular, precisa arrumar sua casa.”
Em uma reportagem especial sobre o avanço da pornografia infantil no mundo, o New York Times (https://www.nytimes.com/interactive/2019/09/28/us/child-sex-abuse.html) levantou dados assustadores, envolvendo as empresas de tecnologia. Em 2018, elas registraram mais de 45 milhões de fotos e vídeos online de crianças vítimas de abuso sexual, o dobro de 2018. E a escalada dos números sugere que chegamos a uma situação insustentável: se em 1998 mais de três mil denúncias de imagens retratando abuso sexual infantil foram investigadas, no ano 2000 elas ultrapassaram a barreira dos cem mil e, em 2014, chegaram a um milhão. Em 2018, o número de casos concretos foi de 18,4 milhões, e esse universo pode ser muito maior: as denúncias incluíram mais de 45 milhões de imagens e vídeos sinalizados como retratando abuso sexual infantil.
(…) E o mais preocupante: pedófilos agem às claras nas redes sociais: os casos investigados na deep net foram apenas uma fração dos abusos reportados. O grosso da atividade vem de empresas de tecnologia americanas.
Uma das mais problemáticas é o Tumblr. Segundo o NYT, uma imagem de um homem estuprando uma criança ficou no ar na rede durante um ano, enquanto a polícia tentava, de todas as maneiras, contato com a rede social em busca de informações sobre a conta – o investigador se aposentou antes que o Tumblr respondesse.
Mesmo confirmando sua “plena cooperação com as autoridades” em comunicados à imprensa, na realidade não é isso o que acontece. Segundo o ex-promotor federal Hemanshu Nigam, que trabalhou por anos em casos de pedofilia e abuso infantil online, “há mais de duas décadas, as novas tecnologias criaram a melhor ferramenta para pedófilos desde a câmera Polaroid. Empresas de tecnologia não precisariam registrar denúncias de abuso online se eles fizessem seu trabalho”.
Essa parece ser a opinião das pessoas que lutam pelo fim da pornografia infantil online. O engenheiro Hany Farid, que trabalhou na Microsoft em 2009 desenvolvendo meios de detectar material de abuso sexual infantil, acredita que “as empresas sabiam que a casa estava cheia de baratas e estavam com medo de acender as luzes. Quando fizeram isso, era pior do que eles pensavam.” (…)
“Por mais de vinte anos, as empresas de tecnologia enterram a cabeça na areia quando se trata de pedofilia online. Pedófilos precisam de intervenção precoce, tratamento e apoio à mudança de comportamento. Eles não precisam de um fórum público para discutir sua atração sexual por crianças.”, resume o criminologista Michael Salter.”
“A Rede Globo veiculou a reportagem do Discord na antevéspera da votação do PL das fake news, que a emissora apoia e que acabou sendo adiada. Não deve ter sido coincidência.”
Não foi coincidência. Pegaram a exceção (crime praticado no app) e colocaram como se o app existisse só pra isso, pra enganar o já idiota telespectador que a assiste e causar mais pressão pra apoiar o PL da Censura.
Infelizmente, pra eles, o PL não teve votos necessários e, como é comum, foi adiado… típico tupiniquim “só vou por pra votação se eu for ganhar”.
Uma coisa nesse caso toda se revela curiosa? O ministro disse que o Google tinha que “dar igual propaganda a favor do PL da Censura” (pois, como sabido, se manifestou contrário em sua página inicial). A globe vai ter que dar igual propaganda contra? Porque só quem se manifesta contra é que tem que “mostrar o outro lado”?
É um absurdo atrás do outro.
E vai piorar.
André, tratar o telespectador como “idiota” é muita presunção da sua parte… As confabulações e teorias envolvendo a maior emissora do país já deram o que tinham que dar…
“Talvez seja utópico esperar que eles sejam aplicados com rigor, considerando a natureza efêmera das videochamadas”
Se empresas conseguem tirar vídeos do ar ou desmonetizá-los usando apenas algorítimos, acredito que seja completamente possível. A questão é que me parece não existir essa vontade, porque todas essas “redes sociais” foram construídas em cima de uma lógica que o usuário é responsável pelo conteúdo e ela é apenas um transmissor.
Acho que já passamos desse entendimento a décadas e se a plataforma não faz nada, a meu ver, ela é conivente. E não parece existir qualquer ação mínima para barrar esse tipo de coisa. :(
Lidar com direitos autorais deve ser mais fácil porque você tem um “modelo” a buscar, aí é possível extrair uma “assinatura digital” da música/filme e compará-la em tempo real com o que está sendo transmitido. E, mesmo assim, não sei até que ponto isso é viável em transmissões ao vivo.
De qualquer forma, provavelmente as plataformas podem fazer mais, mas isso implicaria em aumento de custos e/ou redução do engajamento.
Ser em real-time uma validação de um video acarretaria um custo muito alto pra plataforma
Esses tempos participava de uma transmissão ao vivo no YouTube e a pessoa compartilhou a tela e tocou um vídeo clip do computador dela. Em uns 3 minutos a transmissão foi encerrada por direitos autorais.
Que dá pra fazer, dá, mas o custo benefício pra empresa não deve ser interessante. Enquanto lucro valer mais que questões sociais, estamos fardados a medidas paliativas e atrasadas pra resolver essas questões, enquanto elas deveriam fazer parte das regras de negócio de uma empresa/produto.
O velho pânico koral de sempre…
Desculpe, mas o que você entende como “pânico moral”?
oi, julia. desculpe a demora em responder. fiz uma pesquisa recentemente sobre cultura digital e usei essa definição aqui de pânico moral:
“O imaginário que se perpetua sobre a relação entre jogos e violência tem um lugar de partida, e para isso é preciso compreender a ideia de “pânico moral”, de acordo com Khaled Jr (2018). Segundo o autor, o criador do conceito de “pânico moral” foi Stanley Cohen na década de 1960. Cohen desenvolveu uma reflexão sobre como a sociedade reage a determinadas situações e identidades sociais que presume representarem alguma forma de perigo (MISKOLCI, 2007). Assim como Alves e Khaled Jr., há vários autores que negam a existência dessa relação, como Cheryl Olson, Lawrence Kutner, John Colwell, Christopher Ferguson, entre outros.
Entre seus argumentos, eles afirmam que muitas pesquisas apresentam falhas em suas metodologias e por isso não são capazes de apontar com segurança uma relação causal entre jogos e agressão, assim como perda de sensibilidade diante da violência real.
Em compensação, alguns acadêmicos batem de frente com Alves, Khaled, e os outros autores acima mencionados. Bacelar (2006), por exemplo, refuta diretamente a tese de Alves (2004) no artigo “Existem outros propósitos nos jogos eletrônicos além da simples diversão?”. Neste trabalho, o autor oferece um olhar sobre os jogos eletrônicos e a violência que eles podem estimular, que é o que ele acredita e defende. Autores como Craig A. Anderson e Brad J. Bushman também acreditam na existência de uma relação perceptível de causa e efeito entre jogos eletrônicos e violência.
A controvérsia em torno dos efeitos dos jogos eletrônicos na personalidade humana se divide em antes e depois do massacre de Columbine, que foi amplamente explorado pela mídia do mundo todo. Na opinião de Khaled Jr. (2018), há uma demonização em torno dos jogos violentos em virtude de uma simplificação por parte da mídia que, segundo o autor, de maneiras questionáveis, apontou que o game Doom foi o responsável pela tragédia, pois os garotos Harris e Klebold jogavam esse jogo.”
essa passagem está nessa monografia aqui: CARNEIRO, Jordana da Silva. A publicidade no contexto da ilegalidade e da violência dos
jogos online: a ativação de marcas no GTA 5 roleplay. Trabalho de Conclusão de Curso,
Curso de Graduação em Comunicação Social / Publicidade e Propaganda, Instituto de Cultura
e Arte, Universidade Federal do Ceará, Fortaleza, 2022.
A discussão é sobre o Discord, não sobre jogos – violentos ou não. Eu sei o que é pânico moral. Esse conceito surgiu na década de 1960 e é tratado por McLuhan, e estudado em comunicação. Eu só não entendi o que isso tem a ver com um app de mensagens estar sendo usado pra distribuição de vídeos de mutilações de animais e conteúdo racista, misógino, homofóbico e nazista.
Eu fico pensando o que é que as pessoas que acham que foi “sensacionalismo” ou que é algo que “acontece em outro lugar” propõe. Deixar a situação como está?
É o cúmulo do imobilismo com argumentos.