Cena do filme "Eu, Robô".

Twitter, torne os robôs da sua rede identificáveis


22/8/18 às 15h56

Qualquer um interessado em influenciar a opinião pública pagaria um punhado de dólares, feliz da vida, para amplificar sua voz. Governos, grupos políticos, empresas, comerciantes e simples trolls continuarão a gritar através de exércitos de bots — enquanto eles forem baratos. Os bots, ou robôs, custam menos que comprar espaço publicitário, são menos arriscados que uma rede de espiões, mais eficientes e menos propensos a falhas que criar 50 contas falsas manualmente. Se robôs pudessem ser identificados e etiquetados, a indústria de boataria sofreria um duro golpe. Aqui está como podemos fazer isso acontecer.

A Rússia adulterou a eleição dos EUA? Claro. É tão fácil. Os chineses, o 4chan, os republicanos e os democratas também. É claro que os oponentes da neutralidade da rede enviam robôs para dar a impressão de que são importantes. A indústria bélica, a indústria petroleira, o mercado financeiro, as fábricas de tabaco e o 1% mais rico… Todos que são impopulares, mas têm recursos, aproveitam a oportunidade para se fazerem ouvir.

Se você não faz parte da minoria poderosa tentando parecer democraticamente relevante, você provavelmente concorda que a Tecnologia da Informação tem um problema com robôs. Não são apenas os russos que se envolvem na manipulação do discurso público. Todo mundo que quer ampliar sua propaganda usa robôs. É hora de acabar com isso. O autor de ficção científica Isaac Asimov definiu três leis para robôs:

  1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.
  2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.
  3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Hoje, robôs de informação estão escondidos atrás de uma tela, programados para nos fazer acreditar que são humanos. Isso exige uma quarta lei. A cultura popular tem uma ótima resposta para isso: “どうもありがとうミスターロボット, 秘密を知りたい.” Está ligeiramente codificado em japonês. Ela diz: “Obrigado robô, queremos saber o seu segredo.” Que segredo?

Finalmente chegou a hora (segredo, segredo, eu tenho um segredo)
Para jogar fora essa máscara (segredo, segredo, eu tenho um segredo)
Agora todo mundo pode ver (segredo, segredo, eu tenho um segredo)
Minha verdadeira identidade…

Para garantir que os robôs sigam as três primeiras regras, precisamos ter certeza de com quem estamos interagindo: os robôs devem ser identificáveis.

Facebook vs. Twitter

Os robôs não são apenas um problema nas redes sociais e não são o único problema que temos com as redes sociais. Mas as redes sociais ocuparam um lugar central na filtragem do noticiário e na formação da opinião pública e, dentro das redes sociais, os robôs são um amplificador central que precisa ser abordado primeiro.

O Facebook reconheceu que eles desempenham um papel na formação da opinião pública. Eles reagiram anunciando que planejam reduzir o alcance de conteúdo das organizações de notícias. Seu plano é avaliar e barrar notícias através da mesma lógica que os colocou em apuros: “deixem as pessoas decidirem”. Você ouve aquele barulho crepitante? É o 4chan logando no Facebook, esperando para votar.

Cartoon brincando com outro clássico da revista The New Yorker.
“Na internet, ninguém sabe que você é um robô.”

Enquanto o Facebook tenta corrigir suas falhas de spam e tenta evitar sua responsabilidade política por futuras catástrofes, o Twitter abordou o problema dos robôs de frente. Em janeiro, eles baniram 58 mil contas que supostamente são robôs russos e informaram a base de usuários de que algumas das contas que eles seguiam eram robôs russos.

Menino controlando o robô à distância.

Alguns ridicularizaram o Twitter pelos falsos-positivos que receberam. E, como em tantas outras vezes, os velhos campos “Quem decide?” “E se eles punirem os errados?” “Os hackers vão ficar mais inteligentes” lançaram seus mesmos clichês fatalistas àqueles que decidem assumir a responsabilidade. Felizmente, o Google não trata a otimização para buscadores (SEO) como uma batalha perdida.

Aqui está uma grande dose de filosofia prática para você: Você sabe quem decide? Aqueles que assumem a responsabilidade. E aqueles que decidem e assumem a responsabilidade moldam seu destino. Para aqueles que esperam para ver, outras pessoas decidirão. Este é um momento em que o Twitter pode criar um terreno precioso sobre um Facebook aparentemente invencível.

Selo de verificação para robôs?

Até agora, o Twitter focou em robôs russos. Todos os robôs devem ser identificados. Robôs políticos, robôs comerciais, robôs financeiros, robôs trolls, robôs divertidos, robôs de ajuda, sexbots, robôs religiosos, bots bons, ruins, zangados, tristes e científicos. Precisamos saber quem está falando conosco e com quem estamos conversando. Como?

O Twitter tem um selo para contas verificadas. Que tal um selo para robôs? Não é difícil de fazer. No Twitter de hoje, humanos, botôs e feeds parecem idênticos. Adicionar um selo para robôs e dar a eles uma tipografia robótica diferente poderia fazer maravilhas. Com essa fonte tipo máquina e um selo, eles se destacariam, e máquinas e humanos se tornariam discerníveis:

Comparativo do app do Twitter convencional e da alteração com posts de robôs identificados.
Esboço do Twitter com a identificação de posts feitos por robôs.

Além de uma simples identificação de “bot-or-not”, o Twitter deveria oferecer informações detalhadas sobre o porquê ele assumir que um robô é um robô e um humano é humano. Deve incentivar os robôs, humanos e feeds a se identificarem:

Detalhes nos tweets que pautariam o Twitter na identificação de humanos e robôs.
Detalhamento dos sinais usados pelo Twitter para identificar humanos e robôs.

Como você pode ver nesses esboços, há uma série de fatores de identificação necessários para verificar automaticamente uma conta como sendo humana. Entende-se que qualquer segurança automatizada pode ser enganada.

Encareça o spam

A ideia aqui não é tornar a trapaça impossível. A ideia é torná-la custosa. Programar um exército de robôs em um sistema sem freios e contrapesos é economicamente interessante. Isso acontece porque é barato.

Se você tiver que criar dispositivos mecânicos que insiram informações, seu custo por spam aumentará exponencialmente. Se você usa mão-de-obra humana muito barata em combinação com o chamado software de persona, infelizmente, você ainda pode estar em uma faixa economicamente viável. Mas a probabilidade de erro humano aumenta. Humanos mal pagos que são empregados para manipular informações cometem erros. Os seres humanos aumentam o risco de um vazamento. E, em comparação com os exércitos de robôs executados por máquinas, os seres humanos sempre serão muito mais caros.

Diretrizes mais rígidas para robôs não apenas tornarão mais caro postar. Isso também elevará o custo quando você for pego. O uso de um robô que finge ser humano deve resultar no encerramento da conta e em restrições e exposição das pessoas que rodavam essas contas. A trapaça precisa doer. Tem que ser arriscada o suficiente para que os trapaceiros fiquem nervosos e cometam erros.

Como identificar um robô

Esboço de um tweet enviado por robô identificado como tal.
Fonte diferente para tweets postados por robôs.

A partir desta lógica relativamente simples de “tornar os robôs reconhecíveis”, você pode derivar uma série de verificações e balanços que tornam o spam não impossível, mas caro. Há muitas maneiras pelas quais as máquinas podem nos imitar, mas em algum momento as máquinas que nos imitam se tornam mais caras do que os humanos trapaceando. Aqui estão alguns requisitos que aumentarão o custo de spam:

  1. Exija que as informações sejam digitadas manualmente: a) Mensure se o toque humano for usado em dispositivos de toque. b) Verifique quanto tempo leva para digitar uma mensagem. c) Leve em consideração quantas correções foram necessárias para completar a mensagem. d) Mensure o movimento orgânico durante a edição. Se feito corretamente, pode ficar muito caro em termos de tempo e infraestrutura para enganar o sistema.
  2. Exija que os tweets sejam postados à mão: verifique se um tweet foi postado automaticamente ou manualmente. Ofereça a possibilidade de comprovar a autenticidade através da impressão digital, face ou digitalização da íris. As postagens não precisam ter impressões digitais todas as vezes. De vez em quando é o suficiente.
  3. Verifique se há métricas de tempo humano: Os humanos precisam dormir. Humanos têm limites físicos para o quanto eles podem postar dentro de um certo período de tempo.
  4. Verifique se há erro humano: Humanos cometem erros e excluem os tweets. Alguns bots postam-e-apagam-postam-e-apagam para parecerem mais humanos. Uma medida simples de tweets publicados contra os apagados pode servir como guia se uma conta está na faixa humana ou robótica.
  5. Padrões linguísticos: Os seres humanos têm peculiaridades quando falam. Seu idioma é tão único quanto uma impressão digital. O processamento de linguagem está bastante avançado hoje. Ele é usado principalmente para nos enganar, mas também pode ser usado para adicionar outros obstáculos àqueles que abusam da tecnologia.
  6. Controle Social: Um botão de feedback oferece a oportunidade para a intervenção humana no caso de um robô passe ileso pela detecção automática ou uma conta seja falsamente acusada de ser robótica. O processo de feedback deve ser inteligentemente concebido para que seja ainda mais caro para ser manipulado do que o processo de postagem regular.
  7. Impressão digital técnica: O Twitter tem seu número IP, o número identificador do seu dispositivo e toneladas de dados analíticos. O mesmo maquinário que usa seus dados pessoais para vender sabão em pó e torradeiras pode ser usado para avaliar a probabilidade de uma conta ser um robô. Os usuários que compram coisas são menos propensos a serem robôs. E se eles comprarem coisas para parecerem mais confiáveis, bom, então o preço do spam sobe.

Este é um esboço feito em dez anos e uma tarde. Algumas dessas medidas podem ser implementadas em alguns dias, outras levam tempo. É um rascunho rápido como presente nosso para o Twitter. Há muito espaço para melhorias. A lista está incompleta e não temos dúvidas de que a equipe de design do Twitter fará um trabalho muito melhor do que o nosso.

Conclusão

Para garantir que os robôs nos sirvam e não o contrário, precisamos ter certeza de que sabemos quando falamos com robôs e quando eles falam conosco. As três leis de Asimov não fazem sentido se não conseguirmos distinguir humanos de robôs. Identificar robôs desativará um amplificador central de spam nas redes sociais e em outros lugares.

Sabemos que a equipe de design do Twitter lê o nosso blog e esperamos que a liderança do Twitter aprecie a intenção deste post. Além disso, esperamos que eles se atrevam a identificar robôs, mesmo que seu número de usuários ativos diminua significativamente. Acreditamos que o terremoto que uma súbita identificação de todos os bots causará terá um impacto profundo não apenas no Twitter, mas em todas as redes sociais. O efeito a longo prazo será um aumento na confiança. Se isso for feito corretamente, ele acionará muitas contas de robôs e feeds para se identificar.

Entende-se que os robôs não são apenas um problema nas redes sociais e eles não são o único problema que temos com as redes sociais, mas eles são um amplificador barato de muitos problemas que temos hoje. Livrar-se deles marcará um golpe precário para os trapaceiros e criminosos que estão tentando bagunçar nossas mentes e vidas e o nosso futuro.

Para quem não conhecia: a ilustração é uma brincadeira nossa com o famoso cartoon de Peter Steiner na The New Yorker em 5 de julho de 1993.


Publicado originalmente no iA Blog em 24 de janeiro de 2018.

Foto do topo: 20th Century Fox/Divulgação.

Cadê os anúncios?

O Manual do Usuário é um projeto independente, que se propõe crítico e que respeita a sua privacidade — não há scripts de monitoramento ou publicidade programática neste site. Tudo isso sem fechar o conteúdo para pagantes. Essas características são vitais para o bom jornalismo que se tenta fazer aqui.

A viabilidade do negócio depende de algumas frentes de receita, todas calcadas na transparência e no respeito absoluto a você, leitor(a). A mais importante é a do financiamento coletivo, em que leitores interessados sustentam diretamente a operação. A assinatura custa a partir de R$ 5 por mês — ou R$ 9/mês para receber recompensas exclusivas:

Assine no Catarse

Newsletter

Toda sexta-feira, um resumo do noticiário de tecnologia, indicações de leitura e curiosidades direto no seu e-mail, grátis:


Nas redes sociais, notícias o dia todo:
Twitter // Telegram