Mão sobre um teclado iluminado.

Elementos da crítica tecnológica


16/8/18 às 15h07

Nota do editor: Mike Pepi mora em Nova York e é escritor freelancer de arte, cultura e tecnologia.


Minha tentativa de sintetizar os últimos anos do emergente campo da crítica tecnológica em um conjunto de princípios gerais recorrentes. Essas ideias pertencem a muitos pensadores diferentes. A contribuição aqui é principalmente destilá-los até o ponto essencial e juntá-los em um único lugar. Meu próximo passo é fornecer uma seção “leia mais” para textos e uma seção “problemas e exemplos”.

  1. O dado nunca é “cru”, imanente ou neutro. Sempre existe viés e distorção na captura e modelagem.
  2. A internet não é “uma coisa”. É uma rede distribuída de muitas camadas. Tratá-la como se fosse um monolito com uma lógica cultural central apresenta problemas.
  3. A tecnologia jamais pode ocupar um espaço fora do capitalismo. Com raras exceções, todo aplicativo, empresa ou inovação terá uma fonte de financiamento, um conselho e um balanço; e em todos os casos, a lógica do capitalismo inevitavelmente suplantará e controlará as ferramentas técnicas. O que identificamos como “tecnologia” é apenas capitalismo, mas mais acelerado e pior.
  4. Você não consegue resolver problemas sociais com uma solução técnica. Com frequência, aplicar corretivos técnicos trata apenas o sintoma e, ao falhar na correção da causa fundamental do problema, o torna pior.
  5. Se você não está pagando por uma plataforma, seus dados são o produto. A atenção é dados e os dados são uma commodity. Se algo é gratuito e conectado a uma rede, cuidado com as compensações.
  6. Plataformas não são instituições. Não as confunda.
  7. Descentralização é uma ilusão. Mesmo redes distribuídas impõem hierarquias de poder e influência.
  8. Software é “hard”. Interfaces computacionais, regras, interações e protocolos codificam certos comportamentos e, por isso, deveriam ser escrutinados e interrogados como parte do corpo político e da construção do ambiente.
  9. Algoritmos são feitos de pessoas. Eles são editores, eles conduzem e privilegiam certos valores e jamais são objetivos.
  10. Cuidado com o “acesso aberto”. A informação pode até querer ser livre, mas atente às consequências. Em algum lugar, um novo gatekeeper se beneficiará.
  11. Quando uma medida se torna um alvo, ela deixa de ser uma medida (a Lei de Goodhart revisitada). Ou, quando você super otimiza para um objetivo, você geralmente destrói a coisa ou o mercado que deseja ampliar. Ou, otimizar para um objetivo em um sistema fechado reforçará a produção daquele objetivo e cessará a entrega de qualquer conhecimento.
  12. A informação é a inimiga da narrativa. Quanto mais informação, mais questionável uma narrativa se torna.
  13. Crowdsourcing é uma corrida ao fundo do poço. Trabalho, conhecimento, educação, etc. são todos barateados quando forçados a concorrer em uma plataforma. Facilitar uma tarefa traz externalidades enormes.
  14. Seu cérebro não é um computador e seu computador não é um cérebro. Há coisas que não podem ser automatizadas e inteligências que as máquinas não podem ter.

Publicado originalmente em 15 de agosto de 2018, no blog de Mike Pepi.

Foto do topo: Soumil Kumar/Pexels.

Cadê os anúncios?

O Manual do Usuário é um projeto independente, que se propõe crítico e que respeita a sua privacidade — não há scripts de monitoramento ou publicidade programática neste site. Tudo isso sem fechar o conteúdo para pagantes. Essas características são vitais para o bom jornalismo que se tenta fazer aqui.

A viabilidade do negócio depende de algumas frentes de receita, todas calcadas na transparência e no respeito absoluto a você, leitor(a). A mais importante é a do financiamento coletivo, em que leitores interessados sustentam diretamente a operação. A assinatura custa a partir de R$ 5 por mês — ou R$ 9/mês para receber recompensas exclusivas:

Assine no Catarse

Newsletter

Toda sexta-feira, um resumo do noticiário de tecnologia, indicações de leitura e curiosidades direto no seu e-mail, grátis:


Nas redes sociais, notícias o dia todo:
Twitter // Telegram

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

8 comentários

  1. Acho que a tese que mais mal interpretada será é a 14: de fato, há inteligências que não podem ser algoritimizáveis ou objeto de aprendizado de máquina (e definitivamente o cérebro não é um computador), mas eu diria que praticamente todas as inteligências e competências que interessam ao capitalismo podem ser substituídas por robôs, maximizando ao infinito a extração de mais-valia pela precarização máxima do trabalho humano. A questão está justamente em explorar as alternativas fora do capitalismo ;)

  2. Uma dúvida: talvez não fosse o caso de traduzir “software is hard” por “software é concreto” (tendo a ver com “duro” mesmo)? além da brincadeira hardware/software, acho que aqui o sentido é o de tomá-lo como elemento tangível e material (ao invés de abstrato e difuso) do corpo político e social.

  3. 4. Resolver não mesmo, mas é inegável a possibilidade de agravar/melhorar um problema.

    9. A parte irônica é que, na verdade, os algoritmos costumam ser otimizados justamente para uma função objetivo. Os algoritmos são relativamente bem definidos, mas a questão é que isso não é aberto para ninguém…acredito que esse seja o maior problema e não o fato de pessoas definirem os objetivos deles.

    Eu vi uma palestra, mas ainda preciso ler esse livro, parece uma análise legal sobre o tema: https://weaponsofmathdestructionbook.com

    1. Soluções técnicas mudam o problema mas não o resolvem.

      Você precisa solucionar o problema de mobilidade nas cidades: desenvolve então uma solução sofisticada com metrô disponível para todo mundo, ônibus controlado por inteligência artificial, carros autônomos, etc. Alguns anos depois a dinâmica de preços da terra muda em função da oferta diferencial de infraestrutura quando comparada a outras regiões e você precisará de novas soluções técnicas para atingir a expansão urbana das pessoas que ou foram expulsas pelo aumento do preço da terra ou chegaram de outros locais.

      Claro que a automatização total ajudaria a resolver, mas nesse caso seria o glorioso e desejado FULLY AUTOMATED LUXURY SPACE GAY COMMUNISM (a.k.a. GLORIOSA URSAL) e teríamos que romper com o capitalismo de qualquer forma :)

  4. Interessante. Sempre bom quando o MdU traz uma nova referência.:)

    Não sei se concordo plenamente com o “mas mais acelerado e pior”.

    O 5 acho perigoso porque a construção da frase dá a entender que se você estiver pagando, está de boas. E eu acho que é bom ficar atento à isso.

    O 6 não compreendi bem, queria uma definição mais específica do que o autor considera plataforma.

    1. Se considerarmos a premissa 3 (“A tecnologia jamais pode ocupar um espaço fora do capitalismo”), o 5 faz todo o sentido. Se você está pagando, no mínimo o sistema é mais transparente/honesto contigo. O que é melhor que outro opaco e cheio de armadilhas tão complexas que a maioria das pessoas não consegue enxergá-las — vide Facebook e Google.

      O autor disse que pretende expandir e complementar todos esses tópicos e chegamos a um acordo de manter esta tradução atualizada. Espero que alguns desses itens, que realmente são bem abrangentes, se tornem mais objetivos com esses acréscimos.

      1. “Se você está pagando, no mínimo o sistema é mais transparente/honesto contigo.”

        Tenho minhas dúvidas quanto à isso. Sou meio cético, acredito que só estará claro realmente daqui 10 anos ou mais.