Elementos da crítica tecnológica
Nota do editor: Mike Pepi mora em Nova York e é escritor freelancer de arte, cultura e tecnologia.
Minha tentativa de sintetizar os últimos anos do emergente campo da crítica tecnológica em um conjunto de princípios gerais recorrentes. Essas ideias pertencem a muitos pensadores diferentes. A contribuição aqui é principalmente destilá-los até o ponto essencial e juntá-los em um único lugar. Meu próximo passo é fornecer uma seção “leia mais” para textos e uma seção “problemas e exemplos”.
- O dado nunca é “cru”, imanente ou neutro. Sempre existe viés e distorção na captura e modelagem.
- A internet não é “uma coisa”. É uma rede distribuída de muitas camadas. Tratá-la como se fosse um monolito com uma lógica cultural central apresenta problemas.
- A tecnologia jamais pode ocupar um espaço fora do capitalismo. Com raras exceções, todo aplicativo, empresa ou inovação terá uma fonte de financiamento, um conselho e um balanço; e em todos os casos, a lógica do capitalismo inevitavelmente suplantará e controlará as ferramentas técnicas. O que identificamos como “tecnologia” é apenas capitalismo, mas mais acelerado e pior.
- Você não consegue resolver problemas sociais com uma solução técnica. Com frequência, aplicar corretivos técnicos trata apenas o sintoma e, ao falhar na correção da causa fundamental do problema, o torna pior.
- Se você não está pagando por uma plataforma, seus dados são o produto. A atenção é dados e os dados são uma commodity. Se algo é gratuito e conectado a uma rede, cuidado com as compensações.
- Plataformas não são instituições. Não as confunda.
- Descentralização é uma ilusão. Mesmo redes distribuídas impõem hierarquias de poder e influência.
- Software é “hard”. Interfaces computacionais, regras, interações e protocolos codificam certos comportamentos e, por isso, deveriam ser escrutinados e interrogados como parte do corpo político e da construção do ambiente.
- Algoritmos são feitos de pessoas. Eles são editores, eles conduzem e privilegiam certos valores e jamais são objetivos.
- Cuidado com o “acesso aberto”. A informação pode até querer ser livre, mas atente às consequências. Em algum lugar, um novo gatekeeper se beneficiará.
- Quando uma medida se torna um alvo, ela deixa de ser uma medida (a Lei de Goodhart revisitada). Ou, quando você super otimiza para um objetivo, você geralmente destrói a coisa ou o mercado que deseja ampliar. Ou, otimizar para um objetivo em um sistema fechado reforçará a produção daquele objetivo e cessará a entrega de qualquer conhecimento.
- A informação é a inimiga da narrativa. Quanto mais informação, mais questionável uma narrativa se torna.
- Crowdsourcing é uma corrida ao fundo do poço. Trabalho, conhecimento, educação, etc. são todos barateados quando forçados a concorrer em uma plataforma. Facilitar uma tarefa traz externalidades enormes.
- Seu cérebro não é um computador e seu computador não é um cérebro. Há coisas que não podem ser automatizadas e inteligências que as máquinas não podem ter.
Publicado originalmente em 15 de agosto de 2018, no blog de Mike Pepi.
Foto do topo: Soumil Kumar/Pexels.
Acho que a tese que mais mal interpretada será é a 14: de fato, há inteligências que não podem ser algoritimizáveis ou objeto de aprendizado de máquina (e definitivamente o cérebro não é um computador), mas eu diria que praticamente todas as inteligências e competências que interessam ao capitalismo podem ser substituídas por robôs, maximizando ao infinito a extração de mais-valia pela precarização máxima do trabalho humano. A questão está justamente em explorar as alternativas fora do capitalismo ;)
Uma dúvida: talvez não fosse o caso de traduzir “software is hard” por “software é concreto” (tendo a ver com “duro” mesmo)? além da brincadeira hardware/software, acho que aqui o sentido é o de tomá-lo como elemento tangível e material (ao invés de abstrato e difuso) do corpo político e social.
Vou além: talvez manter o “hard”. Obrigado pelo toque!
4. Resolver não mesmo, mas é inegável a possibilidade de agravar/melhorar um problema.
9. A parte irônica é que, na verdade, os algoritmos costumam ser otimizados justamente para uma função objetivo. Os algoritmos são relativamente bem definidos, mas a questão é que isso não é aberto para ninguém…acredito que esse seja o maior problema e não o fato de pessoas definirem os objetivos deles.
Eu vi uma palestra, mas ainda preciso ler esse livro, parece uma análise legal sobre o tema: https://weaponsofmathdestructionbook.com
Soluções técnicas mudam o problema mas não o resolvem.
Você precisa solucionar o problema de mobilidade nas cidades: desenvolve então uma solução sofisticada com metrô disponível para todo mundo, ônibus controlado por inteligência artificial, carros autônomos, etc. Alguns anos depois a dinâmica de preços da terra muda em função da oferta diferencial de infraestrutura quando comparada a outras regiões e você precisará de novas soluções técnicas para atingir a expansão urbana das pessoas que ou foram expulsas pelo aumento do preço da terra ou chegaram de outros locais.
Claro que a automatização total ajudaria a resolver, mas nesse caso seria o glorioso e desejado FULLY AUTOMATED LUXURY SPACE GAY COMMUNISM (a.k.a. GLORIOSA URSAL) e teríamos que romper com o capitalismo de qualquer forma :)
Interessante. Sempre bom quando o MdU traz uma nova referência.:)
Não sei se concordo plenamente com o “mas mais acelerado e pior”.
O 5 acho perigoso porque a construção da frase dá a entender que se você estiver pagando, está de boas. E eu acho que é bom ficar atento à isso.
O 6 não compreendi bem, queria uma definição mais específica do que o autor considera plataforma.
Se considerarmos a premissa 3 (“A tecnologia jamais pode ocupar um espaço fora do capitalismo”), o 5 faz todo o sentido. Se você está pagando, no mínimo o sistema é mais transparente/honesto contigo. O que é melhor que outro opaco e cheio de armadilhas tão complexas que a maioria das pessoas não consegue enxergá-las — vide Facebook e Google.
O autor disse que pretende expandir e complementar todos esses tópicos e chegamos a um acordo de manter esta tradução atualizada. Espero que alguns desses itens, que realmente são bem abrangentes, se tornem mais objetivos com esses acréscimos.
“Se você está pagando, no mínimo o sistema é mais transparente/honesto contigo.”
Tenho minhas dúvidas quanto à isso. Sou meio cético, acredito que só estará claro realmente daqui 10 anos ou mais.