Bicicletas e patinetes nas calçadas, carros autônomos na vizinhança e a inevitabilidade do Algoritmo

Bicicleta compartilhada da Yellow vandalizada.

Em uma famosa imagem dos protestos da Praça da Paz Celestial em 1989, um homem confronta uma fila de tanques de guerra para protestar contra um governo autoritário que declarou lei marcial em parte para afirmar seu controle sobre o espaço público. Em 2018, no Arizona, Estados Unidos, outro homem se impôs:

Charles Pinkham, 37, estava parado na rua em frente a um veículo da Waymo, em Chandler, em uma noite de agosto, quando foi abordado pela polícia.

“Pinkham estava muito intoxicado e seu comportamento variava de calmo a agressivo e agitado durante o meu contato com ele”, escreveu o policial Richard Rimbach em seu relatório. “Ele afirmou que estava cansado dos veículos da Waymo rodando em sua vizinhança e aparentemente achou que a melhor ideia para resolver o problema era ficar parado na frente desses veículos.”

Seu protesto não foi inteiramente em vão:

Funcionou, aparentemente. A funcionária da Waymo dentro do carro, Candice Dunson, optou por não fazer um boletim de ocorrência e disse à polícia que a empresa preferia parar de transitar com seus veículos na região.

Um porta-voz da empresa “contestou as alegações de que a Waymo estava tentando evitar publicidade negativa ao optar por não apresentar uma acusação criminal”, mas certamente ela parece admitir que o protesto é uma reação compreensível às suas atividades. O artigo do New York Times linkado acima relata pessoas forçando os veículos Waymo a saírem da pista, dirigindo de maneira errática para confundi-los, gritando com eles, atirando pedras neles e ameaçando os funcionários dentro dos carros com armas diversas. A empresa e seus apoiadores estatais preferem que esses atos pareçam incidentes petulantes de rancor perpetrados por “vândalos” e “criminosos agindo sozinhos” do que atos de resistência política combatidos com perseguição do Estado. Parece que a Waymo não tenta responsabilizar os manifestantes porque não está interessada em ser responsabilizada pela maneira como ela se impôs a uma população, como o seu sistema funciona ou como os benefícios do sistema são distribuídos.

A situação é semelhante à de empresas como a Bird, Yellow e Grin, que unilateralmente entram em uma cidade e entopem as ruas e outros espaços públicos com bicicletas e patinetes privados para clientes pagantes ao mesmo tempo em que pioram a vida de todos os demais. Com poucos recursos contra isso, as pessoas expressam sua resistência jogando os patinetes no mar e em rios, escondendo-os, esmagando-os, ateando fogo neles ou destruindo-os da maneira que for possível.

De uma forma perversa, isso é inteiramente compatível com o modelo de negócio dos patinetes, o que sugere que nenhum patinete privado vale muita coisa — você pode literalmente jogá-los na rua como se fossem lixo. O que é valioso para as startups é o sistema para coordená-los. O patinete, como o carro sem motorista ou o robô de entrega ou a proliferação de cofres para chaves do Airbnb acorrentados a grades (também alvo de ataques, embora neste caso o Estado esteja do lado dos moradores locais) são sinais inconfundíveis de que uma espécie invasora encontrou uma fundação no ambiente e a privatização forçada que ela representa continuará ocorrendo apesar dessas estratégias de colonização descaradamente ad hoc, que deixam seus rastros de depredação para quem quiser ver na paisagem urbana.

Quando uma empresa inunda um espaço com seus patinetes, ela está jogando sua rede e seus algoritmos sobre as regras existentes que antes governavam como esse espaço era usado e talvez até compartilhado. Cada patinete é um ponto de vedação em um ato de cercamento legal, assim como todos os quartos do Airbnb e carros da Uber (ver Uberland: How Algorithms Are Rewriting the Rules of Work, de Alex Rosenblat e ainda sem tradução no Brasil, comentado aqui). Mas não é tanto que um bem comum esteja sendo privatizado; é mais que todo um mapa esteja sendo redesenhado. Uma compreensão diferente do espaço está sendo mapeada, do território como um produto de conexões em rede, de ligações condicionais e de arenas espontâneas para a competição em vez de uma questão de contiguidade geográfica. O espaço não é uma formação fixa, mas é concebido novamente em termos de disponibilidade, com direitos redistribuídos nos termos de quem pode vender o que e quando.

Em outras palavras, mapas são substituídos pelos mercados. Quando um sistema logístico de propriedade privada é capaz de se impor em um território, ele altera o uso e o valor de toda a infraestrutura existente e reclassifica todas as partes do mesmo. O Airbnb reivindica a estrutura inteira do aluguel de propriedades; os patinetes reivindicam todas as calçadas de uma só vez. E seus cálculos alienígenas do que esses espaços valem e como eles deveriam ser usados se tornam algo que todos devem sustentar, mesmo aqueles que não têm a intenção de andar de patinete ou de transformar suas casas em pensões. Esses sistemas não são sobre conveniência individual ou empreendedorismo, e apenas indiretamente, se muito, são sobre “segurança” — eles são principalmente sobre controle, contenção e exploração de cima para baixo. Mas eles são capazes de se racionalizarem não apenas fazendo com que algumas pessoas comprem suas ideias às custas dos outros, mas representando-se como inescapáveis.

“Conexão” online já se referiu a formas de comunicação; agora, é entendido como um meio de totalização digital, tipicamente eufemizado como objetos se tornando “smart” (“inteligentes”). Cada objeto de coleta de dados requer mais inteligência de mais objetos, para que os dados coletados possam ser mais úteis e lucrativos, possam ser adequadamente contextualizados dentro da operação de outros objetos. Você não pode optar se aceita ou não esse tipo de conexão. Em breve, você não poderá comprar um carro que não esteja enviando todas as informações de qualquer lugar para onde você vá para sabe-se lá quem ou uma geladeira que não esteja monitorando seu interior e o transmitindo à Amazon. Mas você pode tentar encaixar sua vida mais harmoniosamente nesse sistema: torna-se natural e não alarmante ter um dispositivo corporativo de escuta em sua casa para facilitar suas compras e monitorar seu comportamento de modo que profissionais do marketing possam classificá-lo melhor. Dizem até que as pessoas pagam pelo privilégio.

Foto de divulgação do carro autônomo da Waymo.
Foto: Waymo/Divulgação.

A ubiquidade dos dispositivos conectados e modelos de negócio vorazes convida à suposição semi-paranóica e semi-utópica de que esses vários atos de cercamento legal algorítmico e vigilância não regulamentada já coagularam no “Algoritmo” — a ideia vernacular de que nossas vidas são cada vez mais governadas por uma força inescrutável e abrangente que só podemos interpretar parcialmente e afetar indiretamente. Enquadrado dessa maneira, o Algoritmo parece muito com a astrologia. Lauren Oyler, citando As estrelas descem à Terra, de Adorno, escreve neste ensaio na Baffler que “a astrologia representa o desejo de uma ‘autoridade abstrata’ benevolente que criaria a ilusão de liberdade, que, se você escutar seu horóscopo, ‘consiste no indivíduo assumir voluntariamente o que é inevitável de qualquer maneira’”.

É isso que “o Algoritmo”, como amálgama de todos os sistemas tecnológicos impostos a nós, representa também, uma fusão semelhante do que é voluntário com o que parece inevitável. Podemos consultar “o Algoritmo” através de vários meios (o que está no topo do meu feed agora?), como se consultaria um mapa astral ou um horóscopo, para experimentar um momento de distração em que os vários sistemas especializados em que estamos enredados parecem se resolver em algo concreto e pessoal, uma previsão de nós mesmos em que podemos investir com esperança ou da qual podemos rir. Podemos superestimar a nossa avaliação da capacidade do Algoritmo para que apreciemos quantas vezes ele parece estar errado. Ele me conhece, mas não muito.

Muitos se satisfazem em colaborar com o “Algoritmo” nesses termos, como se realmente fosse astrologia e não um produto da economia política — o que Shoshana Zuboff chama  de The Age of Surveillance Capitalism, ou “a era do capitalismo de vigilância”, título do seu livro ainda sem tradução no Brasil — e como se suas promessas individualizadas de conveniência só precisassem ter a nossa confiança para serem verdadeiras. Sim, o Algoritmo é um sistema opaco e todo-poderoso que controla as nossas vidas, mas no fundo ele só quer nos ajudar a entender o que é possível e fazer o melhor possível. Essa concepção, que o torna mais amigável e mais onipotente, pode ser mais fácil de se conviver do que ver os sistemas como uma “sociedade da caixa-preta”, como os teorizou Frank Pasquale. Em vez de uma questão acerca de empresas impondo vigilância e saindo impunes no lucrar com as nossas vulnerabilidades, o controle algorítmico se torna um mistério amplamente benevolente, um destino tão obscuro quanto o nosso escrito nas estrelas.

Talvez seja por isso que a maioria das pessoas não se incomode em bradar contra o cosmo, tacar pedras nos carros da Waymo, jogar patinetes da Yellow em córregos. Atacar essas manifestações concretas do Algoritmo pode parecer uma maneira direta de tentar responsabilizá-lo, mas isso não o prejudica em nada. O Algoritmo opera em escala supra-humana; ele processa protestos como apenas mais dados. Isso faz dele um deus a quem você não precisa orar ou temer; ele coleta suas preces automaticamente. Ainda assim, você tem a opção de aplacar o Algoritmo com o equivalente a atos de superstição digitalizada, curtindo posts como uma maneira de bater na madeira ou jogar sal sobre seu ombros só por precaução. Pode ser uma forma de Aposta de Pascal: você não estaria se arriscando mais ao não acreditar no Algoritmo? É melhor compartilhar os dados do Fitbit com todo mundo para ajudar no avanço da medicina; é melhor compartilhar esse histórico de navegação web e dados localização “para melhorar a sua experiência”.

Normalmente, a nossa tolerância para o Algoritmo é representada como uma troca simples, como se ela fosse uma escolha calculada. “Em troca da vigilância”, escreve Jennifer Szalai em uma crítica do livro de Zuboff, “obtemos conveniência, eficiência e conexão social”. Isso nos permite aceitar um modelo de negócio que Zuboff, nas palavras de Szalai, considera “radical demais para ser tomado como inevitável”.

Em sua crítica do livro para o LARB, Nicholas Carr vai um pouco além, enquadrando a submissão ao capitalismo de vigilância menos como uma troca universal do que uma questão de estados de mente opostos. Nem todo mundo o encara como inevitável, mas “parece óbvio que muitas pessoas experimentam o capitalismo de vigilância menos como uma prisão, onde sua agência é restrita de maneira nociva, do que como um resort com tudo incluso, onde sua agência é restrita de maneira agradável”.

Mas parece provável que não haja dois tipos de pessoas — aqueles que veem o capitalismo de vigilância como uma prisão e aqueles que o veem como um resort —, mas que muitos de nós o experimente como ambos, não alternadamente, mas simultaneamente. O Algoritmo serve como uma espécie de metáfora para a própria sociedade, que condiciona e limita nossos desejos ao mesmo tempo em que os torna significativos, desejáveis em primeiro lugar. A prisão-resort não restringe a agência, mas torna-se a condição particular que torna a agência possível em nossa cultura neste momento. Isso não significa que não se possa resistir a isso ou que se deve tomá-lo como garantido, mas o grau em que parece natural e inevitável permite que o Algoritmo funcione como ideologia, como uma estrutura de concessão de identidade que molda a subjetividade. Como nos vemos e o que podemos fazer no mundo não precede as circunstâncias de como o nosso comportamento é registrado socialmente e de como recebemos retorno sobre isso; derivam deles.

No mínimo, a ideia de que estamos sob vigilância constante, dentro de um sensorium que pode ser modulado em antecipação aos nossos próximos movimentos, obscurece distinções entre desejos internos e previsões e manipulações externas. Também está borrada a distinção entre o eu individualizado e o eu como parte de uma massa maior co-criada e contingente de quem se associa ou se ajusta a um dado demográfico estatístico. Escrevendo em Art in America sobre um filme de Xu Bing feito inteiramente de imagens de câmeras de circuito interno, Ava Kofman argumenta que o filme constitui “uma nova forma de narrativa que captura as contradições da tecnologia de vigilância, que ao mesmo tempo aponta com precisão as identidades pessoais e as submerge em uma massa de médias de outros pontos de dados”. O novo tipo de narrativa reflete um tipo diferente de subjetividade, uma vida que pode ser experienciada e produzida de muitos pontos de vista diferentes simultaneamente, através de muitos avatares diferentes ou através de outras pessoas de maneira vicária. Aponta para como novas formas de vigilância “não apenas nos tornam vulneráveis ​​à punição, mas também produzem novos prazeres, identidades e desejos”. Isso me lembra da descrição de Oyler de “amantes da astrologia”, que “hoje sentem menos necessidade de mascararem sua auto-obsessão; eles apreciam isso, se gabam disso nas redes sociais, até mesmo afirmam isso como algo político”.

Duas pessoas olhando para uma parede repleta de câmeras de vigilância.
Foto: Burst/Pexels.

Acredita-se que as histórias de nossas vidas seriam contadas através de imagens de câmeras de vigilância ou “mostrando os recibos” de várias maneiras. Em uma conversa no Edge.org sobre “como a tecnologia muda o nosso conceito do eu”, o historiador de ciência Peter Galison aponta para o desenvolvimento de sistemas cibernéticos de mísseis teleguiados de Norbert Weiner como chave: “Ele ensinou uma lição incrivelmente nova para as pessoas, que mesmo na ausência de qualquer compreensão concreta da vida interior de, digamos, pilotos de bombardeiros, apenas por suas ações exteriores você poderia antecipar o que eles fariam no futuro e, neste caso, disparar um projétil e derrubar o avião”. Isso racionaliza a construção de uma visão behaviourista do eu em outras formas de tecnologia: o que importa são apenas os dados que podem ser coletados de um sujeito; o que eles pretendem ou dizem que querem é ruído irrelevante. E essa tecnologia redefine o nosso “conceito do eu” como algo que se extrai dos dados e não algo que intencionalmente produz dados.

A ascensão da cibernética aponta para um eu pós-intencional, ou o que comentei aqui como um eu “pós-autêntico”. Não importa se suas ações correspondem às suas intenções, uma vez que suas intenções não importam e são descartadas de antemão e de muitas maneiras essas intenções apenas seguem o que você e outros demográfica ou estatisticamente semelhantes a você têm sistematicamente tido permissão para fazer de qualquer forma. (Acredito que você pode saber o nível em que o pós-autêntico chega pela urgência com que a autenticidade é pregada e reivindicada. Padrões de autenticidade são como lápides.)

A resistência a esse tipo de identidade através dos meios tecnológicos que a possibilitam — sejam práticas de redes sociais, o comércio hiperpersonalizado ou a conveniência “smart” — é outra expressão das contradições da subjetividade vigilante. A tensão nessa forma de subjetividade pode estar nos empurrando para o que Adorno chama de pseudo-racionalidade, a “zona crepuscular entre a razão e os impulsos inconscientes”. Adorno via a pseudo-racionalidade como causa e efeito de formas autoritárias de controle. Poderíamos interpretar sua ascensão hoje em termos semelhantes, uma manifestação da ascensão do autoritarismo tecnológico que Zeynep Tufekci descreve aqui e aqui, e Fred Turner descreve aqui. Tufekci enfoca a vigilância do Estado, a disseminação de desinformação, polarização e microssegmentação e “arquitetura de persuasão”. Turner aponta para a forma como a interatividade foi implantada como controle social. As tecnologias de comunicação, ele argumenta, prometiam reverter a conformidade da massa que supostamente produziu o fascismo: “se a era da mídia de massa nos deu Hitler e Stalin, acreditavam eles, a internet devolveria a nossa individualidade. Finalmente poderíamos acabar com a hierarquia, a burocracia e o totalitarismo. Finalmente, poderíamos apenas ser nós mesmos, juntos”. Mas, em vez disso, elas revelaram como o individualismo e a autoexpressão — transformados em personalização preditiva, ou embalados como a pílula vermelha da extrema direita — poderiam ser úteis da mesma forma para os fascistas.

É fácil ver a pseudo-racionalidade como algo de que outras pessoas são culpadas, usar o conceito para ajudar em projetos privados de recusa. Quanto mais eu vejo a pseudo-racionalidade das outras pessoas, mais racional eu pareço a mim mesmo. Claro, isso é precisamente a pseudo-racionalidade em ação. Mas acho que o conceito dialoga com a duplicidade com a qual vivemos e como as atuais tecnologias de mídia parecem nos dividir contra nós mesmos em nosso desejo de sermos livres, mas conectados, ativamente engajados e passivamente entretidos. Elas revelam facetas de nós mesmos que devem, mas não podem coexistir. Assim, a pseudo-racionalidade compreende não apenas a crença na astrologia ou no Algoritmo, mas também o impulso de jogar um carro da Waymo para fora da pista ou atacar pessoas em espaços de comentários na web ou se submeter a “detox digitais”. A pseudo-racionalidade está, ao mesmo tempo, ativamente procurando por aquilo que você deseja consumir e deixando que os feeds algorítmicos assumam o controle. Acima de tudo, ela sabe quando um se tornou o outro.


Publicado originalmente na revista Real Life em 18 de janeiro de 2019.

Foto do topo: Aline Nadai.

Acompanhe

Newsletter (toda sexta, grátis):

  • Mastodon
  • Telegram
  • Twitter
  • Feed RSS

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

3 comentários

  1. É interessante como ressalta que hoje, o que importa na tecnologia se restringe basicamente aos dados, em como usa-los para fazer com que continuemos sedendo dados, ensinando, melhorando e adaptando os algoritmos! O foco é em como podemos ajustar cada vez mais os processos autônomos ou nem tão autônomos assim.

    Leitura cansativa, porém extremamente válida!

  2. Este texto sinceramente cansa a partir de um ponto. É bom para como muitos que acompanham aqui, fazer uma leitura sobre o ponto de vista da vigilância tecnológica e abuso do mercado.

    Para mim, há partes que eu precisaria ter uma noção maior de sociologia e tecnologia para entender. Mas bele.

    Fora isso, um complemento: creio que de a partir do momento que o ser humano, outrora nômade e caçador, criou o conceito de “privado”, tudo começou a piorar.

    Talvez o ser humano seja o animal menos evoluído, dado que se privou da relação com a natureza de forma mais “acomodada” (caçar, descansar, ocupar) e quis tentar impor conceitos próprios que desvirtuaram a construção original deste planeta, e quem sabe também, do universo. Mas é um pensamento negativo comum.

    1. Adendo: a ocupação de espaços públicos hoje não é só dos patinetes e bicicletas. É da barraquinha de café-com-leite. Do carrinho de cachorro quente. Do triciclo com brigadeiro gourmet. Da banca de jornal e do dono da biqueira de droga. E daqui a pouco, quem sabe, tudo tem app próprio (ou não precisa, dado que o ser humano vai intuitivamente usando as ferramentas já existentes, como whatsapp).

      Só para sair um pouco da linha apenas da tecnologia e ver também o ponto social.

      Quando a Yellow começou a aparecer em SP, achei a ideia interessante. No entanto, já desconfiava que não renderia muito dado desde conflitos com interesses públicos até os furtos e vandalismos que sofreria. E sem motivação política nenhuma.

Do NOT follow this link or you will be banned from the site!