A autora faz um paralelo entre o sistema de crédito social chinês (explícito) com os muitos sistemas espalhados por aplicativos, empresas e sistemas no Ocidente:
A única diferença entre o seu celular e o sistema de crédito social da China é que a China lhe diz o que está fazendo. Fingimos que nossos pontos de reputação algorítmica são apenas “recursos de experiência do usuário”. Pelo menos Pequim admite que está gamificando o comportamento humano.
Num segundo momento, ela argumenta que o sistema de crédito social chinês é um fantasma criado deste lado do mundo, pois as iniciativas do tipo que existem lá são poucas e esparsas. Eu não sei se é verdade, nem tenho como verificar isso.
E, apesar da aversão quase alérgica que se tem (que temos!) a esses sistemas de pontuação, a rusga da Nathalie (autora do texto) não é com eles em si, mas com a falta de transparência, como expõe neste parágrafo:
Os sistemas de crédito social estão se espalhando globalmente porque resolvem problemas de coordenação. Eles reduzem fraudes, incentivam a cooperação e criam incentivos comportamentais em escala. A questão não é se as sociedades ocidentais adotarão o crédito social (porque estamos construindo em direção a ele). A questão é se seremos transparentes e responsáveis sobre isso ou continuaremos fingindo que nossas pontuações de reputação algorítmica são apenas tecnologia neutra.
Muita coisa a se pensar…
8 comentários
Achei o texto interessante, mas um aspecto da argumentação meio enviesado – a ideia de que se você faz algo que pode ser considerado ruim de forma transparente não o torna melhor do que o outro que faz de forma escamoteada. No final ela diz: “E conhecer as regras significa que você finalmente poderá escolher se quer ou não jogar.” – será? Você pode pular fora se o sistema for obrigatório pelo governo? Ou mesmo no formato privado, ela mesma comenta como é quase impossível abandonar sistemas como o ambiente do Google ou LinkedIn.
A minha leitura, que pode estar errada, é de que o “crédito social” não é por si só ruim; o problema é fazê-lo sem dar transparência às regras do jogo.
Digo ruim no sentido dessa obrigatoriedade que a sociedade acaba impondo. De tudo que você faz precisar de uma avaliação sua e de você ser avaliado. E de como a própria avaliação acaba desviada por receios de prejuízos – a pessoa que avalia bem um Uber por medo de represália, por exemplo, e de que ele a avalie mal. O que poderia ser algo saudável, de compartilhamento de informações para melhor avaliação de produtos e serviços, vira uma grande fonte de ansiedade.
Entendo. Dentro da lógica da avaliação, os “receios de prejuízo” me parecem calculados e parte do arranjo para que as coisas funcionem. É a mesma lógica do “falar na cara” versus postar na internet atrás do anonimato: ao falar na cara, as consequências (“receios de prejuízo”, como tomar um soco) balizam o que a gente manifesta… né? :)
Quando “damos joinha” a um post ou comentário em rede social/site; quando participamos de conversas em redes sociais, ou quando avaliamos algo em plataformas tipo Google ou AirBNB, a lógica no final é a mesma.
Me pergunto o quanto que as pessoas se avaliam para poder viver entre si sem conflitos. É que nem quando alguém fofoca sobre um vizinho incômodo; ou até mesmo – indo para um extremo – quando usam a “tática do cancelamento” quando faz algo negativo a um terceiro (“cancelamento” não deixa de ser uma forma de zerar créditos sociais também).
Também me pergunto se no final as distopias acabam sendo um espelho do que um humano “comum” desejaria viver (que não vai pensar tanto sobre reputação alheia mas sim na própria como virtuosa apenas – não a toa a gente vê alguns se falando que “não estão errados” mesmo errados, falando que não cometem crimes mesmo cometendo, a ponto de cometer, abortando o crime, ou só planejando um.)
Indo neste racíocinio, talvez não a toa a (extrema-)direita hoje briga muito e tem tolerado políticos estúpidos que defendem segregação e violência. Não entendo tanto da China, mas ao que noto pelo pouquissimo que sei, eles vivem baseados em trabalho e apoio mútuo. Simples assim. E há muitos núcleos comunitários por lá. Muitas etinias diferentes também. O que o partido chinês põe provavelmente é apenas um sistema para usar o “capital” (neste caso o valor social da pessoa) como métrica, mas mais para o dinheiro só. Para evitar abusos.
No caso ocidental, como o dinheiro acaba sempre mais na mão de entidades privadas do que públicas – por mais que o Estado gere o dinheiro, quem fica e controla é banco e investidor -, a forma de métrica muda, pois o privado DEPENDE do giro para poder ganhar, já que ele ganha no juros e taxas. Estado não precisa de juros e taxas, só tem o dinheiro para métrica do que vale as pessoas e as coisas.
Nós estamos mais do que acostumados (condicionados?) a pensar no Estado como o grande vilão da liberdade de pensamento. Isso vem da metade do século 20 com a propaganda de guerra ocidental contra países classificados como inimigos totalitários, que foi se adaptando conforme novos inimigos foram sendo eleitos nas guerras quentes ou frias por aí. Mas ao mesmo tempo, aqui no ocidente, se desenvolveu toda uma ciência da modelagem de comportamentos na formação de profissionais pra trabalharem não pras polícias políticas tipo 1984, mas no setor privado gerando freguesia e alavancando vendas . Basta ler qualquer manual de propaganda e marketing pra ver como essa ciência tá avançada. Por isso acaba sendo “natural” a gente pensar sempre que é ruim termos os nossos dados pessoais fuçados pelo governo mas não se indignar quando um Google da vida oferece notícias, produtos etc. de acordo com a nossa opinião e os nossos gostos.
Entendo a distinção, Paulo, e questiono a “má-vontade” (não achei termo melhor) em relação a qualquer coleta e processamento de dados, por qualquer ente/órgão. Por exemplo, a aversão quase alérgica que grupos pró-privacidade em software têm de telemetria, mesmo em projetos FOSS, como Firefox e Thunderbird, mesmo com o esclarecimento de que tais análises têm por objetivo detectar problemas e corrigi-los, ou seja, algo que beneficia a todos.
O resumo da história é: milhões entregando dados pessoais, conscientemente ou não, a poucos que vão usar esses dados pra obter lucro que vai ser exclusivo desses poucos.