Logo da Insider à esquerda e a frase à direita: “Use o cupom MANUALDOUSUARIO12 e garanta peças básicas de qualidade com desconto”.

“O homem tem um sonho acerca da máquina”

Dedos de um humano e de um robô se tocando.

O podcast sobre Black Mirror deixou várias pontas soltas. Tentarei amarrar algumas delas através de posts aqui no Manual, começando pela origem das ações que nos afetam, tema que surgiu ali pelo meio da conversa. Quem tem o poder, ou o dever, de decidir por nós? Tirar o ser humano da equação garante justiça nas decisões mais complexas?

Em contraponto a decisões unilaterais tomadas por seres humanos, meus amigos argumentaram que existem leis e algoritmos, os quais provavelmente são mais justos. Discordei por ver a problemática de maneira mais estreita. Antes, esclareço que compreendo a diferença entre “um maluco que sozinho decide matar milhares de pessoas que ele julga desprezíveis” e processos institucionalizados que garantem um julgamento justo a qualquer acusado. A minha inquietação recai num ponto que antecede esse momento.

O que tentei dizer, talvez sem sucesso no calor do momento, é que as leis e os algoritmos tidos como mais justos são, no fim das contas, resultados da ação do homem. A lei é fruto de deliberações feitas por pessoas que representam os interesses dos seus pares que as elegeram para tal. Algoritmos são fórmulas criadas e refinadas por funcionários de empresas a fim de suprir uma demanda. Há um distanciamento e um ofuscamento maiores entre/de quem tem o poder decisório e a ação do trabalho desencadeado, mas é inescapável, pelo menos por enquanto, a ação humana em praticamente tudo que é cultural, civilizado.

Assim, a única força alternativa à do homem é a da natureza. E, até o momento, tempestades não geram leis por si só e esquilos não programam.

Uma piadinha dessas do Twitter exemplifica bem a fé na tecnologia:

“Chefe, parece que o algoritmo não consegue resolver um problema que a sociedade enfrenta há décadas.”

“Já tentamos mais algoritmos?”

No que se entende que para resolver nossos problemas é preciso se voltar para dentro, reconhecer o aspecto humano deles e trabalhar em cima disso, não o contrário. É bastante fácil perder essa dimensão quando se é bombardeado pela ideia de que a tecnologia resolve tudo. Tanto que, para muitos, a relação indissociável entre pessoas e tecnologia sumiu. Oramos para deuses feitos de uns e zeros com a mesma fé das religiões tradicionais.

Talvez haja algum valor aí, mas nos deparamos com uma traição ao método de que se serve a tecnologia. O mesmo vale para o legislar — não se pode perder de vista o motivo pelo qual convencionamos esse sistema de regulação da vida em comum. Quando descolamos esses processos da humanidade que lhes move, nos pomos em perigo. No caso da tecnologia, dos algoritmos e dos processos automatizados decorrentes deles, corremos o risco de virarmos máquinas.

O sonho do homem

Alguns meses atrás, li um livrinho do filósofo alemão Dietmar Kamper sobre o papel do trabalho nas nossas vida. Quase no final, ele escreve:

Deus tem um sonho acerca do homem; o homem tem um sonho acerca da máquina; a máquina tem um sonho acerca de Deus.

Ainda penso, recorrentemente, nesse trecho. É o tipo de coisa que precisa ser relida algumas vezes para começarmos a entender. A frase do meio, porém, parece-me a mais acessível — mas, caso discorde ou a interprete de maneira diferente do que se segue, comente.

Sonhamos com uma perfeição que não é humana, mas que ilude na tentativa de ser por apresentar-se como o nosso ideal — ou seja, como desejamos ser nós mesmos. Mas essa perfeição idealizada não é possível. Fosse, não seria saudável. Todo esse argumento é, ao mesmo tempo, uma falácia enorme que está se impregnando na sociedade. E uma mentira contada mil vezes, a gente sabe no que termina. O fato do primeiro episódio da terceira temporada de Black Mirror, “Nosedive”, nos ser tão fácil de relacionar é sintomático.

Num ensaio de 2012 publicado na n+1, o escritor e engenheiro de software David Auerbach traça um belo ponto de como a estupidez da máquina nivela (para baixo) o nosso potencial de ser. Conclui ele:

Vamos definir e regimentar nossas vidas, incluindo nossas vidas sociais e as percepções que temos de nós mesmos, de maneiras que conduzam ao que um computador é capaz de “entender”. A estupidez deles se tornará a nossa.

A busca por tal perfeição não é exatamente nova, remonta, no mínimo, ao Taylorismo, mas se intensificou na última década. Do crédito que a operadora do cartão libera a você à nota que lhe é atribuída pelo Uber, somos cada vez mais máquinas, definidos por notas que nos são atribuídas, número de curtidas que recebemos, quantos “amigos” ou seguidores temos. Ao mesmo tempo, somos cada vez menos humanos.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

10 comentários

  1. A discussão sobre a tecnocracia não é nova. O velho Flusser já desnaturalizava algoritmos (ainda que indiretamente) em sua filosofia da caixa preta e em seu mundo codificado. Determinismo tecnológico já se verificava em gente como McLuhan, cinquenta anos atrás — ou mesmo antes, com os estudos de cibernética de Wiener e a teoria dos sistemas de bertanfaly nos anos 40, devidamente questionadas desde aquela época. Aliás, a paquidérmica URSS era um paraíso tenocrático, em certo sentido: nos anos 80, quase 9 em cada 10 líderes do politburo possuía formação técnica e científica (que “legitimava” a presença deles lá). Nos EUA no início do século XX havia até mesmo um movimento tecnocrático que pretendia substituir a política (e a tomada de decisões democráticas) pela governança técnica baseada em ciência e tecnologia.

    O que assusta não é a recorrência da discussão, mas o fato da maioria das pessoas simplesmente não ligar para ela hoje: algoritmos continuam naturalizados como nunca.

  2. A discussão sobre a tecnocracia não é nova. O velho Flusser já desnaturalizava algoritmos (ainda que indiretamente) em sua filosofia da caixa preta e em seu mundo codificado. Determinismo tecnológico já se verificava em gente como McLuhan, cinquenta anos atrás — ou mesmo antes, com os estudos de cibernética de Wiener e a teoria dos sistemas de bertanfaly nos anos 40, devidamente questionadas desde aquela época. Aliás, a paquidérmica URSS era um paraíso tenocrático, em certo sentido: nos anos 80, quase 9 em cada 10 líderes do politburo possuía formação técnica e científica (que “legitimava” a presença deles lá). Nos EUA no início do século XX havia até mesmo um movimento tecnocrático que pretendia substituir a política (e a tomada de decisões democráticas) pela governança técnica baseada em ciência e tecnologia.

    O que assusta não é a recorrência da discussão, mas o fato da maioria das pessoas simplesmente não ligar para ela hoje: algoritmos continuam naturalizados como nunca.

  3. “Assim, a única força alternativa à do homem é a da natureza. E, até o momento, tempestades não geram leis por si só e esquilos não programam.”

    Olha, nem a natureza está isenta de agenciamento humano: a natureza é antes uma construção social, mais do que “natural”. Ou será que nossa noção ocidental e moderna de natureza é compartilhada por todos os povos do mundo em todas as épocas?

  4. “Assim, a única força alternativa à do homem é a da natureza. E, até o momento, tempestades não geram leis por si só e esquilos não programam.”

    Olha, nem a natureza está isenta de agenciamento humano: a natureza é antes uma construção social, mais do que “natural”. Ou será que nossa noção ocidental e moderna de natureza é compartilhada por todos os povos do mundo em todas as épocas?

  5. “A lei é fruto de deliberações feitas por pessoas que representam os interesses dos seus pares que as elegeram para tal. Algoritmos são fórmulas criadas e refinadas por funcionários de empresas a fim de suprir uma demanda.”

    O conceito basilar de uma discussão dessas é que lei e algoritmos são feitos, como você disse, baseados em interesses das pessoas que detém poder para impôr esses interesses. Sejam os donos dos robôs e patrões dos programadores, sejam os megaempresários que controlam os poderes da nossa sociedade (controlam, basicamente, quem faz leis).

    Todo o algoritmo é uma lei, a priori, de como algo deve ser feito/executado dentro de parâmetros tidos como “bons” por um grupo de pessoas. Os mais simples – “matar é ruim”/”ordenar uma lista” – são coisas que nos são básicas por uma questão de corpo social/entendimento de mundo (eu sei que ordenar uma lista do modo mais rápido é possivelmente o melhor assim como eu sei que não matar o meu vizinho apenas porque ele tem alguma opinião divergente da minha é errado). O problema recai no passo seguinte, quando a complexidade da sociedade é maior do que uma lógica rasteira dessas.

    E o pior, outro problema aparece quando precisamos questionar os interesses de quem faz as leis e, principalmente, de quem as aplica.

    Acreditar piamente num algoritmo ou numa lei é um erro absurdo, porque ambos foram feitos por pessoas e carregam interesses, ideologias e dinheiro (muito dinheiro) por detrás. Não escutei o podcast porque faz tempo que não escuto, mas, a sua visão sem “confiar” no argumento legalista é a mais correta. Questionar leis, algoritmos e qualquer coisa que seja feita por homens é a atitude correta. Se não fosse assim, ainda trabalharíamos 18h por dia ou teríamos escravos andando pelo país.

    O problema é que o refúgio que a lei nos dá é muito confortável, ainda mais quando estamos em uma torre de marfim de privilégios.

    1. Recomendo o documentário “Curumim”. Não tem relação direta com o tema do post, mas demonstra o absurdo das leis e sua execução ainda mais absurda e sem sentido.

  6. Agora que comecei a trabalhar como cientista de dados, percebo um problema das pessoas desejarem que os algoritmos funcionem como uma caixa preta mágica.

    Pessoas querem um número para coisas intangíveis e, como eu comentei no texto que publiquei aqui, sempre é possível fazer isso mesmo que esse número seja uma representação limitada ou errada do conceito. Isso não seria diferente do problema de instituições públicas se as pessoas desejassem entender o seu funcionamento. As pessoas querem entender como funciona o sistema de eleições americano e suas razões, mas as pessoas não querem saber como o Facebook ordena sua timeline.

    Talvez eu tenha uma percepção pragmática demais e até preconceituosa, mas ainda acho algoritmos e processos melhores que a questão de “humanidade”. Gosto do exemplo do sistema judiciário, criado sobre anos de teorias e estudos: tem seus problemas, é inevitável, mas também me parece um claro sinal de civilidade e democracia quando bem executado. Concordo que a ideia geral dos “deuses binários” é problemática, mas acho que o maior problema não é o caráter dele ser uma representação limitada e sim o fato das pessoas tratarem realmente como “deuses” sem escrutínio como se engenheiros fossem serem superiores que podem decidir essas coisas.

    1. Não só algoritmos, as pessoas buscam uma “caixa preta mágica” para tudo, para ser servido por esta caixa preta mágica.

      O problema dos algoritmos, tal como citado pelo Ghedin, é que um algoritmo é algo de alguma forma feita pela lógica humana, como se fosse algo para se tentar corrigir um erro. Nisso, fica o dilema: se um algoritmo tenta evitar erros, e se ele foi criado de forma errada? Como ele se auto-corrige?

      Criar formas de consertar erros devem ser feitas também com a presunção que até esta mesma forma de consertar e corrigir pode falhar e ser um erro. É um dilema, mas se não posto isso, no final o que vale é considerar sempre algo como certo, único, verdadeiro, sem dúvidas. E isso pode se voltar contra nós.

      É a questão de lidar com a própria questão moral também. Qualquer código, seja humano (as leis) ou de máquina (algoritmos) servem para tentar dar uma ordem a uma atitude. No entanto, máquinas são feitas para a priore, servir àquela atividade e nada mais. Leis servem para humanos e suas condições, mas isso é variável. Uma lei no Brasil pode não funcionar em outro país. Pode ser que ao aplicar uma lei brasileira em um país de cultura diferente da nossa, pode no final criminalizar um ato cultural comum neste outro país. Não se força a mudança cultural de alguém – isso gera guerras, rixas. Enfim.

    2. A Alemanha nazista tb tinha um sistema jurídico… E com toda a orquestração algorítimica a qual estamos sendo submetido invariavelmente em todos os processos da vida, é justamente o humano que vai nos resguardar daquilo q ainda vamos viver em plenitude um dia, q é justamente a decisão não ser mais nossa e sim de uma máquina num julgamento, por exemplo. Vc assistiu a um filme chamado “M”? É do Fritz Lang. Não tem relação direta com o post, mas a parte final é intrigante.

O site recebe uma comissão quando você clica nos links abaixo antes de fazer suas compras. Você não paga nada a mais por isso.

Nossas indicações literárias »

Manual do Usuário