O teste de Turing definitivo está em Ex Machina

Ava, de Ex Machina.

O teste de Turing surgiu faz mais de meio século e ainda não foi superado. Nesse meio tempo, o cinema imaginou diversas situações em que humanos e máquinas, seres dotados de inteligência artificial, se relacionam. Em poucas vezes, porém, as implicações desse encontro foram tão profundas quanto em Ex Machina, de Alex Garland. Um robô pode, afinal, ter consciência tal qual um ser humano?

Em Ex Machina, Caleb (Domhnall Gleeson), um funcionário da Blue Book, é sorteado para passar uma semana na isolada mansão do fundador e CEO da empresa, Nathan (Oscar Isaac). Lá, ele descobre que seu chefe está criando algo grande, muito maior do que o buscador usado por 94% do mundo que ele desenvolveu aos 13 anos e lhe rendeu fama e riqueza: uma inteligência artificial sofisticadíssima. Caleb assina um contrato de confidencialidade que basicamente expõe sua privacidade a Nathan pelo resto da vida para, em troca, testar Ava (Alicia Vikander), um robô humanoide com inteligência artificial. É o teste de Turing definitivo.

Tudo no filme é verossimilhante a ponto de fazer sentido na nossa realidade, da tal empresa fictícia, a Blue Book, uma versão só um pouquinho mais avançada e inescrupulosa do Google ou do Facebook, à inteligência de Ava, fruto do que aqueles 94% da população conectada à Blue Book vê, ouve (pelas câmeras e microfones dos celulares) e sente (pelas consultas que faz no buscador e histórico de navegação). Ava é o acúmulo de toda a digitalização das nossas relações condensado num cérebro artificial gelatinoso.

Ava vive fechada em um quarto panóptico, ou seja, de onde pode ser observada o tempo todo, mas sem ter uma visão daqueles que a veem. Ela nunca saiu desse lugar, nunca teve contato com outro ser humano além de Nathan e Caleb, dois homens que, por motivos diferentes, parecem ignorá-la em sua (suposta, possível) humanidade.

O teste que Caleb conduz difere um pouco do proposto por Alan Turing, matemático inglês famoso por seus esforços para quebrar a criptografia das comunicações nazistas durante a II Guerra e que tinha um grande fascínio por inteligência artificial. O teste original, de 1950, propõe que se um computador conseguir, através de um diálogo remoto, enganar pesquisadores a pensar que se trata de um humano, ele passou. Mas será que é o bastante? Passar-se por um ser consciente é o mesmo que ser consciente? Qual é, afinal, o verdadeiro teste que Ex Machina apresenta?

A interação entre Caleb e Ava ocorre às claras, o envolvimento sentimental e a sexualidade da robô têm peso no teste e tudo isso ganha um tempero extra com as frequentes quedas de energia, que deixa os dois temporariamente livres da vigilância de Nathan. É, no mínimo, um teste mais abrangente, e que oferece mais matéria-prima para ponderar as implicações éticas, sociológicas e até pragmáticas que alguém como Ava suscitaria se aparecesse hoje entre nós.

A construção (no sentido cinematográfico) de Ava, aliás, por si só representa um confrontamento ao espectador: uma mulher feita de vidro translúcido, metal e cabos, exceto pela feição angelical, fruto dos sonhos (e histórico de pornografia) de Caleb, mãos e, como explica Nathan, uma genitália completamente funcional. Alguém tão analítica e objetiva que consegue saber quando o interlocutor está mentindo apenas pelas suas microexpressões, mas dotada de sensibilidade tamanha para ter, como sonho, ficar parada num cruzamento movimentado, apenas observando outras pessoas. Mulher e robô ao mesmo tempo? Mulher robô? Robô mulher?

Caleb conhece Ava em Ex Machina.

Alex Garland, diretor e roteirista de Ex Machina, fez um trabalho excepcional ao manter a trama neutra. Com isso, ele armou uma emboscada a quem assiste: o partido que tomamos ao longo da história e a interpretação que fazemos do final inesperado dizem mais sobre nós do que sobre o filme. É fácil simpatizar com Caleb, uma pessoa boa. Só que mesmo os melhores, às vezes, podem ser nocivos e acabarem cegos por desejos e vontades individuais. É fácil julgar e execrar as atitudes de Ava, mas e se fossemos nós, na condição de seres conscientes, no lugar dela?

Ex Machina estreou no Reino Unido em janeiro e até agora não foi lançado no Brasil. Use a criatividade para vê-lo, mas faça isso. Vale a pena.


Para se aprofundar nas discussões (em inglês):

E um pequeno making of sobre a criação de Ava:

O Manual do Usuário é um blog independente que confia na generosidade dos leitores que podem colaborar para manter-se no ar. Saiba mais →

Acompanhe

  • Telegram
  • Twitter
  • Newsletter
  • Feed RSS

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

52 comentários

  1. Excelente filme e nos deixa muito a refletir, mas uma dúvida, que aparentemente é boba, mas que fiquei matutando é:

    [SPOILERS]

    Por que que o Caleb não consegue fugir? Ele não está com a chave dele e do Nathan, além de ter acesso ao computador no quarto do Nathan podendo modificar o sistema e tal?

    Agradeço desde já e um grande abraço!

    Obs: Agora sinto mais medo ainda do Google e demais gigantes da tecnologia… T.T

    1. Poxa, faz tempo que vi, mas lembro que algo impedia ele. Não sei ao certo se era a queda de energia, ou algum requisito de autenticação no computador (biometria ou outra chave).

    2. Oi Paulo, acabei de ver o filme e gostei demais. SPOILER: a chave do Nathan está com Ava, é assim que ela vai passando pelas portas. A chave do Caleb não funciona mais e quando ele tenta acessar o computador do Nathan, colocando a chave dele, o sistema cai. A mim parece uma armadilha: alguém mexeu nos protocolos de autenticação, impedindo a sua saída e fazendo a energia cair caso ele tentasse acessar o computador. A única alternativa seria a própria Ava ou Kyoko, possivelmente a última. Achei estranho de todo modo ela perguntar para ele, no final: “Você vai ficar aí??” Caleb, sempre irritantemente lerdo pra entender o que se passa à sua volta, fica olhando pra ela sem reação. Acabou ficando mesmo.

      1. Uhm, muito obrigado pela explicação, Julio! Não havia percebido isso, agora as coisas ficaram mais esclarecidas hehe. Deve ter sido uma espécie de armadilha mesmo. Valeu!

  2. Excelente filme e nos deixa muito a refletir, mas uma dúvida, que aparentemente é boba, mas que fiquei matutando é:

    [SPOILERS]

    Por que que o Caleb não consegue fugir? Ele não está com a chave dele e do Nathan, além de ter acesso ao computador no quarto do Nathan podendo modificar o sistema e tal?

    Agradeço desde já e um grande abraço!

    Obs: Agora sinto mais medo ainda do Google e demais gigantes da tecnologia… T.T

  3. Olá! Tudo bem? Você me deixou seu blog lá no grupo do Rotaroots do FB, nossa adorei!!! Amo tecnologia!! Acho que seu blog tem tudo a ver comigo, com certeza vou passear por todos os seus posts :) Achei a indicação do filme interessante (to louca pra assistir o Terminator novo! hahaha), vou ver se assisto, é um assunto muito falado hoje em dia, eu espero muito que a inteligência artificial venha nos auxiliar na resolução de problemas importantes da vida (como a cura de doenças, etc), mas acho que não tem jeito, o cérebro humano é insuperável!

    Abraços!

  4. Um ótimo filme! Vi pela “Locadora”…. Mas estou com duas duvidas:
    1. O nome dela é AVA mesmo, como não sou fluente em ingles escutava Eva…

    2. (****SPOILER*****)
    No final… ela convenceu ou matou o piloto do helicoptero para conseguir ir à cidade?

    1. Sim, “Ava”. Em inglês, a “Eva” do Adão e Eva é “Eve”, e se lê “ívi”.

      Quanto ao SPOILER, ela simplesmente inventa alguma desculpa para o piloto levá-la dali. Não tem motivos para matá-lo, e é bem provável que ela não soubesse pilotar helicópteros, logo…

  5. Acabei de assistir e achei muito bom. Achei bem interessante o trecho em que ele explica o porque de dar sexualidade a Ava, pelo menos pra min fez muito sentido. Esse filme me lembrou uma série chamada Humans que estreio há poucas semanas.

  6. Eu assisti (valeu, Popcorn!), gostei bastante e ao mesmo tempo achei assustador. Aliás, compartilho a mesma opinião do Stephen Hawking e Elon Musk sobre a AI.

  7. Acho interessante que saíram quase ao mesmo tempo o Ex Machina e o Chappie, ambos com uma temática parecida e formas diferentes de abordar a questão.

    Estamos começando a trazer a discussão sobre IA, de fato, para o holofote.

  8. Acho interessante que saíram quase ao mesmo tempo o Ex Machina e o Chappie, ambos com uma temática parecida e formas diferentes de abordar a questão.

    Estamos começando a trazer a discussão sobre IA, de fato, para o holofote.

  9. Assisti o filme há tres semanas. Achei fantástico! Agora… (SPOILER)

    /SPOILER=ON
    ____________
    Discordo sobre o comentário final, sobre como agiríamos sob a ótica dela. Sim, sei que tu só fizeste o questionamento, entretanto fica implícita a concordância (ou, no mínimo, o “entendimento”) com a atitude. O coitado do Caleb conhecia ela há uma semana, e foi quem proporcionou a “soltura” dela. Deixar o cara preso lá foi foda. Muito foda!
    ____________
    /SPOILER=OFF

    Ultimamente tenho tido menos e menos paciência para filmes lentos, recheados de diálogos. Me dá sono. Tenho preferido filmes de ação, etc etc. Pode ser que a temática me fascinou e, por isso, Ex Machina conseguiu me manter ligado o tempo todo. Filme recomendadíssimo. Por sinal: vale o combo de “O Jogo da Imitação” (para descobrir quem foi Alan Turing, caso alguém não saiba) seguido de Ex Machina.

    1. [SOBRE SEU SPOILER]

      O grande questionamento do filme reside aí: na atitude que a Ava toma no final. Caleb não estava interessado em libertar as robôs de Nathan, mas em ter encontrado sua cara-metade — ele nem liga para as demais. O problema é que ela não queria nada com ele; eles acabaram de se conhecer! Ava o usou para escapar, apenas, porque era a única chance que ela teve.

      O dilema está aÍ: se fosse uma mulher normal, presa num quarto e que tivesse uma chance de escapar, ainda que ludibriando um terceiro, a gente condenaria a atitude dela?

      1. Eis a questão! Caleb era um “terceiro de boa-fé˜, formou uma conexão com Ava exatamente pelo fato de a considerar humana. Os demais robôs eram apenas robôs – programados para ser brinquedos sexuais e serviçais, versões anteriores do “software”.

        A atitude de Ava, para mim, seria desprezível e passível de punição estatal independentemente de ela ser humana de fato ou não. Ela utilizou sim sua única chance, mas ao preço de uma vida “inocente”.

        Claro que podemos entrar ainda em uma questão mais a fundo: em que ponto a criação de um robô “humano” cruza a linha para que o experimento se torne cruel e “desumano”, conforme proibido pelas convenções internacionais? Nathan era, mesmo, um “gênio do mal”? Como determinar o momento em que essa linha é cruzada?!?

        p.s.: o único porém, sobre a fuga, é que ela não levou nada para recarregar suas baterias. Mas naturalmente que, com a capacidade dela, teoricamente ela poderia construir o dispositivo.

        1. [CONTINUAM OS SPOILERS]

          As outras não eram “apenas robôs.” Isso fica claro quando Caleb acessa os vídeos do sistema interno e vê as outras robôs surtando — incluindo aquela cena perturbadora da robô que bate na porta até perder os braços.

          Acho que é aí que a motivação do Caleb quebra. Ele não está interessado em libertar prisioneiras, mas em conquistar uma delas. Se Ava não tivesse demonstrado (ou fingido) interesse, ele a ajudaria a escapar? Bem provável que não.

          Para mim a linha é cruzada a partir do momento em que a inteligência artificial passa a ter consciência — ou seja, ela não finge pensar, ela pensa. Voltamos ao grande dilema do filme: o que é humanidade? Se fôssemos desprovidos de um corpo, apenas consciências vagando num ciberespaço, seríamos menos humanos? O fato da concepção de Ava diferir da única que conhecíamos até então é tão importante a ponto de descartar sua humanidade?

          1. Talvez, na minha ingenuidade, eu tenha pensado que as que surtaram eram versões anteriores da Ava, e as que ele mantinha como serviçais eram “somente robôs” (em que pese terem enganado, inicialmente, tanto o Caleb quanto os espectadores – “elas não falam inglês para que eu possa conversar livremente”, ou algo do genero), até pelo fato destas poderem andar livremente pela casa, tendo condições de se rebelar e matar Nathan enquanto este dormia, por exemplo. Já Ava e suas demais versões ficavam confinadas, exatamente para que se evitasse esse tipo de risco. Claro que a própria concepção “fisica” dos robôs mostra que Nathan tinha essa preocupação (não eram robustos, e quebravam facilmente, sendo que ele era nitidamente mais forte que todos, mantendo regime de “treinamento” caso houvesse algum problema). O que ele não contava, a meu ver, era que a “robô” fosse “convencida” a lhe dar a facada. Mesmo assim, ainda não consigo ter a certeza de que estas serviçais tinham consciência. Caso a tivessem, a rebelião teria ocorrido muito antes.

            Agora, concordo sobre a motivação do Caleb. Não é altruísta, mas sim por ele ter sentido uma “conexão”. Sem essa conexão, ele iria embora sem maiores questionamentos (ao menos iniciais, penso).

            Nao acredito que teríamos condições de responder “o que é humanidade” de uma forma objetiva e curta. Entretanto, penso ser “óbvio” o fato de que a inteligência/consciência/humanidade não deriva da forma de concepção ou a “lataria” que carrega a mesma, mas sim ela existe por si só, mesmo que fosse em uma caixa ou qualquer outro objeto/ser.

          2. Hmm, entendo. Já eu, fiquei com a impressão de que as robôs, todas elas, tinham algum nível de consciência — talvez não tão avançada como a de Ava, mas tinham. Tanto que, no final, a Kyoko se une a Ava para fugirem dali.

            E Nathan é um personagem bem enigmático também. Quando ele toma a segunda facada e cai no corredor, o seu “inacreditável” é dúbio. Não sei se ele ficou estupefato por indignação ante a situação inesperada que ocorreu, ou se foi uma expressão de regojizo agonizante — algo como “incrível, é melhor do que eu imaginava!” Porque, afinal, Ava superou em muito as expectativas quanto a ter consciência.

          3. Sobre o Nathan. Acho que devido ao profundo envolvimento dele no processo de criação dos robôs (software e hardware) e sua progressiva evolução, ele pode não ter visto o ponto em que uma legítima consciência se formou nelas (algo como a metáfora do sapo em água quente). Daí a necessidade dos testes envolvendo um sujeito externo. Talvez, em seu íntimo, ele já desconfiasse que as mesmas atitudes triviais de antes (quando as robôs eram apenas objetos programados) em algum ponto podem ter se tornado atitudes monstruosas da sua parte. Isso poderia explicar sua atitude autodestrutiva. E torna sua busca pelo resultado do teste da consciência de Ava mais dramático.

            Não passar no teste seria mais uma falha como criador, já o sucesso seria uma falha dele como ser humano (resignificando suas ações passadas). É possível até imaginar que a cada teste, ele colocasse exigências cada vez maiores apenas como uma tentativa de reconforto interno (“Não passou! Ainda estou objetificando apenas máquinas! Ufa!”). Contudo, dada a perfeição da representação das robôs o inconsciente dele provavelmente já não fizesse distinção…

            Mas podemos pensar também que os robôs (sem empatia e seguindo instruções mecânico-lógicas) estariam apenas tentando imitar com o máximo de perfeição como uma consciência humana agiria nas situações em que estavam, sendo o ápice Ava, que poderia ter sido alimentada com relatos de mulheres em situação semelhante a dela. Nesse caso, embora o inconsciente o pudesse condenar, a monstruosidade era mesmo sua criação…

  10. Antes do seu texto eu sabia praticamente nada do filme, mas já o incluí na lista de coisas-pra-ver-um-dia há um tempo porque sfi-fi =P bom saber de que ele é bem bacana, apesar de levar spoilerzinho na fuça com o título anterior, heh!

    1. Tenho minhas dúvidas se em menos tempo haveria espaço para desenvolver os personagens. Uma das coisas que eu adorei em Ex Machina (e de que gosto em geral, quando bem aproveitado) é de um ritmo lento para desenvolver a trama. Pareceu-me importante e válido, nesse caso, para criar a atmosfera e ir aumentando o peso dela gradualmente.

      Enfim, é questão de gosto :)

    2. Se curtir podcasts em inglês também, o Tomorrow, do Joshua Topolsky, fez um episódio com o Alex Garland (o diretor do filme) discutindo os temas abordados na história. Se não me engano é o terceiro episódio e a conversa é incrível.

      1. Esse teste foi bastante criticado e não houve consenso sobre a validade dele: http://www.theverge.com/2014/6/11/5800440/ray-kurzweil-and-others-say-turing-test-not-passed

        Muita gente, aliás, critica a validade do próprio teste proposto por Turing. Ele cai no dilema (que também é abordado em Ex Machina) da simulação: é impossível saber se a máquina está, de fato, “pensando” ou apenas simulando um comportamento através de um código sofisticado.

        Com xadrez é mais fácil visualizar: o Deep Blue, quando ganhou do Kasparov, sabia o que estava fazendo? Ele sabe o que é xadrez?

      1. O episódio Be Right Back é com o mesmo ator do Ex-Machina né? Mas meu episódio favorito é The Entire History of You, que é algo próximo da ideia do Google Glass multiplicado por mil.

Do NOT follow this link or you will be banned from the site!