“Ex Machina” e o dilema da consciência

Em colaboração especial para o Jornal, o psiquiatra Paulo José Ribeiro Teixeira
analisa o filme britânico
Ex Machina, do roteirista e diretor estreante
Alex Garland, e suas conexões com a compreensão
da consciência e da singularidade do ser humano

Ex_machina2
Ava (Alicia Vikander), entre Caleb Smith (Domhnall Gleeson) e Nathan Bateman (Oscar Isaac) em cena de “Ex_Machina”, de Alex Garland. Foto: Divulgação

 

Paulo José Ribeiro Teixeira*

Caleb, um jovem programador da Blue Book, empresa de buscas virtuais do genial Nathan, chega na residência deste – um bunker subterrâneo em meio às florestas da Noruega – para passar uma semana. Lá descobre o objetivo de sua visita: verificar se Ava possui ou não uma verdadeira Inteligência Artificial (AI).

Aos olhos dos cinéfilos, Ex Machina apresenta referências claras a dois dos maiores filmes de ficção científica do século passado. O design de Ava nos remete de pronto à estética de Metrópolis, o nonagenário filme do cineasta expressionista Fritz Lang. Da mesma forma, há que se comparar o drama de Ava àquele dos replicantes da ficção noir Blade Runner, obra-prima do diretor Ridley Scott, principalmente ao drama da replicante Rachel, que se crê humana por possuir implantes da memória da sobrinha de seu criador. Todavia há aqui uma diferença básica, pois em Blade Runner os replicantes não são robôs, mas produtos de bioengenharia.

Mas a que inteligência artificial os dois personagens se referem? Para explicar o que querem, citam o Teste de Turing (1) como a condição que permitiria a um indivíduo concluir estar ou não diante de uma AI. Porém há uma diferença básica entre o Teste proposto por Turing e aquele ao qual deveria se submeter Ava. Ava é uma robô! Assim, cabe a Caleb verificar se as falas e atitudes de Ava são compatíveis ou não com a existência de um funcionamento mental semelhante ao de um ser consciente. Dito de outra forma: Ava, tendo uma mente cibernética, é realmente capaz de pensar, de sentir, de fazer escolhas livres?

Essa questão nos remete ao que hoje é objeto de estudo de filósofos da mente, neurocientistas e engenheiros de computação: o problema da consciência. É um tema relativamente novo na cultura ocidental, pois somente a partir do século XIX a ligação entre mente e cérebro se tornou objeto de cogitação da filosofia, da psicologia e da ciência. (2-3) Até o final da Idade Média, a filosofia não fazia distinção clara entre consciência, alma e Eu. No pensamento grego e neoplatônico, a consciência seria o centro da unidade e da atividade. Em Santo Agostinho (bem como, posteriormente, em Descartes), é intimidade pura e autocerteza. Para os escolásticos, consciência é a faculdade em virtude da qual é a alma que percebe suas afecções, de tal forma que não é o ouvido que ouve ou a vista que vê, nem a vontade que quer ou o entendimento que pensa, mas sim o composto vivente, que é aquele que ouve e vê; é a alma espiritual, aquela que quer com sua vontade ou que pensa com seu entendimento. Ainda no século XVII, mesmo com o advento da ciência moderna, o estudo da consciência e de suas relações com o cérebro permanecia obscuro, predominando a resposta habitual de encarar a consciência como propriedade do espírito e não do cérebro. Essa visão foi consagrada na filosofia moderna por Descartes em sua divisão da realidade em res extensa e res cogitans.

Em sua acepção mais básica, o termo consciência se refere apenas a “estar desperto”. Algo está desperto se apresenta respostas adequadas aos estímulos ambientais, de acordo com a complexidade de seu sistema nervoso (ou computacional!). Para isso, duas características formais da consciência devem estar presentes: a claridade da consciência (que se resume a estar ou não dormindo) e o campo da consciência (ou seja, a capacidade de direcionar de forma variável a consciência para um ou mais objetos e ignorar outros).(3)

Não parece ser esta a consciência a que poderia se referir o termo AI proposto na trama. Intuitivamente acreditamos haver claridade e campo de consciência na maioria dos animais que possuem um sistema nervoso central. E por que não em inúmeros robôs presentes em feiras de ciências? Seriam menos conscientes que uma formiga ou uma galinha? Na trama se busca algo mais, qual seja, uma consciência capaz de ordenar seus conteúdos, concatenando-os sincrônica e diacronicamente. É a ordenação sincrônica dos conteúdos de consciência que permite ao ser escapar de uma vivência fragmentada e caótica e criar uma cena unificada. Mas seria essa propriedade exclusiva dos seres humanos? Embora rudimentar, não estaria também presente em mamíferos superiores? Parece-nos que somente a ordenação diacrônica dos conteúdos da consciência seria privativa dos seres humanos. É ela que nos liberta do momento presente e  permite que, ao nos reconhecermos e ao reconhecer os objetos vividos temporalmente, criemos a ideia do Eu.(4)

O Eu criado por uma consciência capaz de ordenar seus conteúdos,  dá ao indivíduo a noção de subjetividade, não apenas em contraposição aos objetos do mundo, mas também em relação à própria intimidade. Mais do que uma consciência espontânea dos objetos que constituem o não-Eu porque fora do corpo e das sensações deste, surge também uma consciência reflexiva. Esta necessita sempre de certo conhecimento de si mesma, porque conceber o objeto exige que se tome posição frente a ele, que a consciência delimite o Eu e a ele se refira. Ser verdadeiramente consciente é ter percepção interna das vivências psíquicas próprias pela qual se, vejo um objeto (em um ato de consciência no primeiro sentido), me dou conta, tenho consciência de que o vejo.(5)

Penso que é essa a questão fulcral proposta por Nathan a Caleb: possui Ava objetos internos de consciência? Intimidade? E mais – naquilo que é mais humano – Ava realmente sabe que existe e que é Ava?

Intuitivamente ficamos tentados a responder negativamente a essas questões. Uma máquina não poderia ser capaz de criar um mundo interno assistido única e exclusivamente por ela própria. Para isso, deveria ela possuir dentro de sua placa mãe outras placas de vídeo, de som, etc., capazes de captar novamente as informações e reexibi-las internamente. Mas reexibi-las para quem ou para o quê dentro dela?

Por outro lado, se por essa razão não admitirmos a ideia de um eu cibernético, estaremos negando também a possibilidade do cérebro gerar o Eu.  A evidência intuitiva que todos temos da própria subjetividade também nos leva a cogitar a existência de alguma estrutura cortical que gerasse, dentro do cérebro. um Eu que assistisse às suas vivências e percebesse a si mesmo. A essa hipótese foi dado o nome de “teatro cartesiano”. Todavia, por necessidade lógica, dentro desse primeiro Eu cortical deveria haver um segundo que assistisse a seus fenômenos de consciência e assim ad infinitum.(6)

É natural que, neste momento, alguns de nós retornem com a hipótese mais acessível ao senso comum. Diriam que a subjetividade não é propriedade do cérebro, mas do espírito, o que nos levaria de volta ao conceito de alma imaterial. Não me cabe refutar de todo essa possibilidade, mas aceitá-la seria negar a própria ciência, que pressupõe que para cada ação haja uma ação anterior. Assim, pelas leis da Física, a mente imaterial não poderia mover o corpo material ou quaisquer outros objetos no mundo.

É essa inferência que nos leva ao título do filme. Se consultarmos o mestre Google, veremos que Ex Machina refere-se à expressão grega Deus Ex Machina que, no teatro grego, dava nome a intervenção da presença divina ao final de uma peça, visando a dirimir de forma arbitrária as questões e, muitas vezes, levando a um final imprevisto. Por extensão, passou a ser usada para se referir a finais que aparentemente não guardam continuidade lógica com o enredo como um todo. Assim posto, uma mente incorpórea, não gerada por um corpo ou por um sistema computacional e sem relação lógica com o determinismo físico, não seria também Ex Machina?

Alguns filósofos acenam com uma terceira alternativa. Aceitam a mente como uma produção do cérebro, porém afirmam ser ela impossível de ser reproduzida em um robô ou explicada pelo funcionamento neural. (7) A ciência consegue produzir máquinas que reconhecem cores, mas máquina nenhuma conseguiria ter a sensação única e subjetiva do que é o vermelho. No filme, esse argumento está claramente expresso no exemplo dado por Caleb a Ava, denominado Mary in the black-and-white room. Ademais – argumentam – um indivíduo com o auxílio de um computador poderia conversar perfeitamente em mandarim com um chinês sem entender absolutamente nada do que estivesse falando. Mutatis mutandis, um computador poderia agir e responder perfeitamente como um ser humano sem ter consciência alguma do que fizesse.

Por fim, uma quarta hipótese (uma variante da primeira hipótese, eu diria) é aventada por outros filósofos da mente. (1, 8) Por mais absurda que pareça, é a que melhor explica em termos científicos a geração da mente pelo cérebro. Somos usuários da linguagem, um sistema representacional relativamente autônomo aprendido no ambiente como um meio de aquisição de informações e de influenciar o comportamento. Aprendemos a utilizar essa linguagem para nos referir a eventos do mundo exterior e, a seguir, aprendemos também a usar sinais internos e comportamentais para determinar o conteúdo de nossos estados mentais e expressá-los em termos de linguagem. Assim, a atividade de narrar nossa vida mental seria diferente de possuir um estado mental interior e o conhecimento pessoal e direto que supomos ter de nossa mente seria apenas uma ilusão.

A linguagem, condição sine qua non para a consciência segundo estes filósofos, está presente em Ava. Quando indagada, ela responde que sempre soube falar. Dessa maneira, possuiria o requisito necessário para descrever suas próprias aferências interiores, o que incluiria descrever a si própria narrando. Contudo seria uma consciência semelhante à nossa? Nascemos apenas com a capacidade de estar despertos ou dormindo e, em nosso caso, a linguagem é aprendida. Para o surgimento da consciência unificada da vivência – a consciência espontânea – é necessário que acumulemos experiências nos primeiros meses de vida e que essas se sedimentem como memória. Somente por volta dos três anos começa a surgir a ideia do Eu, pois é necessária a aprendizagem de uma linguagem que permita que a criança se utilize da primeira pessoa.

Ex_machina1
Cena de Ex_Machina, de Alex Garland. Foto: Divulgação

Todos esses argumentos contraditórios nos conduzem a Wittgenstein, um dos maiores filósofos do século passado e referência oculta onipresente em toda a trama do filme. (9-10)  The Blue Book é uma de suas obras, o cenário do filme dá-se na mesma região da Noruega onde viveu parte de sua vida e o retrato de sua irmã encontra-se emoldurado em um dos aposentos da casa. O filósofo austríaco pontifica que, para a pergunta – é possível uma máquina pensar? – não existe uma resposta lógica e, por esse motivo, nunca será uma questão verdadeiramente científica. Pode uma máquina pensar? – diz Wittgenstein – não é uma questão que se refira a máquinas, mas sim a nós mesmos. Que prova tenho que, além de mim, alguém possua uma vida mental? Não poderia eu imaginar que todos ao meu redor são autômatos, mesmo se comportando como seres humanos?

É a partir de Wittgenstein que Nathan busca a inspiração para resolver a questão proposta a Caleb. Se, pela lógica de Wittgenstein, a resposta à pergunta formulada é impossível, as evidências de uma vida mental em Ava não deveriam ser buscadas nesta, mas sim em Caleb. O teste desenhado por Nathan visa a averiguar se Caleb interagirá com Ava de forma não só racional, mas também emocional e afetiva, como interagiria com qualquer outro ser humano. E é o máximo que podemos afirmar de nós mesmo diante da mesma questão. Partimos do pressuposto de que outros têm vida mental porque interpretamos empaticamente suas palavras e ações.  Ava parece compadecer-se ao saber da morte dos pais de Caleb e nele provoca compaixão ao se angustiar diante da possibilidade de ter sua mente formatada. Seu aparente desejo de ser amada, seus sonhos, fazem com que ele veja nela não uma robô – o que é evidente! – mas uma mulher.

Para encerrar este comentário, vamos ao gran finale. Toda afeição que Ava demonstrava por Caleb era apenas um artifício para ajudá-la a escapar do bunker e do controle de Nathan. Ao atingir seu objetivo, ela o deixa preso na casa e não demonstra qualquer conflito ou remorso por essa atitude. Sua frieza seria então a confirmação do contrário, de que Ava não teria qualquer consciência de si e de que toda sua ação seria fruto apenas de um software extremamente sofisticado? Se assim crermos, seremos forçados a admitir que aquele que pratica o mal é tão inumano como um robô.

Por fim, diante da liberdade e da beleza do mundo, Ava se enche de felicidade. Como qualquer um de nós se encheria.


(*) Dr. Paulo José Ribeiro Teixeira é psiquiatra, mestre em Ciências da Saúde, coordenador da Residência de Psiquiatria do Hospital da Previdência (Belo Horizonte) e psicoterapeuta titular do Centro de Psicoterapia Analítico-fenomenológico-existencial.

Referências bibliográficas:

  1. Dennett, DC. Consciousness explained. Boston: Back Bay Books, 1991. 511 p.
  2. Cabaleiro-Goas, M. Temas psiquiátricos. Algunas questiones psicopatológicas generales. Madrid: Editorial Paz Montalvo, 1965. 1258 p.
  3. Teixeira, PJR. A consciência e suas alterações. In: Rafael Miranda de Oliveira. (Org.). Seminários em Psicopatologia: da psiquiátrica clássica à contemporaneidade. 1ed.Belo Horizonte: Coopmed, 2013, v. , p. 219-238.
  4. Alonso-Fernández, F. Fundamentos de la psiquiatría actual. 3 ed. Madrid: Editorial Paz Montalvo; 1976. v. 1.
  5. Caruso, IA. Bios psique persona. Introducción a la psicología profunda in general. Madrid: Editorial Gredos; 1965. 335p.
  6. Damásio, A. Self comes to mind. New York: Panteon Books, 2012.
  7. Searle, JR. Dualism revisited. J Physiol Paris, 101, n. 4-6, p. 169-178, 2007.
  8. Bechtel, W. Consciousness: perspectives from symbolic and connectionist AI. Neuropsychologia, 33, n. 9, p. 1075-86, 1995.
  9. In: Os Pensadores. São Paulo: Editora Nova Cultural; 1996; 207p.
  10. https://roytsao.nyc/2015/04/17/ex-machina-and-philosophy-some-notes-after-wittgenstein/

 

Anúncios

Um comentário em ““Ex Machina” e o dilema da consciência

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s