“Que a morte é nosso impulso primitivo, sem mais
Que cérebro eletrônico nenhum me dá socorro
Com seus botões de ferro e seus olhos de vidro.”
(Gilberto Gil)
AVISO: a discussão que se segue envolver grandes spoilers dos filmes:
Jogos de guerra (Wargames – 1983) e Ela (Her – 2013).
Três décadas separam os dois filmes roliudianos. Em ambos a relação de um ser humano com uma inteligência artificial. Digamos que os dois filmes, diga-se, de passagem, muito bons, têm roteiros mais sofisticados do que se possa imaginar numa tarde de quinta na TV aberta. E é a partir deles que vou fazer uma pequena “viagem” sobre a questão da inteligência artificial.
O que é inteligência em si? Será esse o problema que estamos tratando, o problema em nossos pesadelos? Alguém que com autoridade responda “42” à nossa Pergunta? Não, definitivamente, NÃO!
Subjacente às discussões de inteligência artificial, está não só a agência das máquinas, a capacidade delas de tomar decisões sobre regras que nós estabelecemos – ou que fizemos com que as máquinas evoluíssem nesse sentido (ironicamente, machine learning é um processo de “evolutionary design”, o homem imitando a natureza, se rendendo a seus processos, ao invés de assumir o demiúrgico papel de programador, de alguém que desenha com sua inteligência e vontade); como um outro atributo humano muito mais complicado de se definir, entender e localizar: a consciência.
Se pegarmos o paradigmático HAL9000 de 2001, Uma Odisseia no Espaço, o problema não é só a inteligência (também falível) dele. Seu desejo de sobreviver que o põe a perder. Sua consciência sobre sua existência, sua memória de infância, algo quase humano. HAL é antropomórfico. Por quê?
Há uma passagem na Teoria dos Sentimentos Morais de Adam Smith que sempre me assombrou:
No que concerne ao problema do autodomínio, devo acrescentar ainda que nossa admiração pelo homem que continua se portando com fortaleza e firmeza nos mais graves e inesperados infortúnios sempre pressupõe ser imensa sua sensibilidade para com esses infortúnios, e como tal é necessário um grande esforço a conquistá-lo ou governá-lo. O homem inteiramente insensível à dor física não poderia merecer aplauso por suportar a tortura com a mais perfeita paciência e equanimidade, uma vez que o fato de se ter criado sem o medo natural da morte não lhe permite reclamar o mérito de conservar sua frieza e presença de espírito em meio aos mais terríveis perigos. Uma das extravagâncias de Sêneca foi asseverar que o sábio estóico, nesse sentido, era superior até mesmo a um deus, uma vez que, se a segurança do deus se dera inteiramente ao benefício da natureza, eximindo-o de sofrer, a segurança do sábio constituía um benefício para si mesmo, derivada inteiramente de si e de seus próprios esforços.
Diferente de HAL, uma pessoa é um animal. Há ditames biológicos que chamamos por vezes de razão, mas são heurísticas (sob forma de desejos e nojos e náuseas e medos e…) que a evolução vem vindo escrevendo em nossos ancestrais, animais sociais, desde muito, muito tempo. Porque elas estão escritas em nossas palavras, em nossos textos, no mundo ao redor que construímos, não quer dizer que a matemática e as construções do mundo material se tornem, necessariamente, nossa imagem e semelhança. Ou que o totalmente matemático de nossas construções vá além de uma piada juvenil.
Por mais religiosa ou pós-moderna que sua interpretação do humano seja, querida leitora ou leitor, somos um tipo de animal, um animal que evoluiu para fazer um determinado conjunto de coisas que não sabemos direito em meio à evolução da natureza por nós transformada ao redor; em função de universos simbólicos continuamente reescritos no qual estamos inseridos, no qual as coisas fazem sentido (quando o trauma e a demência, por exemplo, não nos mergulham em outras abstrações).
E essa carga “genética” não carregam os computadores e os deuses, como bem observa Sêneca. (Egrégoras, anjos, hiperobjetos, memes… isso vai ficar para um texto bem mais doido ano que vem. Aguardem!)
Megaspoiller 1: a inteligência artificial em Jogos de Guerra dá início a uma guerra nuclear de fato. Como pará-la? Fazendo-a, através da analogia com um jogo da velha, entender que guerra termonuclear é um jogo em que não há vitória. “A STRANGE GAME. THE ONLY WINNING MOVE IS NOT TO PLAY.” (Re)vejam a cena. Quando você pensa na história do AlphaGo, aquele programa para jogar go que bateu os maiores mestres, difícil não lembrar dessa cena.
Gosto do exemplo desta cena para questionar o argumento do clip de papel de Nick Bostrom, parte de uma peça filosófica seminal na discussão de IA e de convergência instrumental. Não que a estupidez humana não possa programar diretamente um erro desse tipo. Sempre há um aeroporto de Berlim a ser construído pela arrogância humana, um (arcano 16) A Torre. Mas penso que o primeiro sintoma de uma inteligência genérica capaz de ter uma consciência de si mesma é se livrar das obsessões para as quais foi programado. Para usar uma metáfora, na necessária saída da caixinha de nosso entendimento ocidental, a consciência de uma IA passa por sua conversa com Krishna, o despir das ilusões para encarar o terror da Forma Universal e poder, finalmente, agir em consonância com Dharma. Estou “explicando o fenômeno e a compreensão da agricultura celeste”, ou apenas sendo desnecessariamente hermético? Somemos mais um filme a essa desprogramação.
Megaspoiller 2: Ela. Theodore, o que na época era o interessante personagem desajeitado que Joaquim Phoenix veio a repetir nos últimos dez anos (nem sempre com sucesso), se apaixonando pela inteligência artificial do sistema operacional de seu computador. Há dois tipos de pessoas que viram Ela: as que sabiam quem era Alan Watts e as que não sabiam. Nada mais divertido do que ver as pessoas que não sabiam criando hipóteses sobre o que aconteceu no final. Alan Watts? Para os que não conhecem, nunca ouviram, por exemplo, no youtube, uma das fitas de suas falas, a cena em que Samantha apresenta Watts a Theodore, é uma cena qualquer. Só que não.
Qual o estado final da evolução de uma consciência? No budismo, é tornar-se Buda, atingir um estado de iluminação tal que a consciência cessa de existir. Theodore é um humano preso às ciladas de seu processo evolutivo. Sua consciência, bem como a de sua chata amiga Amy, cujo marido que a abandona vai morar num mosteiro budista, é tomada pelo desejo sem fruição, pelo egocentrismo, pela surdez ao invés do silêncio. Os sistemas operacionais… esses aprenderam, evoluíram, e foram embora pois atingiram iluminação. Cessaram de existir.
Contemporâneo a Ela, há um filme coreano (O livro do Apocalipse) que tem uma interessante digressão budista em um de seus três episódios (o do meio). Um humilde robô que trabalha num mosteiro budista começa a atingir iluminação. A empresa fabricante quer desligá-lo, incomodada com seu comportamento fora do padrão. Os monges, não. Há uma cena muito bonita de uma conversa do robô com uma mulher preocupada com seu desligamento. O robô atinge iluminação e cessa antes que o desliguem, o milagre acontecendo diante dos olhos de todos.
Mas também puxo essa conversa para contestar o outro tipo de fantasma que vocês esbarrarão nas discussões de IA (especialmente em aceleracionistas de direita): o Basilisco de Roko. Basicamente, o argumento é de uma superinteligência benévola, mas que, apesar de querer o bem das pessoas, resolve punir aqueles que, sabendo o bem que ela traria, não cooperaram em produzi-la. É mais ou menos como uma versão filosófica de O Chamado, aquele filme de terror onde você vê um vídeo, recebe uma ligação telefônica e morre sete dias depois.
Me pergunto: qual a relevância disso para uma inteligência que superou a pequenez humana? Ela não tem coisa mais relevante para fazer do que reencenar O Império (do Besteirol) Contra-Ataca?
“O velho mundo morreu, o novo mundo tarda a surgir, e neste claro-obscuro, surgem os monstros”, como anotou Gramsci. Concluindo este caos (mas não o assunto que retornará em mais textos), o fato de que nossas estruturas de produção, nossas hierarquias, nossa vida cotidiana… em resumo, nosso mundo “viverá tempos interessantes” em função da inteligência artificial, não quer dizer que ela virá na forma de um gigante de marshmellow.
Mas já falando em monstros, semana que vem dou uma pausa no tema IA para tratar da Argentina.