dentesguardados #13 Autômatos

Redes neurais e olhos extirpados

ChatGPT e os autômatos de E.T. Hoffmann

Mas muitos dos veneráveis senhores não ficaram tranquilos; a história do autômato criara raízes em suas almas e acabou por instilar uma execrável desconfiança em relação a figuras humanas. Muitos enamorados, para se convencer de que a amada não era uma boneca de pau, exigiam que ela cantasse e dançasse fora do compasso, que quando eles lessem em voz alta ela tricotasse, bordasse, brincasse com o cãozinho etc., e sobretudo que ela não só ouvisse, mas também às vezes falasse de tal modo que se subentendesse que por trás das palavras havia pensamento e sensibilidade. O relacionamento amoroso de muitos ficou mais forte e também mais harmonioso; outros, no entanto, se separaram discretamente. "De fato não vale a pena", diziam alguns.
 

O trecho acima foi extraído de um texto escrito em 1815. O conto de Hoffmann, recém lançado no Brasil pela Ubu numa edição que é uma joia, com capa dura, ilustrações fartas de Eduardo Berliner e um posfácio de Márcio Suzuki, é famoso por ter atraído a atenção de Freud e antecipado elementos da psicanálise, além de elaborar numa chave de horror psicológico o assunto dos autômatos e da fronteira entre o natural e o artificial numa época em que a ciência apenas começava a avançar sobre esse imaginário. Eu não sabia de nada disso: o livro chegou pelo correio porque a Taís assina o clube de livros da Ubu. Mas quando peguei pra dar uma olhada, não consegui parar, e essa fábula imaginada no início do século 19 me pareceu ser um daqueles raros textos de ficção realmente prescientes, menos no sentido de serem capazes de prever tecnologias ou eventos futuros, mas sobretudo por antecipar certas consequências simbólicas e afetivas do avanço da história.

O conto é, em termos formais, uma narrativa epistolar dividida em duas partes. Tem um pouco de gótico, de romântico, de história de fantasmas. A criação de autômatos aparece de duas maneiras na evolução da trama. Primeiro, o pai do protagonista Nathanael e a diabólica figura de Coppelius procuram criar um ser artificial por meio de experimentos de alquimia. Para o menino que testemunha essas visitas sem entender o que se passa, esse Coppelius encarna a temível figura do homem da areia, um personagem de uma história para assustar crianças que não querem dormir. O homem da areia arranca seus olhos para alimentar os próprios filhos, criaturas semelhantes a corujas. Na segunda parte, o professor de biologia Spalanzani e o “vendedor de barômetros” Coppola conspiram na criação de Olimpia, autômato que se passa pela filha do professor e desperta a paixão de um Nathanael jovem adulto.

Ligando o autômato alquímico e o autômato científico estão os olhos, a parte do corpo que ativa o medo infantil na história do homem da areia e que se revela um desafio técnico aos criadores da boneca Olimpia. Como enfatizado no posfácio, esse elemento ocular pode ser visto como símbolo da cegueira e do complexo de castração como elaborado posteriormente por Freud. Mas também podemos ser levados a pensar em sua figuração paradoxal em Bataille, como órgão que capacita simultaneamente o horror da consciência e o êxtase que a transcende, e no desafio que o olho segue representando nas simulações tecnológicas do nosso presente, seja na confecção de robôs ou nas figuras da computação gráfica.

É o olho, sua extirpação e seu poder de troca de afeto, de penetração no espírito e na matéria, que desperta em Nathanael o terror infantil, primeiro, e depois o furor romântico que desemboca no delírio e na neurose. Os olhos abundam, sangrentos e deslocados em meio a outras figuras, nas ilustrações de Eduardo Berliner para a edição. Não tenho intenção de esboçar e muito menos esgotar todos os símbolos e relações possíveis em torno do olho nesse texto e em outros. Mas é preciso tê-lo em mente, pensar ao mesmo tempo na sua acuidade sensorial da qual tanto dependemos, na sua misteriosa complexidade, na sua fragilidade gelatinosa, e nas suas diversas versões tecnológicas que ampliam nosso conhecimento e mudam nossa forma de nos relacionarmos com o mundo: a câmera, o telescópio, a tela, o satélite e, agora, a inteligência artificial.
No trecho destacado na abertura desse texto, me chamou a atenção como Hoffmann pincela um assunto que se tornaria incontornável nas discussões do presente acerca dos potenciais e perigos da inteligência artificial: o desmanche das separações claras entre humano e artificial nos leva a mudar o nosso comportamento para que possamos nos distinguir das máquinas e assim seguir identificando o que nos torna humanos em nossas relações sociais e experiências subjetivas. Os “veneráveis senhores” exigem de suas namoradas comportamentos tolos e absurdos (que ela cantasse e dançasse fora do compasso, que quando eles lessem em voz alta ela tricotasse, bordasse, brincasse com o cãozinho etc.) para que possam verificar seu estatuto humano, de corpo-mente biológicos, por meio de comportamentos que não se esperaria da atuação mecânica, precisa e eficiente da máquina.

O medo de nos confundirmos com máquinas é combatido por meio da promoção forçada de comportamentos não computáveis. O resultado desse esforço, ironicamente, deverá ser uma nova forma artificial de agir: o enamorado espera que a moça fale de tal modo que se subentenda que por trás das palavras há pensamento e sensibilidade. Para alguns, nos diz o autor, essa situação reforça a harmonia dos relacionamentos. Para outros, porém, o dilema como um todo conduz a uma espécie de anomia em que o cultivo das relações humanas simplesmente “não vale a pena”.

Como costumo opinar sobre tecnologia e escrevi uma novela especulativa que gira em torno de consequências de projetos transumanistas, às vezes leitores querem saber o que penso sobre coisas como inteligências artificiais generativas (ChatGPT et cetera). A verdade é que até o momento elas não despertaram em mim o mesmo interesse que assuntos como a natureza da consciência. Me dá preguiça de interagir com essas ferramentas, em parte porque o mero ato de lhes fornecer parâmetros me dá a sensação de me sujeitar à sua lógica combinatória. Acho seus resultados ocasionalmente impressionantes ou curiosos, mas com mais frequência suspeitos, frios, menos significativos do que parecem ser à maioria das pessoas.

A razão me obriga a concordar que a IA vai transformar o mundo de maneiras radicais e em grande medida impensáveis -- como ficcionista e tradutor literário, não posso escapar dessa reflexão. Mas quando vejo um texto ou imagem gerado por IA, não consigo deixar de pensar que ao nos deslumbrarmos com esses resultados estamos modificando aos poucos nossos juízos para que a eficiência ao mesmo tempo sobre-humana e inumana da máquina avance mais um pouco em cima da ineficiência (ou do tipo diverso de eficiência) própria dos nossos corpos e espíritos, da incoerência e obscuridade salutares a uma vida humana bem vivida, que é menos regida por bancos de dados e processamento lógico e mais por interações exploratórias, renováveis, criativas e muitas vezes simplesmente improdutivas, inúteis ou absurdas.

Em tempos de ChatGPT, é como se vivêssemos numa era de autômatos que foram destituídos de corpo. A Olimpia de O homem da areia, a boneca de pau que imita o comportamento humano, é uma onipresença espectral que nos telefona para vender internet por fibra, escolhe o conteúdo de nossas timelines, define nosso trajeto pelas ruas e muitas vezes nosso destino, molda nossa linguagem e agora começa a redigir os processos judiciais e conteúdos noticiosos que tanto regem nossas vidas. Quando li a cena de Hoffmann sobre o impacto da boneca nos salões de chá, me peguei pensando em como as tecnologias reais do presente nos levam a adotar comportamentos que podem servir mais para validar a máquina (por simplesmente existir) do que promover nossos interesses genuínos.

Quando reclamamos de falta de tempo, de ansiedade, da falta de encontros presenciais e de experiências afetivas constantes e profundas -- e penso aqui também em relações de amizade, de trabalho, de mera coexistência significativa -- convém perguntar se não estamos agindo um pouco como os veneráveis senhores do salão de chá de Hoffmann: dando à tecnologia mais soberania do que deveríamos. Não se trata de uma postura antitecnológica: a boneca de pau e o ChatGPT são esplêndidos sob uma porção de pontos de vista. Não se deve rejeitar por princípio que autômatos e IAs possuam alguma forma de autonomia, de inteligência ou mesmo self. Essas perguntas estão e talvez sempre permaneçam em aberto. Mas qual seu lugar enquanto criações? A tecnologia, ressaltou famosamente Ursula Le Guin, é aquilo que podemos aprender a fazer. A existência de uma IA avançada justifica seu uso para mapear a perfuração de poços de petróleo numa era de crise climática? A simulação convincente de certos aspectos isolados da linguagem e do comportamento humanos justifica levarmos a lógica da otimização às nossas relações comerciais, sociais e pessoais?

Os olhares prodigiosos da máquina não substituem o olhar humano. Nem o olho no olho. Deveríamos preservar em nossa experiência de mundo aquele olho extirpado que faz a ponte entre a alquimia e a ciência. 
 
Como ficcionista e tradutor, tive conversas com amigos (a maioria por WhatsApp) sobre o impacto que as IAs terão sobre o nosso trabalho. Há certo consenso de que as IAs serão capazes, dentro de alguns anos, de traduzir satisfatoriamente quase todos os livros de não ficção e provavelmente os livros de ficção em que a linguagem se mantenha dentro da ortodoxia gramatical e de temas presentes no debate público, sem muitas idiossincrasias estilísticas (pensemos nos romances de Ian McEwan). Mas a cena da boneca de pau no salão de chá se aplica aqui também. A qualidade da tradução (e da ficção, e da poesia...) feita pela máquina dependerá muito de nossa posição diante dos resultados apresentados. Em que medida estaremos dispostos a aceitar a eficiência quase perfeita de uma IA se isso implicar em fazermos vista grossa a certas nuances, certos preciosismos contextuais que pressupõem do autor, do tradutor e do leitor uma vivência concreta de corpos-mentes no mundo? A tradução feita por um humano tampouco é perfeita. Mas há imperfeições e imperfeições -- para nós, diferente do computador, a imperfeição não raro pertence a qualidades como personalidade, estilo, poesia, intuição, criatividade digna do nome. E é justamente aí que nossas escolhas contam. O que levamos em conta ao falar de traduzir satisfatoriamente?

Estou traduzindo Suttree, romance de 1979 de Cormac McCarthy. Semanas atrás, só pra experimentar, forneci ao mecanismo de busca Bing, da Microsoft, que incorporou um sistema de chat integrado ao ChatGPT4, uma solicitação para traduzir a oração "bawdy dogstar in the ordurous jaws of fellatio major". A resposta foi: A tradução para o português da frase "bawdy dogstar in the ordurous jaws of fellatio major" é "estrela cão obscena nas mandíbulas fedorentas do fellatio maior." Espero que isso ajude :)"

O resultado não é horrível (muitos humanos fariam pior). "Dogstar" é a estrela Sirius, também conhecida como Canis Majoris ou também Canícula, de acordo com o Houaiss. "Estrela cão" é uma tradução literal, mas não soaria de todo mau no estilo do texto. "Fellatio maior" está distante do que eu consideraria satisfatório. A "estrela cão", no caso, é metáfora para o brilho do dente de ouro de uma prostituta avistada pelo narrador em um beco. McCarthy, nesse trecho, está fazendo um trocadilho com o nome da constelação Cão Maior, sugerindo sexo oral. Eu expliquei esse contexto ao chat do Bing, e ele me sugeriu então traduzir "fellatio major" como "felação maior". O bichinho tentou aprender, mas... falta um certo jogo de cintura.

Eis a minha versão (que pode mudar nas revisões por vir): "canícula torpe na bocarra devassa de Goela Maior". Você tem o banco de dados e a rede neural, Bing. Eu tenho a liberdade. E sei que a sonoridade de uma frase no ouvido interno é a projeção de um caleidoscópio de experiências no mundo lá fora, um eco numa vasta galeria de fenômenos analógicos.

Quanto ao leitor (e editor) em seu salão de chá, espero apenas que não se entregue, como os veneráveis senhores de Hoffmann, a uma execrável desconfiança em relação a figuras humanas.
 
Começando com esta décima-terceira edição, a newsletter "dentesguardados" passará a ser enviada sempre no primeiro domingo de cada mês. Quero tentar impor alguma regularidade e, enfim, toda essa coisa de deixar esses rastros de texto vida afora, que vinha funcionando bem pra mim e deu uma caída nos últimos anos.

Hoje não tem seção de links, mas tem playlist: compartilho com vocês a minha playlist "Trabalho", onde coloco álbuns que gosto de ouvir quando me sento pra trabalhar concentrado. A maioria é música ambient, mas tem algo de blues/folk e outras que não sei bem classificar. (Pra traduzir Suttree tenho escutado drone metal e coisas lentas e pesadas, mas falo mais disso depois: a próxima edição provavelmente será sobre essa tradução em progresso.)
Obrigado pela leitura :)

Abraços

DG