dentesguardados #35 Validação
#35
Validação
Abro o rascunho da ficção que estou escrevendo e faço o exercício mental de que poderia recorrer a uma ferramenta de IA pra me ajudar. Talvez eu pudesse alimentar um modelo de aprendizado de linguagem com a íntegra dos meus romances e pedir que a IA redija uma passagem com tal e tal personagens, onde tal e tal coisa acontece, especificando detalhes de estilo, como descrições bem detalhadas do oceano e diálogos breves que omitam o que os personagens estão realmente pensando. Tento pensar em um punhado de prompts diferentes pra guiar a ferramenta a expelir texto que corresponda minimamente à cena que tenho em mente, e em seguida imagino como seria revisar e lapidar o texto entregue pela máquina até atingir um resultado que possa chamar de meu. Imagino também estratégias mais modestas: escrever eu mesmo um rascunho da cena e entregar à IA para que a desenvolva melhor, ou somente fazer consultas pontuais solicitando alternativas de adjetivos ou metáforas para um parágrafo específico.
Imagino tudo isso e em nenhum momento me percebo como um escritor de ficção escrevendo ficção. O criador, nesses exercícios de pensamento, me parece ser um plagiador de si mesmo e um indivíduo se servindo de atalhos que driblam a natureza vacilante de uma subjetividade almejando expressão para buscar, em vez disso, uma espécie de validação externa que pouco ou nada tem a ver com o valor que desde sempre atribuiu à leitura e à escrita.
Saio desse exercício mental pensando acima de tudo nessa ideia de validação. A literatura que é serva de validações externas sempre existiu, e com frequência se revela lucrativa ou é premiada. Todo escritor em processo de criação lida em alguma medida, embora não necessariamente de modo servil, com atribuições de valor internas e externas, com a concordância a certas expectativas e padrões, entre os quais podem estar a fidelidade às suas próprias crenças, ideias e emoções; a excelência do trabalho de outros escritores; o confronto das expextativas do leitor ou a satisfação dessas mesmas expectativas; os critérios do mercado editorial no momento em que trabalha; os manuais e oficinas de escrita criativa desse mesmo momento; o gosto particular de uma pessoa amada ou odiada; o tratamento de certos temas socialmente relevantes et cetera. As validações que movem um escritor não dizem tudo, mas dizem muito sobre ele.
A ascensão da IA como ferramenta criativa é sintoma da ascensão de certos critérios de valor específicos: a velocidade, a eficiência e, acima de tudo, a certificação fornecida por modelos de informação baseados unicamente em processamento estatístico (uma IA generativa é isso). A presença cada vez mais dominante desses critérios de valor não é um sintoma da IA. Pelo contrário, a absorção ampla e fulminante da IA pela população em geral e — cada vez mais — pelos escritores, redatores e jornalistas em específico é ela mesma sintoma de critérios de valor já amplamente disseminados na sociedade neste milênio. Há quem os chame de capitalismo tardio. A quantificação quase total da experiência humana, a mesma que monitora os empregados do Itaú ou transforma uma corridinha ao ar livre em um relatório de índices numéricos de desempenho a ser compartilhado nas redes, é uma ideologia que se expande há séculos e teve impulso de uma série de tecnologias; a IA é o mais recente e radical vetor da sua aceleração.
Tese: é somente sob o signo dessa validação de eficiência específica que um escritor de ficção se dispõe a recorrer à análise estatística avançada de um modelo de aprendizado de linguagem para buscar seus objetivos expressivos. A IA nada cria, nem sozinha nem em “colaboração” com humanos; o que ela faz é certificar estatisticamente o texto para que sirva aos critérios de valor de um mundo regido pela eficiência quantitativa, pela velocidade e pela produtividade.
∷
Para a maioria dos escritores e leitores, vai ser isso aí mesmo. Não se pode esperar muita resistência a esse processo. Na verdade, é de se esperar uma adesão entusiasmada e lúbrica aos poderes aparentemente mágicos dos modelos estatísticos de linguagem. Editoras já estão usando IA para traduzir ficção, contratando tradutores apenas quando necessário para revisar o output da máquina, a um valor de lauda naturalmente muito inferior. Alguns editores me dizem que já usam IA para certos processos mais repetitivos e não criativos do trabalho editorial, mas dando a entender que logo ela será pertinente, e depois inevitável, em processos criativos também.
Escritores de ficção que conheço pessoalmente ainda não usam IA de modo significativo em seu trabalho, mas muitos ficam embasbacados com os resultados dos testes que fazem. Para alguns deles, é somente questão de tempo. No subtexto dessas conversas está a inevitabilidade da ferramenta, o receio e desejo simultâneos de atenuar ou terceirizar o esforço criativo no intercurso com a fadinha cibernética, a promessa de encurtar a trilha incerta entre a imagem mental perfeita do livro e a sua concretização imperfeita, de imolar a lerdeza exasperante da escrita no altar da otimização. Há quem diga que saber redigir prompts será uma arte humana ou que a morte do autor, agora sim, sobrevirá para dar acesso a um tipo novo de narrativa, mais sintonizada aos modos de existência que florescem na tecnosfera. Esse sacrifício ritual do autor e sua arte humana libera êxtase, é compreensível a atração. Até o autor perceber que ele mesmo, seus pares e todos os potenciais leitores também estão nesse altar, que se expande até abarcar a totalidade dos seres humanos comunicantes. A lâmina da adaga os converte em pontos de informação em uma fazenda de servidores, e onde está o valor literário agora, camaradas? Eu perguntaria aos donos dos data centers.
∷
Em um artigo publicado na Folha de SP (que recomendo que leiam antes de prosseguir), Rodrigo Tavares apresenta quatro possibilidades não excludentes entre si de transformação da atividade literária e do mercado editorial devido ao desenvolvimento da IA. A primeira, segundo ele a mais provável, é a da co-autoria. A criação literária se tornará um processo de perguntas e respostas entre humano e máquina, resultando numa colagem colaborativa. A segunda possibilidade é a de resistência: os livros se convertem em “artefatos de luxo, carregando a marca da lentidão, da limitação e da falibilidade.” A terceira é a de livros escritos por IA e validados pelo escritor. Treinada com o estilo desejado pelo autor, a máquina produz o manuscrito e o escritor o revisa e lapida. A quarta é do livro interativo que é escrito pela máquina e seus sensores biométricos enquanto o leitor o lê.
As previsões de Tavares não são implausíveis de um ponto de vista tecnológico. Mas seu texto, mesmo sem se posicionar explicitamente em defesa dessas transformações, é exemplar do que estou tentando descrever ao falar dessa validação de eficiência que gera um certo entendimento restrito e equivocado do que é autoria e valor literário. Tavares lembra corretamente que o livro nunca foi indissociável das mídias, tecnologias e processos que envolvem sua produção, da pena dos copistas ao computador pessoal, e que a originalidade literária é um conceito ambíguo. A IA, assim, apenas tornaria a confusão entre instrumento e coautoria mais evidente. Porém, não existe mera continuidade entre a evolução de técnicas da ação mecânica de escrever e a criação de uma máquina de produzir conteúdo a partir de força bruta computacional, ainda que a partir de inputs humanos. A IA não é uma máquina de criação, e sim de produção.
Os argumentos iniciais de Tavares começam a soar estranhos quando ele passa a elaborar suas previsões fornecendo exemplos. “Borges lia a Encyclopaedia Britannica como quem lia um romance”, diz, para em seguida perguntar se haverá escritor, hoje, que não usa a internet constantemente para fazer pesquisas enquanto trabalha. Entre pesquisar fontes e referências para alimentar a criação e recorrer a um modelo de linguagem estatístico para gerar texto há uma diferença qualitativa que não parece importar para ele. O uso humano de enciclopédias, dicionários de sinônimos e bibliotecas pessoais (que representam percursos de leitura únicos e entremeados com a experiência de vida) não corresponde ao processamento estatístico ultraveloz que a máquina faz dos vastos bancos de dados digitais para fornecer respostas aos inputs de um usuário. Em outras palavras, a Encyclopaedia Britannica não era um atalho para Borges, uma busca de certificação de eficiência para o texto, e sim um caminho de autoaprendizado, composição criativa incremental e grande esforço em direção a uma noção de validação literária medularmente distinta daquela fornecida pelo ChatGPT.
Quando elabora a segunda possibilidade, a da resistência contra a máquina, Tavares faz uma descrição questionável dos “autores que escrevem por necessidade íntima”:
Escritores que proseiam como escuta interior talvez se bastem a si mesmos e sejam, por isso, menos permeáveis às mutações da indústria cultural e às transformações dos instrumentos de escrita. Mas continuando a haver leitores que gostam de espiar as intimidades de terceiros, nascerá um mercado de luxo exclusivo para esse tipo de literatura.
A redução da defesa do valor literário enquanto expressão exclusivamente humana a formulações desse tipo — “escritores que proseiam como escuta interior”, “leitores que gostam de espiar as intimidades de terceiros” — é profundamente limitada, assim como a caricaturização do nicho literário como “um mercado de luxo exclusivo”, preservado por “copistas medievais” produzindo livros que serão “o café de civeta das letras: raro, caro, exótico, impuro na sua pureza”. Acho significativo que o tom descambe para o deboche nessa passagem. Por mais que esteja fundamentada na subjetividade do autor, literatura não é sinônimo de veleidades íntimas compartilhadas com leitores que gostam de espiá-las. Ele não tinha acabado de citar Borges e Flaubert? No mercado de luxo exclusivo do futuro não cabem Hilda Hilst, João Gilberto Noll, Os sertões, Um defeito de cor? Esse sofisma não ajuda a pensar o assunto.
No comentário sobre a terceira possibilidade, a dos livros escritos por IA e validados pelo escritor, Tavares se baseia nos agentes de IA capazes de “capturar o estilo único de um escritor” a partir da análise de “todas as suas obras, todas as suas participações na mídia, tudo o que alguma vez escreveu e disse.” Eu sei que essas ferramentas existem e entendo que seus resultados são à primeira vista muito impressionantes. Mas desconfio da conclusão de que “o valor do escritor residiria, assim, mais no seu estilo literário único que na sua manifestação em obras concretas, como um cavalo puro-sangue que tem seu sêmen vendido a preços elevados.”
O estilo de um autor não é somente uma destilação estatística de tudo que ele escreveu anteriormente. Ainda que o estilo possua elementos recorrentes que possibilitem a ilusão de uma imitação quase perfeita, ele emana da vivência continuada de um indivíduo em suas relações consigo mesmo, com as outras pessoas e com o ambiente em que vive. A conversão dessas relações em linguagem não é um processo algorítmico. O estilo oscila, muda, se transforma com o tempo, reage aos estímulos da nossa incessante interação com o mundo, nega a si mesmo constantemente. A textura dessa oscilação, que escapa a uma análise estatística e probabilística, contribui tanto ou mais que os padrões recorrentes para a formação do estilo, e o leitor que aprecia o estilo de um autor está sempre sensível a ela, mesmo que de forma não consciente.
Por trás das formulações desses cenários futuros estão determinadas ideias do que é um instrumento de pesquisa, uma escrita calcada na subjetividade humana, um estilo de um autor. Essas ideias só podem parecer autoevidentes para quem entende que a criação artística pode estar submetida completamente aos critérios de validação de eficiência, metrificação e produtividade que regem a sociedade contemporânea. A literatura, como toda forma de arte, é o domínio da liberdade plena de expressão, mas há limiares que, uma vez ultrapassados, a descaracterizam. Um texto publicitário nunca será arte, pois sua mensagem é sempre a mesma: consuma isso. O risco proporcionado pelas ferramentas de IA à literatura é do mesmo tipo. Não se trata tanto de indagar se o autor segue sendo um autor e se ele está de fato criando algo ao recorrer ao apoio da geração de texto de um modelo de linguagem estatístico — a resposta nos dois casos é sim —, mas de afirmar que a qualidade de comunicação que se estabelece entre criador(es) e leitores na escrita mediada pela IA é diferente daquela que caracteriza a escrita literária.
∷
Rodrigo Tavares, de acordo com a minibiografia em seu artigo, é “professor catedrático convidado na NOVA School of Business and Economics, em Portugal”, onde dará aula “em uma sala equipada com sensores e óculos de realidade virtual e aumentada”. Foi “nomeado Young Global Leader pelo Fórum Econômico Mundial em 2017.” Em outro artigo publicado em junho passado no mesmo jornal, intitulado “A economia dos inúteis”, ele trata das “formas alternativas de produção de valor que não se deixam capturar por uma lógica de rentabilidade.” Com as mudanças no mercado trazidas pela IA e outras novas tecnologias, faria cada vez mais sentido atribuir valor econômico a atividades improdutivas ou periféricas, entre elas “atividades ligadas a vínculos interpessoais, mediação emocional, criação simbólica, gestão do tempo livre e bem-estar subjetivo.” O artigo conclui afirmando que “a economia dos inúteis, longe de ser um apêndice do sistema industrial ou um modelo antissistema, será o que permitirá que os humanos continuem sendo humanos.”
Já eu acho que continuaremos sendo humanos se soubermos desconfiar desse tipo de economiquês e da pertinência das promessas de eficiência, velocidade e imediatismo postuladas pelos produtores e defensores das IAs. No campo específico da criação literária, seria ingênuo esperar uma rejeição em bloco das novas ferramentas, e aposto que linguagens e experiências narrativas interessantes vão ocasionalmente aparecer daí. O que podemos esperar é que as escritas se tornem cada vez mais recursivas, como é da natureza do funcionamento desses modelos de linguagem estatísticos, empobrecendo a variedade e a riqueza das narrativas a cada nova iteração. Como já se verifica nas séries de TV produzidas por canais de streaming, se instalará uma noção cada vez mais pobre do que é um bom texto literário, à medida que qualidades não quantificáveis e lucrativas vão sendo excluídas dos resultados. A hipnose da eficácia colapsará o que resta da distinção entre criação artística e produção de conteúdo.
A discussão toda recai, como sempre nos debates sobre benefícios e malefícios da IA, no delineamento daquilo de que estamos dispostos a abrir mão em nome da atribuição de inteligência à máquina, correndo o risco de nos emburrecermos sem perceber. A literatura de resistência ao avanço da IA não é mais pura, ela é essencialmente outra coisa. Ela não nega os poderes da máquina para gerar textos com linguagem que parece natural, mas lhe nega o valor literário. Antes de abraçar previsões e convertê-las em profecias que se autorrealizam, temos que entender com a maior clareza possível que tipo de validação estamos procurando atender, como leitores e escritores, ao adotar essas ferramentas, e ter em mente que a melhor literatura opera no sentido oposto da otimização probabilística. E então fazer nossa escolha consciente.
∷∷∷
A newsletter 'dentesguardados' é aberta a todos e aceita doações espontâneas dos leitores que desejarem bancar a mensalidade do Buttondown (29 dólares/mês) ou apoiar a minha escrita de modo geral. Considere clicar aqui ou usar a chave PIX "contato@danielgalera.info" para enviar um pagamento de qualquer valor. Agradeço de coração :)
Mais informações sobre mim: http://danielgalera.info
ⓒ Daniel Galera