March 11, 2025

Episódio XVI - Feedback Loops (retroalimentação)

No artigo da Wikipedia sobre sistemas, temos a seguinte definição e etimologia:

“The term system comes from the Latin word systēma, in turn from Greek σύστημα systēma: "whole concept made of several parts or members, system", literary "composition".^[2][3]”

Colocando de forma tosca e criminosa, é um amontoado de coisas que possuem alguma relação entre si. E esse combinado de coisas, agrupadas em um todo coeso, são capazes de produzir algo que as suas partes isoladamente não conseguem.

Forma é vacuidade, vacuidade é forma e uma coisa é sempre um amontoado de infinitas outras coisas e causas, das mais materiais e concretas às mais abstratas e intangíveis, porém igualmente reais. Pessoas também são sistemas, de carne e osso, emoções, pulsões e intelecto. A raiva que a gente sente, a ansiedade generalizada, trejeitos de personalidade e opiniões próprias são tão reais quanto intangíveis, e indissociáveis de tudo aquilo que contribuiu para a sua formação.

De forma simples, um sistema tem entradas e saídas. Coisas que não fazem parte do sistema entram nele e outras coisas saem dele.

O que entra alimenta o sistema. Esse alimento pode tanto passar a fazer parte de sua composição e estrutura quanto dar energia para o seu funcionamento. Também pode alterar seu funcionamento interno.

O que quer que saia do sistema é o seu produto: a comida que me alimenta e nutre me permite gerar calor corporal, que é dissipado no ambiente, além de todos os meus comportamentos e ações no mundo.

Enfim, coisas entram e coisas saem.

Só que vários sistemas se reatroalimentam de seus próprios produtos. Um exemplo é um comportamento condicionado: se agindo da forma X obtemos o resultado Y, e esse Y pode alimentar o sistema de alguma forma - amplificando ou modificando as ações de X, ou nos deixando mais propensos a a agir da forma X.

Outro exemplo clássico é colocar o microfone na frente da saída de audio e imediatamente ouvir o ruído insuportável de feedback sonoro, retroalimentado num sistema de som.

Dá pra substituir um microfone por uma guitarra, os captadores cumprem a mesma função. Dá até pra fazer arte com retroalimentação

Estudo e leitura poderiam ser considerados um exemplo de feedback loop, de forma ampla: as coisas que a gente lê e estuda modificam nossa visão de mundo e comportamento, que por sua vez vão modificar a maneira como estudamos e como fazemos nossa leitura de mundo.

Existem dois tipos de retroalimentação: a positiva (que aumenta o sinal/intensidade/output do sistema) e a negativa (que faz o oposto).

E é aí que mora o perigo. Porque dependendo do ritmo e da intensidade do loop retroalimentado, o sistema não aguenta o próprio output e entra em colapso. É o raio batendo na Torre, fazendo tudo ruir.

Bem vindos à crise climática.

Mas assim: o mundo é cheio de sistemas retroalimentados. Só que esse em especial é bastante crítico.

Outro exemplo é o caso das gororobas (slop) geradas por inteligêngias artificiais a partir de dados usados sem permissão. Esse produto de IA vai para a internet e acaba sendo usado pelas próprias IAs para gerar mais slop, num ciclo retroalimentado que termina com as IAs em colapso.

Nesse caso, o feedback negativo que geraria homeostase do sistema seriam os conteúdos e criações artísticas e intelectuais produzidas pelas pessoas. Só que ninguém quer ver o próprio trabalho alimentando IA de graça. E mesmo que quisesse, não daria conta de compensar o volume de treinamento e uso de IA até então, com todos os seus vieses e problemas.

É uma enorme construção, à base de sangue, suor, lágrimas e muita mufa queimada, feita sem autorização das partes envolvidas e com muita, mas muita hubris no meio. E que não caminha para uma homeostase (a boa e velha regulação que mantém o sistema em pé) - mas aí é um problema de quem concebeu essa máquina feita pra dar errado.

E sim, o uso de IA está relacionado à crise climática. Temos um sistema alimentando o outro aqui. Pois é.

O loop é um ciclo. Em outros tempos, circularidade pressupunha regularidade: o astrólogo helenístico sabia como seria o novo ciclo porque já o havia visto anteriormente. Time is a flat circle e a história não se repete, mas rima. Aliás, história linear veio bem depois, é coisa de ocidente moderno.

Mas será que os antigos tinham alguma noção de retroalimentação de um ciclo, a ponto de afetar o próprio ciclo?

Não sei se existem evidências históricas dessa possibilidade. O que temos são vários séculos separando o último filósofo estóico e a ilustração da carta da Torre, e mais alguns até a primeira teoria geral dos sistemas.

Mas eu gosto de pensar que em algum recanto da mente coletiva já existisse alguma idéia de ciclo dando errado e se materializando na ilustração da carta da Torre

Seria uma pesquisa e tanto.