A quarta revolução é para dentro

Uma pessoa escreve um parágrafo e pede a um assistente de inteligência artificial que o melhore. O texto volta mais claro, mais elegante, com uma palavra aqui e outra ali que ela jamais teria escolhido. Ela aprova. Semanas depois, relendo, já não sabe ao certo o que era dela. E nota outra coisa: ao escrever o parágrafo seguinte, já escreve pensando no que o assistente faria com ele.

Nada de dramático aconteceu. Ninguém a enganou, ninguém a obrigou. Ainda assim, alguma coisa mudou no modo como ela vê o próprio texto, e talvez no modo como internaliza as próprias ideias.
Cenas assim se multiplicam no cotidiano. Penso que elas dizem mais sobre a nossa época do que as imagens habituais da quarta revolução industrial: fábricas sem operários, algoritmos que substituem profissões inteiras. Tudo isso é real e importante. Mas o elemento mais profundo dessa revolução não está do lado de fora. Ela é, antes de tudo, uma revolução para dentro.

As revoluções industriais anteriores transformaram o mundo que percebemos. Esta alcança o próprio perceber. Ela intervém naquilo que aparece diante de nós e nas palavras com que organizamos a experiência. E produz um efeito inesperado. Obriga-nos a notar que a percepção sempre foi formada por alguma coisa. Que nunca percebemos de lugar nenhum.

É dessa descoberta que quero falar. Lamentar a técnica ou celebrá-la me interessa menos do que entender o que ela mostra sobre algo muito mais antigo do que ela: a maneira como cada um de nós se torna capaz de ver o mundo.

O sujeito que a filosofia política supôs pronto

A filosofia política moderna construiu-se sobre uma figura silenciosa, a de um sujeito que já chega pronto. Em Hobbes, em Locke, e muito mais tarde em Rawls, a pessoa que entra no contrato ou na deliberação já percebe o mundo, já tem desejos, já sabe o que considera razoável. A pergunta política vinha depois. O que fazer com esse sujeito? Quanto poder se pode exercer sobre ele?

A formação da percepção, isto é, o processo pelo qual alguém passa a ver o mundo de um certo modo, ficou fora dessa conversa. Foi entregue à psicologia e à pedagogia. Parecia um assunto anterior à política, quase um dado da natureza.

Havia uma razão para essa divisão de trabalho. Os processos que moldam a nossa percepção eram lentos, difusos e anônimos. A língua materna, a cultura, a família, a religião, a escola. Todos agiam sobre nós, mas ninguém os operava de uma sala de controle. Ninguém ajustava, pessoa por pessoa e em tempo real, aquilo que cada um passaria a notar. A formação do olhar, e com ela a da consciência, parecia simplesmente acontecer.

Era como o ar. Todos respiram, ninguém escolheu a composição da atmosfera, e por isso ninguém pensa em discutir quem a define. A percepção ocupava esse mesmo lugar: tão presente e tão compartilhada que parecia não pertencer a ninguém.

Essa invisibilidade tinha um custo teórico. Se ninguém opera um processo, é fácil esquecer que ele existe. Tratamos o observador como ponto de partida, quando ele é um resultado.
Não nascemos observadores prontos. Tornamo-nos observadores, e sempre em relação a alguma coisa.

Somos animais que se interpretam

O filósofo canadense Charles Taylor tem uma fórmula para isso. Diz que o ser humano é um animal que se autointerpreta. A frase parece modesta e carrega uma tese forte.
Uma pedra não se interpreta. É o que é, independentemente do que se diga dela. Com os seres humanos a coisa muda. Aquilo que sentimos, aquilo que nos envergonha ou nos orgulha depende, em parte, da maneira como compreendemos a nós mesmos. E essa compreensão não chega de fora, depois que a experiência já aconteceu. Ela entra na experiência e a transforma.

Pense em alguém que passou anos sentindo um cansaço que não passava com férias nem com sono. Achava que era preguiça e se culpava por isso. Um dia ouve uma palavra nova para aquele estado e reconhece nela a própria história. A palavra não apenas nomeia o que ela já sentia. Muda o que ela sente. O cansaço deixa de ser falha de caráter e passa a ser consequência de algo. A culpa perde o chão. A pessoa passa a se perceber de outro modo, e talvez pare de se acusar.

Taylor chama atenção para um detalhe decisivo. Esse vocabulário não é inventado por cada um. Nós o recebemos. Aprendemos com outros as palavras para vergonha, dignidade, amor. Pertencemos a uma comunidade de linguagem antes de sermos capazes de escolher qualquer coisa. Quando uma criança aprende o que é ciúme, não aprende apenas o nome de um sentimento que já tinha. Aprende uma maneira de organizar o que sente.

Isso não faz de nós marionetes da linguagem. Podemos criticar as interpretações que recebemos, recusar algumas, reinventar outras. Mas fazemos isso sempre a partir de algum lugar, com as ferramentas que nos foram dadas.

Se Taylor tem razão, a ideia de um sujeito que primeiro percebe o mundo de forma neutra e depois o interpreta é uma ficção. A interpretação está lá desde o começo. E vem, em grande parte, de fora.

O horizonte que foi criado

Cornelius Castoriadis, filósofo grego que viveu e escreveu na França, levou essa intuição do indivíduo para a sociedade inteira.

Para ele, toda sociedade cria um conjunto de significações que definem o que conta como real, desejável e possível para quem vive nela. Castoriadis chamou isso de imaginário social. Não se trata de fantasia no sentido comum da palavra. Trata-se da trama de sentidos que faz com que certas coisas pareçam naturais e outras pareçam impensáveis. O que é uma família. O que é trabalho digno. O que significa ter sucesso. O que é um corpo bonito.

Nenhum de nós escolheu essas significações. Nascemos dentro delas. E, na maior parte do tempo, nem sequer as notamos, porque não as vemos como significações. Vemos através delas. São como óculos que esquecemos que estamos usando. Só percebemos que existiam quando viajamos para um lugar onde as coisas óbvias são outras, ou quando lemos uma carta escrita há cem anos e estranhamos o que parecia natural para quem a escreveu.

A parte mais interessante do pensamento de Castoriadis vem a seguir. Ele distingue duas atitudes diante desse horizonte. A primeira toma o horizonte como dado, algo que vem de Deus, da tradição, da natureza das coisas. Castoriadis chama essa atitude de heteronomia. A segunda reconhece que o horizonte foi criado por seres humanos e que, por isso, pode ser questionado e transformado. A essa atitude ele chama autonomia.

Note o que isso implica. Para Castoriadis, ser autônomo não é escapar do imaginário social. Isso seria impossível, porque ninguém pensa fora de algum horizonte de sentido. Ser autônomo é saber que o horizonte foi instituído, ter a lucidez de que aquilo que parece óbvio poderia ser de outra forma.

É uma ideia de autonomia muito distante da imagem do indivíduo isolado, separado da realidade que observa. Ela não exige que sejamos a origem absoluta das nossas premissas. Exige algo mais modesto e mais difícil, que sejamos capazes de perceber a origem delas.

Guarde essa definição, porque ela volta no fim. Autonomia, aqui, é a capacidade de notar que o nosso modo de ver foi formado.

Ninguém percebe de lugar nenhum

Até aqui falei de linguagem e de cultura. A ideia de que a percepção é formada pode ir mais fundo, até o corpo.

Os biólogos chilenos Humberto Maturana e Francisco Varela dedicaram boa parte da vida a mostrar que o sistema nervoso não funciona como uma câmera que registra um mundo pronto. Um organismo não recebe informações neutras do ambiente. Ele reage a partir da própria estrutura, e é essa estrutura que determina o que, para ele, conta como diferença. O sapo e o morcego não veem pior ou melhor que nós o mesmo mundo. Cada um vive no mundo que a sua organização permite distinguir.

Maturana e Varela abrem um de seus livros com uma experiência simples. Duas luzes iluminam um objeto, uma branca e outra vermelha, e a sombra projetada aparece aos nossos olhos com um tom verde-azulado. Só que não há luz verde-azulada nenhuma chegando daquela sombra. A cor que vemos não está no ambiente. Ela é produzida pela maneira como o nosso sistema nervoso organiza o que recebe. Vemos com toda a nitidez algo que o mundo, sozinho, não contém.

Com os seres humanos isso ganha uma camada a mais, porque distinguimos também na linguagem, em convivência com outros. Maturana gostava de repetir que tudo o que é dito é dito por um observador. E a expressão que ele e Varela usaram para descrever o conhecimento é bonita: conhecer é trazer um mundo à mão. Não o encontramos pronto; nós o fazemos surgir no ato de distinguir.

O neurocientista português António Damásio chegou a uma conclusão parecida por outro caminho. Estudando pacientes com lesões em áreas do cérebro ligadas às emoções, descreveu pessoas que conservavam a inteligência intacta, raciocinavam bem sobre qualquer problema abstrato, e ainda assim tornavam-se incapazes de decidir na vida prática. Um deles podia passar longos minutos pesando prós e contras de duas datas possíveis para uma consulta. Faltava-lhes justamente aquilo que a tradição filosófica costumava tratar como obstáculo à razão: a emoção. Para Damásio, não existe razão pura, separada do corpo e dos afetos. O que nos parece relevante é marcado, antes de qualquer cálculo, pela forma como o organismo sente.

Esses autores não precisam carregar o argumento sozinhos. Mesmo quem não aceita todas as suas premissas pode reconhecer o ponto comum com Taylor e Castoriadis. Não há observador neutro. Toda percepção vem de algum lugar: de um corpo, de uma língua, de uma cultura, de um conjunto compartilhado de premissas.
A velha ambição de um ponto de vista puro, livre de qualquer perspectiva, sempre foi uma ilusão. O que muda agora é que essa ilusão ficou difícil de sustentar.

Quando a percepção se torna operável

Durante quase toda a história humana, esse lugar de onde percebemos, a consciência, formou-se em silêncio. A língua, a cultura e o corpo nos moldavam sem que ninguém, em particular, estivesse ajustando o processo.

Na chamada quarta revolução industrial, em que já estamos imersos, esse silêncio se quebra. Uma parte da formação da nossa percepção passa a vir de uma interface, de forma contínua e moldada para cada pessoa.

Pense no mapa de navegação do celular. Durante séculos, conhecer uma cidade era uma construção lenta: referências, esquinas, erros, atalhos descobertos por acaso. Hoje, muita gente atravessa a mesma cidade durante anos seguindo uma seta azul. A cidade continua lá, mas a cidade percebida é outra. Ela é um conjunto de rotas sugeridas, com os bairros que o sistema considera caminho e os que ele simplesmente não mostra. Parte do nosso lembrar e do nosso orientar-se já acontece fora da cabeça. Quando o celular fica sem bateria, muita gente descobre que não sabe onde está, numa rua por onde passa há anos.

Ou pense nas recomendações de música. No começo, parecem ampliar o gosto. Descobrimos artistas que jamais encontraríamos sozinhos. Aos poucos, porém, o sistema aprende o que nos mantém ouvindo e passa a oferecer mais disso. O gosto não é imposto. É afinado, dia após dia, até que o surpreendente se torne raro. E a pessoa continua dizendo, com toda sinceridade, que ouve o que gosta.

Há uma diferença importante entre esses sistemas e as antigas influências que nos formavam. A língua não sabia quem éramos. A cultura não acompanhava cada gesto nosso. Esses sistemas acompanham. Eles registram o que fazemos, deduzem o que tendemos a fazer e nos devolvem o mundo recortado segundo essa dedução. Por isso, a experiência raramente se parece com uma influência. Parece, ao contrário, que finalmente o mundo nos entende. E aquilo que nos entende tão bem é justamente o que menos pensamos em questionar.

Volte agora à cena do início, a da pessoa que já escreve pensando no que o assistente fará com o texto. O que está em jogo ali vai além de quem assina um parágrafo. É o surgimento de um novo elemento no lugar de onde ela percebe. Um elemento que não é anônimo como a língua nem lento como a cultura. Ele responde a ela, aprende com ela, e foi desenhado por alguém com objetivos próprios. Confesso que não sei dizer se o que acontece ali é perda ou apenas mudança.

Mapas nos levam a lugares, músicas nos alegram, assistentes nos ajudam a pensar. Condenar a técnica não leva a lugar nenhum. O que me interessa é o que ela revela.

Quando a formação da percepção se torna algo que pode ser ajustado, medido e otimizado, ela deixa de parecer natural. Aquilo que sempre aconteceu em silêncio passa a ter botões. E um processo com botões é um processo que alguém pode estar operando.

Uma consciência que pode ser perdida

Chego, então, ao que me parece o paradoxo mais interessante desta época. A mesma técnica que passa a intervir na nossa percepção é a que nos obriga a enxergar que a percepção sempre foi constituída, e constituída num ambiente dinâmico e mutável.

Enquanto os processos que nos moldavam eram silenciosos, era fácil acreditar num observador neutro. Agora que eles se tornaram visíveis, operáveis, com interfaces e configurações, essa crença fica difícil de manter. A inteligência artificial não inventou o fato de que construímos a nossa consciência. Ela o expôs.

É isso que chamo de revolução para dentro. Ela abre a possibilidade de uma consciência nova sobre a importância da percepção. Consciência de que o nosso modo de ver tem uma história, de que essa história pode estar sendo escrita em parte por outros, e de que vale a pena perguntar por ela. Se Castoriadis tem razão, é exatamente essa lucidez que define a autonomia.

Mas uma possibilidade não é uma conquista, e esta tem um adversário poderoso, a conveniência. As interfaces mais bem-sucedidas são justamente as que não se deixam notar. Quanto mais fluida a experiência, menos perguntamos de onde ela vem. A seta azul funciona tão bem que esquecemos que ela escolhe o caminho. Notar isso pede agudeza, e agudeza custa atenção. Fico em dúvida, aliás, se a lucidez resiste a essa facilidade toda.

Notar o lugar de onde percebemos não exige nada de heroico. Ninguém precisa jogar o celular fora nem desconfiar de toda recomendação. Às vezes é apenas estranhar a facilidade com que uma ideia nos pareceu evidente. Às vezes é caminhar por uma rua que o mapa não sugeriu, ou ouvir um disco inteiro que nenhum sistema escolheu. Às vezes é identificar a origem das nossas ideias, apropriando-se cada vez mais do próprio conhecimento. São gestos pequenos. Mas é neles que a lucidez de que falava Castoriadis deixa de ser teoria e passa a ser prática.

Por isso, a questão desta época talvez não seja se conseguiremos escapar da influência das máquinas sobre o que percebemos. Ninguém percebe de lugar nenhum, e nunca percebeu. A questão é se ainda seremos capazes de notar o lugar de onde percebemos. Essa capacidade não virá pronta. Ela pode crescer com a técnica, ou pode adormecer dentro dela.

Sobre a Autora:

Marianna Wahrlich é psicóloga e educadora, especialista em Bioética e formada em Antropologia Cultural na Matríztica, em Santiago do Chile, com Humberto Maturana. É doutoranda em Estudos Políticos e Humanitários na Universidade Fernando Pessoa, em Portugal, onde pesquisa os efeitos do poder algorítmico sobre a autonomia. Coordena o Instituto Veritas de Educação e Pesquisa.