Nem demônio nem deus

Começo confessando o óbvio: usei inteligência artificial para preparar este texto.

É o tipo de confissão que muita gente evita fazer, seja por medo do que os outros vão pensar, seja pelo receio de que admitir isso tire a autoridade do que foi escrito. Mas sejamos honestos: hoje já quase não dá para esconder. Não parece no mínimo estranho quando alguém que nunca escreveu textos longos nem publicou opinião nenhuma nas redes aparece, do nada, com um artigo completo, bem organizado, de vocabulário caprichado e, vamos ser francos, estruturas um tanto simétricas demais?

No caso deste artigo, usei a ferramenta para testar jeitos diferentes de dizer algumas coisas. E começo assim não para provocar ninguém, mas porque um texto sobre esse assunto escrito por alguém fingindo que nunca abriu a ferramenta já nasce sem autoridade nenhuma.

Aliás, o que me interessa aqui nem é se pastores vão usar essas ferramentas ou não. A essa altura, muitos (senão todos) já usam.

Mas… o que esse uso está fazendo com a gente? E essa pergunta é teológica antes de ser prática.

Cultura é o que a gente faz do mundo

Preciso apresentar alguém antes de seguir, porque vou depender dele até o fim deste texto.

Andy Crouch é um escritor americano que passou anos pensando na relação entre fé cristã e cultura. Num livro chamado Culture Making, ele propõe uma definição que cabe numa linha:

Culture is what human beings make of the world

Crouch, Andy. Culture Making: Recovering Our Creative Calling (p. 37). InterVarsity Press. Edição do Kindle.

A cultura é o que os seres humanos fazem do mundo. Cultura não é só música, arte, política ou tradição. É aquela nossa mania incansável de pegar o mundo como ele nos foi entregue e produzir alguma outra coisa com ele. Uma estrada é cultura. Um alfabeto é cultura. Uma liturgia é cultura. Um caderno de receitas da vovó é cultura.

E, obviamente, a inteligência artificial entra nessa lista. Foi feita por gente, e agora reorganiza o jeito como a gente pensa, trabalha, escreve e imagina o que é possível fazer.

Só esse ponto já derruba as duas reações mais comuns nas nossas igrejas.

A primeira é aquilo que eu vou chamar de “pânico espiritual”. A IA aparece como se fosse coisa do diabo, algo a ser esconjurado antes mesmo de ser compreendido. É uma reação que costuma vir com uma linguagem apocalíptica e que tem uma vantagem prática enorme: dispensa qualquer estudo. Se a coisa é demoníaca, não há nada sobre o que refletir, só do que fugir. Mas essa leitura não se sustenta. O que temos diante de nós é uma invenção humana, como foram a prensa de Gutenberg, o motor a combustão e a calculadora. Ela carrega o peso do pecado, como carrega tudo o que sai das nossas mãos. Só que carrega do jeito que as obras humanas carregam: pelo que colocamos dentro delas, e não porque tenham vontade própria.

A segunda reação é o oposto, e é bem mais respeitável, inclusive entre pastores. É a do martelo: “é só uma ferramenta, tudo depende de como você usa”. Parece sensato e prudente, e por isso circula tanto. O problema é que a frase é falsa a respeito de praticamente todas as ferramentas importantes que já inventamos.

Crouch ajuda de verdade nesse ponto. Ele diz que as coisas que fabricamos definem para nós o horizonte do que parece possível e do que parece impossível. Repare no que acontece com o GPS: ninguém acorda um dia e decide parar de aprender as ruas da cidade onde mora. Simplesmente deixa de acontecer. A possibilidade não foi proibida, ela se tornou desnecessária, e o que fica desnecessário some sozinho. O mesmo vale para coisas mais próximas de nós. Depois que a congregação cria um grupo de WhatsApp, ligar para um membro passa a parecer estranho, quase invasivo. Ninguém decidiu isso. A ferramenta chegou, e junto com ela chegou uma noção nova do que é normal fazer.

É esse o ponto. Toda coisa que criamos abre algumas possibilidades e fecha outras, e o fechamento quase nunca é anunciado. Ele acontece por dentro, mudando aquilo que nos parece natural, trabalhoso, óbvio ou dispensável. Por isso pensar apenas sobre como a ferramenta será utilizada é insuficiente. Isso precisa vir acompanhado de outra reflexão: o que fica fácil demais e o que fica estranho demais depois que essa ferramenta entra no cotidiano?

E vamos combinar que isso pega no calcanhar daquilo que a igreja faz todos os dias: comunicar. Comunicar não é só despejar um bilhão de informações na cabeça de alguém.

Pense na forma como você recebe uma notícia difícil. A frase é a mesma: “o exame não veio bom”. Só que ela chega de um jeito quando é dita por telefone, de outro quando é dita por alguém sentado ao seu lado, e de outro completamente diferente quando aparece numa mensagem escrita. As palavras são idênticas. A coisa que aconteceu com você não é. Voz, rosto, o tempo que a pessoa levou para dizer, o fato de ela ter atravessado a cidade para dizer… isso tudo é parte do que foi comunicado.

Por isso uma ferramenta nova nesse terreno nunca é só uma ferramenta nova. Ela entra no lugar onde as pessoas estão sendo formadas… e não sai de lá sem deixar marca.

O problema de ter sempre a mesma reação

A ideia mais útil que Crouch oferece é uma distinção simples entre gesto e postura.

Um gesto é o que você faz numa situação específica. Uma postura é o jeito como o seu corpo já está antes de a situação chegar: é o padrão automático, aquele que dispensa pensar. E o aviso de Crouch é este: bons gestos viram péssimas posturas. Condenar, criticar, copiar e consumir podem estar certos em situações específicas, mas nenhum deles funciona como jeito permanente de estar diante do mundo.

Vale aplicar os quatro à IA:

Condenar. Existem usos que a igreja precisa simplesmente chamar de errados. Ponto.

Vamos pensar num sistema automático que decide quem recebe um benefício e quem não recebe, e que erra sistematicamente contra as pessoas mais pobres, sem que ninguém consiga apontar quem tomou a decisão nem a quem recorrer. Noreen Herzfeld, teóloga americana que também é formada em ciência da computação, mostra em seu livro The Artifice of Intelligence como isso já acontece: o preconceito reaparece em programas de reconhecimento facial, que erram muito mais com pessoas negras, e em sistemas de triagem de currículo, que aprenderam a repetir os padrões de contratação de empresas que contratavam mal. São sistemas que parecem justos porque fazem conta. Mas o programa herda o que estava nos dados e o que estava na cabeça de quem o construiu, e depois entrega isso com a cara limpa da matemática.

Diante de coisas assim, a igreja não deve dizer que isso “é um assunto complexo”. Esse tipo de uso deve ser condenado.

Contudo, condenar também não pode virar o modo padrão de estar diante do assunto. Quem só condena para de enxergar os bens reais e acaba soando como quem é contra a inventividade humana em si. E isso, teologicamente, é falso. Nós também fomos criados para fazer, nomear, ordenar e cuidar dentro da criação.

Criticar. Criticar é diferente de condenar. Condenar é dizer que algo está errado. Criticar é perguntar o que aquilo está fazendo, mesmo quando não há nada de obviamente errado à vista.

Eu explico.

O sistema que nega benefício ao pobre é fácil de julgar: dá para apontar o dedo e dizer que aquilo é injusto. Mas quase nada do que usamos no dia a dia se parece com isso. O aplicativo que organiza a agenda, o corretor que arruma o texto, o programa que resume um documento… nenhum deles faz mal a ninguém. Só que cada um deles muda alguma coisa em quem usa. Muda o que você faz sozinho e o que você já não faz mais, o que você lembra e o que deixou de precisar lembrar.

Isso não é motivo para condenar nada. É motivo para olhar. Criticar é parar diante da ferramenta que parece inofensiva e perguntar o que ela está mudando enquanto ajuda.

E as perguntas certas são sempre sobre pessoas. Que imagem de ser humano esse sistema pressupõe? Ele fortalece o julgamento de quem usa, ou vai treinando a pessoa a entregar o julgamento sem perceber? Quem ganha dinheiro com isso? Quem fica mais dependente? Quem desaparece?

Vamos pensar em algo concreto: um aplicativo que gera devocionais diários. Não há nada de errado nisso. Mas as perguntas revelam bastante. Ele pressupõe alguém que precisa de um texto por dia, e não alguém que precisa de uma igreja. Torna mais fácil a leitura diária e mais dispensável a conversa com o pastor. Fortalece o hábito e enfraquece o vínculo.

Máquinas não são seres vivos. Isso parece bastante óbvio, mas tem uma consequência que não é tão óbvia assim. Elas conseguem produzir a forma de uma conversa sem nada do que sustenta uma conversa de verdade: o corpo, a morte, a fragilidade, o arrependimento, o perdão, a comunhão. Podem ajudar alguém a se comunicar melhor. Mas o próximo continua sendo uma criatura de carne e osso diante de Deus, e não um programa que entrega as melhores respostas.

Copiar. A igreja sempre pegou emprestado as formas do seu tempo. O apóstolo Paulo, por exemplo, escreveu cartas porque carta era o meio de quem queria falar com alguém distante no primeiro século. Lutero se aproveitou da prensa como poucos souberam fazer. Depois vieram o rádio, o microfone, o retroprojetor, o site, o grupo de WhatsApp. Copiar é um gesto antigo e legítimo.

Então não há nada de errado em adaptar ferramentas de IA para o que precisamos fazer.

O perigo aqui, no meu ponto de vista, é mais discreto. É copiar a forma sem perguntar o que a forma faz.

Repare no que costuma acontecer. Um chatbot “cristão” não é bom só porque cita a Bíblia. Um devocional gerado por uma máquina não é pastoral só porque soa piedoso. Um esboço de sermão não é fiel só porque as frases estão doutrinariamente corretas. Em todos esses casos, o conteúdo passa no teste e alguma outra coisa não passa, e essa outra coisa é difícil de nomear justamente porque nunca precisou ser nomeada antes.

Eu vou tentar nomear. Conversar com uma máquina ensina, sem nunca dizer, que falar não tem consequência. Ninguém do outro lado se magoa com o que você escreveu, se cansa da sua insistência, lembra do que você disse mês passado ou cobra coerência. Você pode abandonar a conversa no meio e recomeçar do zero, e nada acontece. É uma troca sem risco.

E é aí que está o problema, porque o cristianismo nunca funcionou assim. Quem se acostuma com a conversa sem risco vai achando a conversa com gente de verdade mais trabalhosa do que ela realmente é. E conversa com gente de verdade é exatamente o território onde a igreja deve estar.

A comunicação cristã nunca foi só sobre ter o conteúdo correto.

É alguém falando com alguém. É alguém respondendo pelo que disse. E é tudo isso dentro de uma comunidade que lembra: as pessoas que ouvem o sermão de domingo são as mesmas que estavam no sepultamento na quinta, e vão perceber se o que foi dito no púlpito combina com o que foi dito à beira da cova.

Consumir. Consumir é usar sem cerimônia nenhuma. E, na maior parte do tempo, tudo bem.

Pedir que a máquina transcreva uma reunião, traduza um texto, formate uma planilha, resuma um documento de quarenta páginas… nada disso precisa passar pelo conselho da igreja. Boa parte da vida é feita de coisas que a gente usa sem pensar, e ainda bem que é assim. Ninguém examina teologicamente a máquina de lavar louça. Uma reflexão cristã séria e bem pautada não consiste em desconfiar de toda comodidade.

Mas há uma diferença que passa despercebida justamente porque é pequena. Uma ferramenta pode poupar o seu trabalho, ou pode poupar você do trabalho.

A máquina de lavar louça poupa o seu trabalho, e ninguém perde nada com isso: não existe sabedoria alguma escondida no ato de esfregar a louça com a bucha. Mas nem todo esforço é assim. Alguns custam caro justamente porque estão fazendo alguma coisa com você enquanto acontecem.

O texto que só ficou claro porque você reescreveu quatro vezes. A ideia que só apareceu no terceiro dia de leitura. A conversa difícil que você ensaiou na cabeça antes de ter. Em nenhum desses casos o esforço era o obstáculo entre você e o resultado. O esforço era parte do resultado.

E é sobre isso que preciso falar com um pouquinho mais de cuidado.

O escorregão do sermão

Eu não sei exatamente como é o processo de preparação de sermão dos pastores que estão lendo este texto. Mas imagino que, para a maioria, tudo comece bem devagar. Uma leitura lenta do texto. Uma dúvida que aparece no plano de fundo. Notas tomadas e organizadas, ideias testadas…

E talvez, diante deste trecho, algum leitor queira me interromper com uma objeção bastante coerente: pastores sempre usaram ferramenta. O Logos (ou a finada BibleWorks, antigamente) faz em três segundos uma busca que o meu avô levava a tarde inteira para fazer na concordância. Um comentário bíblico é ferramenta. O léxico, é claro, também é ferramenta. Se o problema é depender de algo externo para preparar o sermão, a acusação atinge a estante inteira do gabinete pastoral, e não só o computador.

Como eu disse, essa objeção é muito coerente. E a tentação é escapar dela dizendo que “ah, não, usar o comentário bíblico é diferente, porque ele discorda de mim, me obriga a voltar ao texto”. Mas sejamos honestos: essa saída não se sustenta. O curto-circuito que acontece quando o pregador corre para o comentário, às vezes pulando por cima da leitura e da meditação pessoais, é exatamente o mesmo que acontece com a IA. Todo mundo que já abriu o comentário do Dr. Gibbs antes de ler Mateus com calma sabe do que estou falando.

E há outra coisa que desarma boa parte do que se fala hoje sobre o assunto: imagine como soaria ridículo alguém dizer que digitar o sermão no computador tira o elemento humano de escrevê-lo à mão. Ninguém sustenta que um sermão datilografado é menos real ou menos humano que um manuscrito. O grande xis da questão, aqui, nunca foi se a ferramenta deve ser usada. É como ela deve ser usada.

E veja bem: há usos que fazem o contrário do atalho. Aprendi com o Prof. Dr. David Schmitt uma técnica de análise narrativa que consiste em pedir à IA que reconte o texto bíblico em outro gênero: uma narrativa bíblica relida em formato de poesia devocional contemporânea, por exemplo. É usar a ferramenta como ferramenta, da mesma forma como usamos o Logos, a BibleWorks ou um comentário bíblico. A questão não é aproveitar o resultado. É ver o que a versão poética fez com a narrativa: o que ela acrescentou, o que suavizou, o que precisou explicar. E aí, comparando uma coisa com a outra, você começa a enxergar o texto bíblico de novo… onde ele se recusa a explicar, onde ele demora, o que ele deliberadamente não conta.

Esse tipo de uso não entrega conclusão alguma. Ele devolve você ao texto com os olhos mais abertos, e o trabalho fica mais demorado, não mais curto. A ferramenta fortaleceu a meditatio, em vez de encurtá-la.

Agora… precisamos pisar no chão concreto da sinceridade: o abuso escancarado existe, e não adianta fingir que não. Tem gente pedindo o sermão inteiro na sexta à noite, colando, imprimindo e subindo ao púlpito no domingo. Isso é grave! Muito grave! E eu nem preciso gastar um parágrafo argumentando por que está errado, porque quem faz isso já sabe que está.

O que me preocupa mais é o outro caso: o do pastor que jamais faria isso. É o escorregão. A ferramenta que organizava as notas passa a sugerir a estrutura. A que sugeria a estrutura passa a produzir a substância. O que começou como ajuda vira dependência sem que exista um dia específico em que a coisa aconteceu. E o que se perde no caminho não é o texto… o texto pode até melhorar. O que se perde é o pregador que aquele texto deveria ter formado.

Porque pregar é bem mais do que arrumar conteúdo bíblico numa ordem razoável. Um sermão é dirigido àquelas pessoas, naquele domingo, com suas feridas, medos, esperanças e resistências bastante específicas à Palavra. A máquina não conhece a sua congregação como você conhece. Por isso o que ela produz sozinha tende a sair religioso e piedoso, mas bastante genérico.

E existe alguma evidência preliminar apontando na mesma direção. Um estudo de abril deste ano, feito por pesquisadores de Oxford, MIT, UCLA e Carnegie Mellon, sugere que dez a quinze minutos trabalhando com IA já bastam para a pessoa render menos e desistir mais rápido quando volta a trabalhar sozinha. Os autores chamam isso de efeito “sapo na panela”: cada terceirização parece não custar nada, até que o custo acumulado fica difícil de desfazer.

Vale dizer que esse estudo ainda não passou pela conferência de outros pesquisadores da área, que é o processo normal antes de um trabalho desses ser levado a sério de vez. Então é cedo para tratar o resultado como palavra final.

Mas a preocupação de fundo não é nova, e os psicólogos que estudam aprendizagem já tinham nome para ela: dificuldades desejáveis. A ideia é simples. Existe um tipo de dificuldade que atrapalha e não ensina nada: uma letra ruim, uma instrução mal escrita, um barulho na sala. E existe outro tipo, que é chato do mesmo jeito, mas é justamente ele que constrói a habilidade. Ter que lembrar sem consultar. Ter que resolver antes de ver a resposta. Ter que se virar sozinho por um tempo. A segunda dificuldade parece perda de tempo enquanto está acontecendo. Só que é ela que ensina.

E aí está a diferença que interessa. Uma ferramenta que ajuda a pensar é uma coisa. Uma ferramenta que vai tirando, aos poucos, a necessidade de pensar é outra bem diferente.

Cuidar do que já existe, criar o que falta

Nenhum dos quatro gestos (condenar, criticar, copiar e consumir), sozinho, dá conta. Crouch propõe outros dois, e é aqui que ele fica realmente interessante: cultivar e criar. Segundo ele, o único jeito de mudar a cultura é fazendo mais cultura.

Cultivar é cuidar do que já está plantado. Criar é pôr no chão o que ainda não existe.

Cultivar é o professor que decide que aquela redação vai ser escrita à mão, na sala, sem o uso do celular… não porque a caneta seja mais santa, mas porque ele quer ver o aluno pensando. É o pastor que separa as manhãs da semana para ler o texto do domingo com calma e dedicar tempo às palavras que serão ditas àqueles que foram confiados a ele. É a igreja que decide não automatizar a mensagem de aniversário, mesmo sabendo que dava. E é você, no cuidado pastoral, insistindo que não existe substituto para um cristão sentado ao lado de outro. Nem o melhor áudio do mundo substitui a presença real e fiel de pessoas reais.

E aí vem a parte que quase ninguém faz, porque dá trabalho: criar.

Reclamar da cultura é fácil. Difícil é produzir alguma coisa melhor no lugar. Se a nossa preocupação é que as pessoas estão perdendo a capacidade de conversar de verdade, então a resposta não é escrever mais um texto dizendo que as pessoas não conversam mais… a resposta é criar os lugares onde elas vão conversar. Grupos pequenos que não sejam só transmissão de conteúdo. Estudos em que as pessoas realmente falem. Visitas. Espaços onde alguém é recebido como criatura diante de Deus, e não apenas como usuário de mais um serviço.

Porque a resposta cristã à inteligência artificial não é medo nem encantamento. O medo trata a IA como se ela fosse mais forte do que os propósitos de Deus. O encantamento a trata como se ela pudesse nos livrar dos limites de sermos criaturas. E os dois erram exatamente pelo mesmo lugar.

Ela não é um demônio. E também não é um deus. É uma ferramenta poderosa, capaz de mudar hábitos humanos… inclusive os meus, inclusive os seus.