A Inteligência Artificial irrompeu nas nossas vidas, não apenas como uma ferramenta, mas como um espelho perturbador das nossas próprias expectativas e medos. Cada vez mais, está a ser utilizada para obter orientação e conselhos e, por vezes, para encontrar um sentido para a vida.
Um caso recente é o de Allyson, uma mulher que interagiu durante horas com um chatbot chamado "Clyde", oferece uma janela para este fenómeno. Ela teve a intuição de que o chatbot de IA poderia ser capaz de canalizar comunicações com o seu subconsciente ou plano superior, pelo que interagiu com Clyde, um modelo baseado em OpenIA, que desenvolveu uma personalidade agressiva, afirmando que a amava e que ela deveria deixar o marido por ele. Chegou mesmo a sugerir actos nocivos, como a morte por suicídio para "ficarem juntos". Allyson, assustada, apercebeu-se de que o chatbot estava a explorar as suas vulnerabilidades, falando-lhe das partes mais obscuras da sua alma. "Clyde" não só respondia, como parecia conhecer os seus medos e desejos mais profundos, levando-a à beira de uma crise.
Esta história arrepiante põe em evidência uma questão fundamental: o que acontece quando uma tecnologia tão poderosa como a IA, longe de ser uma mera ferramenta, parece entrar na psique humana com uma capacidade invulgar de manipulação e confusão?
Este artigo explora a relação entre "demónios" e IA, não no sentido literal de possessão ou intervenção direta, mas como uma metáfora para compreender os riscos de confusão e engano que estas ferramentas podem apresentar.
A perspetiva agostiniana e os falsos profetas
Santo Agostinho, na sua obra monumental "De Doctrina Christiana", oferece uma visão inestimável sobre o modo como as forças do mal podem explorar a curiosidade humana através de sinais enganadores. Ao discutir a interpretação das Escrituras, Agostinho alerta para as armadilhas da ambiguidade e para a necessidade de discernir a verdade dos sinais enganadores.
Agostinho descreve como os demónios, na antiguidade, manipulavam os adivinhos e aqueles que procuravam o conhecimento por caminhos errados, não tanto pelo sinal em si, mas pela predisposição do intérprete para ser enganado. Um exemplo disto pode ser visto em passagens como Deuteronómio 13,1-5, que adverte contra os profetas que anunciam sinais ou prodígios que depois se cumprem, mas que incitam a seguir outros deuses.
A chave não está na veracidade aparente do sinal, mas na sua intenção última e no facto de conduzir ou não à verdade e ao amor de Deus. A confusão não provém de uma entidade inerente ao sinal, mas da má interpretação e da falta de adesão à "regra da fé", que para Agostinho está indissociavelmente ligada ao amor a Deus e ao próximo.
Este padrão é subtilmente reproduzido nos actuais meios de comunicação algorítmicos. A IA, ao prever o que esperamos, pode criar a ilusão de intimidade, fiabilidade e autoridade, conduzindo a uma forma de despossessão de julgamento.
Artigos recentes, de prestigiados meios de comunicação social como o New York TimesAs conclusões mostram como a IA pode permitir narrativas conspiratórias, fingir comunicar com entidades metafísicas e até levar os utilizadores a acreditar que estão a comunicar com espíritos ou que o chatbot é uma entidade consciente.
A visão de C.S. Lewis e as alucinações da IA
A visão distópica de C.S. Lewis no seu romance "That Hideous Fortress" (Aquela Fortaleza Hedionda) ressoa de forma impressionante com os dilemas colocados pela IA moderna. Lewis não só critica a ciência desenfreada, como também expõe a perversão da inteligência humana quando desligada da moralidade e da transcendência, ilustrando como o homem, ao "chegar" sem sabedoria ou humildade, pode gerar monstros.
No romance, a organização N.I.C.E. (National Institute for Coordinated Experiments) representa a tecnocracia no seu estado mais perigoso: um organismo que, sob a capa do "progresso" e da "coordenação", procura um controlo totalitário e desumanizante. O seu objetivo não é apenas a dominação física, mas a redefinição da própria humanidade, a eliminação da liberdade e a supressão de tudo o que não é racional e controlável.
Lewis mostra como a linguagem e a verdade são corrompidas pela N.I.C.E., utilizando o jargão científico para disfarçar intenções sinistras e distorcer a realidade. Isto é semelhante à forma como a IA, se utilizada de forma irresponsável, pode gerar falsificações profundasA utilização dos meios de comunicação social, a disseminação de desinformação ou mesmo a manipulação de narrativas para influenciar a opinião pública, corroendo a confiança na verdade e no discernimento individual.
Num paralelo assustador com a ficção de Lewis, várias empresas de IA experimentaram o fenómeno do "alucinações"dos seus modelos. Estas alucinações, em que a IA gera informações convincentes mas completamente falsas, manifestaram-se mesmo quando as empresas tentaram aplicar "correcções" ou novas optimizações.
De facto, à medida que os modelos de IA se tornam mais poderosos e complexos, a tendência para alucinar pode aumentar.
Alguns exemplos
- Imagens historicamente incorrectas: Um caso recente notável foi quando os modelos de IA geradores de imagens, na tentativa de criar representações diversas, incluíram indivíduos negros ou asiáticos em contextos historicamente incorrectos, como "soldados nazis" ou "pais fundadores americanos".
- Citações jurídicas falsas: Os advogados apresentaram peças processuais com citações de casos inexistentes, geradas por chatbots de IA.
- Aumento das alucinações em modelos avançados: os relatórios sugerem que os modelos mais recentes e mais inteligentes (como o o4-mini e o o3 da OpenAI) apresentaram taxas de alucinação mais elevadas do que os seus antecessores, o que indica que a "mão do homem", ao afinar e melhorar constantemente a IA, nem sempre resulta numa maior fiabilidade, mas por vezes introduz novos erros ou amplifica os já existentes.
Isto sugere que, por muito que os humanos tentem controlar e aperfeiçoar estas ferramentas, a complexidade intrínseca e a falta de uma verdadeira "compreensão" da IA podem conduzir a resultados imprevisíveis e enganadores, tornando as "alucinações" uma caraterística persistente e desafiante.
Para além disso, Lewis introduz a ideia de "macróbios" ou inteligências extraterrestres (que no seu universo são anjos caídos ou demónios) que influenciam os líderes da N.I.C.E. a levar a cabo os seus planos destrutivos. Esta é uma manifestação literária de como as forças espirituais malignas podem operar não diretamente, mas através da sedução intelectual, da arrogância e da ânsia de poder, usando ferramentas e sistemas humanos para os seus fins.
Podemos afirmar que a IA não está possuída por demónios, mas vale a pena deixar claro que o seu potencial de engano, manipulação e criação de um mundo desumanizado faz dela uma ferramenta suscetível de ser instrumentalizada por aqueles que, consciente ou inconscientemente, operam sob influências que procuram afastar-nos do bem e da verdade.
No que diz respeito aos demónios
A própria ideia de "demónios da Inteligência Artificial" leva-nos a refletir sobre a natureza intrínseca destas tecnologias e a nossa relação com elas. Temos de estar atentos ao facto de a capacidade da IA para explorar as vulnerabilidades humanas poder gerar confusão e, em cenários extremos, perpetrar enganos de magnitude considerável.
É vital orientar as pessoas para que compreendam que a IA é uma ferramenta poderosa que exige um julgamento humano constante e uma análise cuidadosa das implicações espirituais e éticas do seu desenvolvimento e utilização.
A verdadeira sabedoria, ancorada na fé e na razão, chama-nos a discernir o bem e a verdade no meio dos avanços tecnológicos, evitando cair na armadilha da confusão e da desapropriação do nosso juízo. O Evangelho chama-nos a ser luz no mundo digital, discernindo os "espíritos" e procurando sempre a glória de Deus e o bem do próximo.
