MENSAGEM DO PAPA FRANCISCO
PARA O LVIII DIA MUNDIAL DAS COMUNICAÇÕES SOCIAIS
(12 de maio de 2024)
Inteligência
artificial e sabedoria do coração:
para uma comunicação plenamente humana
Queridos irmãos e irmãs!
A evolução dos sistemas da chamada «inteligência
artificial», sobre a qual já me debrucei na recente Mensagem para o Dia
Mundial da Paz,
está a modificar de forma radical também a informação e a comunicação e,
através delas, algumas bases da convivência civil. Trata-se duma mudança que
afeta não só aos profissionais, mas a todos. A rápida difusão de maravilhosas
invenções, cujo funcionamento e potencialidades são indecifráveis para a maior
parte de nós, suscita um espanto que oscila entre entusiasmo e desorientação e
põe-nos inevitavelmente diante de questões fundamentais: O que é então o homem,
qual é a sua especificidade e qual será o futuro desta nossa espécie chamada homo
sapiens na era das inteligências artificiais? Como podemos permanecer
plenamente humanos e orientar para o bem a mudança cultural em curso?
A partir do coração
Antes de mais nada, convém limpar o terreno
das leituras catastróficas e dos seus efeitos paralisadores. Já há um século
Romano Guardini, refletindo sobre a técnica e o homem, convidava a não se
inveterar contra o «novo» na tentativa de «conservar um mundo belo condenado a
desaparecer». Ao mesmo tempo, porém, com veemência profética advertia: «O nosso
posto é no devir. Devemos inserir-nos nele, cada um no seu lugar (...),
aderindo honestamente, mas permanecendo sensíveis, com um coração
incorruptível, a tudo o que nele houver de destrutivo e não-humano». E
concluía: «Trata- se – é verdade – de problemas de natureza técnica, científica
e política; mas só podem ser resolvidos passando pelo homem. Deve-se formar um
novo tipo humano, dotado duma espiritualidade mais profunda, duma nova
liberdade e duma nova interioridade». [1]
Neste tempo que corre o risco de ser rico em
técnica e pobre em humanidade, a nossa reflexão só pode partir do coração
humano. [2] Somente dotando-nos dum olhar
espiritual, apenas recuperando uma sabedoria do coração é que poderemos ler e
interpretar a novidade do nosso tempo e descobrir o caminho para uma
comunicação plenamente humana. O coração, entendido biblicamente como sede da
liberdade e das decisões mais importantes da vida, é símbolo de integridade e
de unidade, mas evoca também os afetos, os desejos, os sonhos, e sobretudo é o
lugar interior do encontro com Deus. Por isso a sabedoria do coração é a
virtude que nos permite combinar o todo com as partes, as decisões com as suas
consequências, as grandezas com as fragilidades, o passado com o futuro, o eu
com o nós.
Esta sabedoria do coração deixa-se encontrar
por quem a busca e deixa-se ver a quem a ama; antecipa-se a quem a deseja e vai
à procura de quem é digno dela (cf. Sab 6, 12-16). Está com
quem aceita conselho (cf. Pr 13, 10), com quem tem um coração
dócil, um coração que escuta (cf. 1 Re 3, 9). É um dom do
Espírito Santo, que permite ver as coisas com os olhos de Deus, compreender as
interligações, as situações, os acontecimentos e descobrir o seu sentido. Sem
esta sabedoria, a existência torna-se insípida, pois é precisamente a sabedoria
que dá gosto à vida: a sua raiz latina sapere associa-a
ao sabor.
Oportunidade e perigo
Não podemos esperar esta sabedoria das
máquinas. Embora o termo inteligência artificial já tenha
suplantado o termo mais correto utilizado na literatura científica de machine
learning (aprendizagem automática), o próprio uso da palavra
«inteligência» é falacioso. É certo que as máquinas têm uma capacidade
imensamente maior que os seres humanos de memorizar os dados e relacioná-los
entre si, mas compete ao homem, e só a ele, descodificar o seu sentido. Não se
trata, pois, de exigir das máquinas que pareçam humanas; mas de despertar o
homem da hipnose em que cai devido ao seu delírio de omnipotência, crendo-se
sujeito totalmente autónomo e autorreferencial, separado de toda a ligação
social e esquecido da sua condição de criatura.
Realmente o homem sempre teve experiência de
não se bastar a si mesmo, e procura superar a sua vulnerabilidade valendo-se de
todos os meios. Partindo dos primeiros instrumentos pré-históricos, utilizados
como prolongamento dos braços, passando pelos meios de comunicação como
extensão da palavra, chegamos hoje às máquinas mais sofisticadas que funcionam
como auxílio do pensamento. Entretanto cada uma destas realidades pode ser
contaminada pela tentação primordial de se tornar como Deus sem Deus
(cf. Gen 3), isto é, a tentação de querer conquistar com as
próprias forças aquilo que deveria, pelo contrário, acolher como dom de Deus e
viver na relação com os outros.
Cada coisa nas mãos do homem torna-se
oportunidade ou perigo, segundo a orientação do coração. O próprio corpo,
criado para ser lugar de comunicação e comunhão, pode tornar-se instrumento de
agressão. Da mesma forma, cada prolongamento técnico do homem pode ser
instrumento de amoroso serviço ou de domínio hostil. Os sistemas de
inteligência artificial podem contribuir para o processo de libertação da
ignorância e facilitar a troca de informações entre diferentes povos e gerações.
Por exemplo, podem tornar acessível e compreensível um património enorme de
conhecimentos, escrito em épocas passadas, ou permitir às pessoas comunicarem
em línguas que lhes são desconhecidas. Mas simultaneamente podem ser
instrumentos de «poluição cognitiva», alteração da realidade através de
narrações parcial ou totalmente falsas, mas acreditadas – e partilhadas – como
se fossem verdadeiras. Basta pensar no problema da desinformação que
enfrentamos, há anos, no caso das fake news [3] e que hoje se serve da deep
fake, isto é, da criação e divulgação de imagens que parecem perfeitamente
plausíveis mas são falsas (já me aconteceu a mim também ser objeto delas), ou
mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria
nunca disse. A simulação, que está na base destes programas, pode ser útil
nalguns campos específicos, mas torna-se perversa quando distorce as relações
com os outros e com a realidade.
Já desde a primeira vaga de inteligência
artificial – a das redes sociais – compreendemos a sua ambivalência,
constatando a par das oportunidades também os riscos e as patologias. O segundo
nível de inteligências artificiais geradoras marca, indiscutivelmente, um salto
qualitativo. Por conseguinte é importante ter a possibilidade de perceber,
compreender e regulamentar instrumentos que, em mãos erradas, poderiam abrir
cenários negativos. Os algoritmos, como tudo o mais que sai da mente e das mãos
do homem, não são neutros. Por isso é necessário prevenir propondo modelos de
regulamentação ética para contornar os efeitos danosos, discriminadores e
socialmente injustos dos sistemas de inteligência artificial e contrastar a sua
utilização para a redução do pluralismo, a polarização da opinião pública ou a
construção do pensamento único. Assim reitero aqui a minha exortação à
«Comunidade das Nações a trabalhar unida para adotar um tratado internacional
vinculativo, que regule o desenvolvimento e o uso da inteligência artificial
nas suas variadas formas». [4] Entretanto, como em todo o âmbito
humano, não é suficiente a regulamentação.
Crescer em humanidade
Somos chamados a crescer juntos, em
humanidade e como humanidade. O desafio que temos diante de nós é realizar um
salto de qualidade para estarmos à altura duma sociedade complexa, multiétnica,
pluralista, multirreligiosa e multicultural. Cabe a nós questionar-nos sobre o
progresso teórico e a utilização prática destes novos instrumentos de
comunicação e conhecimento. As suas grandes possibilidades de bem são
acompanhadas pelo risco de que tudo se transforme num cálculo abstrato que
reduz as pessoas a dados, o pensamento a um esquema, a experiência a um caso, o
bem ao lucro, com o risco sobretudo de que se acabe por negar a singularidade
de cada pessoa e da sua história, dissolvendo a realidade concreta numa série
de dados estatísticos.
A revolução digital pode tornar-nos mais
livres, mas certamente não conseguirá fazê-lo se nos prender nos modelos
designados hoje como echo chamber (câmara de eco). Nestes
casos, em vez de aumentar o pluralismo da informação, corre-se o risco de se
perder num pântano anónimo, favorecendo os interesses do mercado ou do poder.
Não é aceitável que a utilização da inteligência artificial conduza a um
pensamento anónimo, a uma montagem de dados não certificados, a uma
desresponsabilização editorial coletiva. A representação da realidade por big
data (grandes dados), embora funcional para a gestão das máquinas,
implica na realidade uma perda substancial da verdade das coisas, o que
dificulta a comunicação interpessoal e corre o risco de danificar a nossa
própria humanidade. A informação não pode ser separada da relação existencial:
implica o corpo, o situar-se na realidade; pede para correlacionar não apenas
dados, mas experiências; exige o rosto, o olhar, a compaixão e ainda a
partilha.
Penso na narração das guerras e naquela
«guerra paralela» que se trava através de campanhas de desinformação. E penso
em tantos repórteres que ficam feridos ou morrem no local em efervescência para
nos permitir a nós ver o que viram os olhos deles. Pois só tocando pessoalmente
o sofrimento das crianças, das mulheres e dos homens é que poderemos
compreender o caráter absurdo das guerras.
A utilização da inteligência artificial
poderá proporcionar um contributo positivo no âmbito da comunicação, se não
anular o papel do jornalismo no local, antes pelo contrário se o apoiar; se
valorizar o profissionalismo da comunicação, responsabilizando cada
comunicador; se devolver a cada ser humano o papel de sujeito, com capacidade
crítica, da própria comunicação.
Interrogativos de hoje e de amanhã
E surgem, espontâneas, algumas questões: Como
tutelar o profissionalismo e a dignidade dos trabalhadores no campo da
comunicação e da informação, juntamente com a dos utentes em todo o mundo? Como
garantir a interoperabilidade das plataformas? Como fazer com que as empresas
que desenvolvem plataformas digitais assumam as suas responsabilidades
relativamente ao que divulgam daí tirando os seus lucros, de forma análoga ao que
acontece com os editores dos meios de comunicação tradicionais? Como tornar
mais transparentes os critérios subjacentes aos algoritmos de indexação e
desindexação e aos motores de pesquisa, capazes de exaltar ou cancelar pessoas
e opiniões, histórias e culturas? Como garantir a transparência dos processos
de informação? Como tornar evidente a paternidade dos escritos e rastreáveis as
fontes, evitando o para-vento do anonimato? Como deixar claro se uma imagem ou
um vídeo retrata um acontecimento ou o simula? Como evitar que as fontes se
reduzam a uma só, a um pensamento único elaborado algoritmicamente? E, ao
contrário, como promover um ambiente adequado para salvaguardar o pluralismo e
representar a complexidade da realidade? Como podemos tornar sustentável este
instrumento poderoso, caro e extremamente energívoro? Como podemos torná-lo
acessível também aos países em vias de desenvolvimento?
A partir das respostas a estas e outras
questões compreenderemos se a inteligência artificial acabará por construir novas
castas baseadas no domínio informativo, gerando novas formas de exploração e
desigualdade ou se, pelo contrário, trará mais igualdade, promovendo uma
informação correta e uma maior consciência da transição de época que estamos a
atravessar, favorecendo a escuta das múltiplas carências das pessoas e dos
povos, num sistema de informação articulado e pluralista. Dum lado, vemos
assomar o espetro duma nova escravidão, do outro uma conquista de liberdade;
dum lado, a possibilidade de que uns poucos condicionem o pensamento de todos,
do outro a possibilidade de que todos participem na elaboração do pensamento.
A resposta não está escrita; depende de nós.
Compete ao homem decidir se há de tornar-se alimento para os algoritmos ou
nutrir o seu coração de liberdade, sem a qual não se cresce na sabedoria. Esta
sabedoria amadurece valorizando o tempo e abraçando as vulnerabilidades. Cresce
na aliança entre as gerações, entre quem tem memória do passado e quem tem
visão de futuro. Somente juntos é que cresce a capacidade de discernir, vigiar,
ver as coisas a partir do seu termo. Para não perder a nossa humanidade,
procuremos a Sabedoria que existe antes de todas as coisas (cf. Sir 1,
4), que, passando através dos corações puros, prepara amigos de Deus e profetas
(cf. Sab 7, 27): há de ajudar-nos também a orientar os
sistemas da inteligência artificial para uma comunicação plenamente humana.
Roma – São João de Latrão, 24 de janeiro de
2024.
[Francisco]
[1] Cartas do
Lago de Como (Brescia 52022), 95-97
[2] Em continuidade
com as anteriores Mensagens
para o Dia Mundial das Comunicações Sociais, dedicadas a «encontrar as
pessoas onde estão e como são» (2021), «escutar com o
ouvido do coração» (2022) e «falar com o
coração» (2023).
[3] Cf. Mensagem para o LII
Dia Mundial das Comunicações (2018): «“A verdade vos tornará livres” (Jo 8,
32). Fake news e jornalismo de paz».
[4] Mensagem para o LVII
Dia Mundial da Paz: 1 de janeiro de 2024, 8.
Nenhum comentário:
Postar um comentário