MENSAGEM DO SANTO PADRE
FRANCISCO
PARA A CELEBRAÇÃO DO
DIA MUNDIAL DA PAZ
1º DE JANEIRO DE 2024
INTELIGÊNCIA
ARTIFICIAL E PAZ
No início do novo ano, tempo de graça
concedido pelo Senhor a cada um de nós, quero dirigir-me ao Povo de Deus, às
nações, aos Chefes de Estado e de Governo, aos Representantes das diversas
religiões e da sociedade civil, a todos os homens e mulheres do nosso tempo
para lhes expressar os meus votos de paz.
1. O progresso da ciência e da
tecnologia como caminho para a paz
A Sagrada Escritura atesta que Deus deu aos
homens o seu Espírito a fim de terem «sabedoria, inteligência e capacidade para
toda a espécie de trabalho» (Ex 35, 31). A inteligência é expressão
da dignidade que nos foi dada pelo Criador, que nos fez à sua imagem e
semelhança (cf. Gn 1, 26) e nos tornou capazes, através da
liberdade e do conhecimento, de responder ao seu amor. Esta qualidade
fundamentalmente relacional da inteligência humana manifesta-se de modo
particular na ciência e na tecnologia, que são produtos extraordinários do seu
potencial criativo.
Na Constituição pastoral Gaudium
et spes, o Concílio Vaticano II reafirmou esta verdade, declarando que
«sempre o homem procurou, com o seu trabalho e engenho, desenvolver mais a
própria vida». [1] Quando os seres humanos, «recorrendo
à técnica», se esforçam por que a terra «se torne habitação digna para toda a
humanidade», [2] agem segundo o desígnio divino e
cooperam com a vontade que Deus tem de levar à perfeição a criação e difundir a
paz entre os povos. Assim o próprio progresso da ciência e da técnica – na
medida em que contribui para uma melhor organização da sociedade humana, para o
aumento da liberdade e da comunhão fraterna – leva ao aperfeiçoamento do homem
e à transformação do mundo.
Justamente nos alegramos e sentimos reconhecidos
pelas extraordinárias conquistas da ciência e da tecnologia, graças às quais se
pôs remédio a inúmeros males que afligiam a vida humana e causavam grandes
sofrimentos. Ao mesmo tempo, os progressos técnico-científicos, que permitem
exercer um controle – até agora inédito – sobre a realidade, colocam nas mãos
do homem um vasto leque de possibilidades, algumas das quais podem constituir
um risco para a sobrevivência humana e um perigo para a casa comum. [3]
Deste modo os progressos notáveis das novas
tecnologias da informação, sobretudo na esfera digital, apresentam
oportunidades entusiasmantes mas também graves riscos, com sérias implicações
na prossecução da justiça e da harmonia entre os povos. Por isso torna-se
necessário interrogar-nos sobre algumas questões urgentes: quais serão as
consequências, a médio e longo prazo, das novas tecnologias digitais? E que
impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a
estabilidade e a paz?
2. O futuro da inteligência
artificial, por entre promessas e riscos
Os progressos da informática e o
desenvolvimento das tecnologias digitais, nas últimas décadas, começaram já a
produzir profundas transformações na sociedade global e nas suas dinâmicas. Os
novos instrumentos digitais estão a mudar a fisionomia das comunicações, da
administração pública, da instrução, do consumo, dos intercâmbios pessoais e de
inúmeros outros aspetos da vida diária.
Além disso as tecnologias que se servem duma
multiplicidade de algoritmos podem, dos vestígios digitais deixados na internet,
extrair dados que permitem controlar os hábitos mentais e relacionais das
pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento,
limitando o exercício consciente da sua liberdade de escolha. De facto, num
espaço como a web caraterizado por uma sobrecarga de
informações, pode-se compor o fluxo de dados segundo critérios de seleção nem
sempre enxergados pelo utente.
Devemos recordar-nos de que a pesquisa
científica e as inovações tecnológicas não estão desencarnadas da realidade nem
são «neutrais», [4] mas estão sujeitas às influências
culturais. Sendo atividades plenamente humanas, os rumos que tomam refletem
opções condicionadas pelos valores pessoais, sociais e culturais de cada época.
E o mesmo se diga dos resultados que alcançam: enquanto fruto de abordagens
especificamente humanas do mundo envolvente, têm sempre uma dimensão ética,
intimamente ligada às decisões de quem projeta a experimentação e orienta a
produção para objetivos particulares.
Isto aplica-se também às formas de
inteligência artificial. Desta, até ao momento, não existe uma definição
unívoca no mundo da ciência e da tecnologia. A própria designação, que já
entrou na linguagem comum, abrange uma variedade de ciências, teorias e
técnicas destinadas a fazer com que as máquinas, no seu funcionamento,
reproduzam ou imitem as capacidades cognitivas dos seres humanos. Falar de
«formas de inteligência», no plural, pode ajudar sobretudo a assinalar o fosso
intransponível existente entre estes sistemas, por mais surpreendentes e
poderosos que sejam, e a pessoa humana: em última análise, aqueles são
«fragmentários» já que têm possibilidades de imitar ou reproduzir apenas
algumas funções da inteligência humana. Além disso o uso do plural destaca que
tais dispositivos, muito diferentes entre si, devem ser sempre considerados
como «sistemas sociotécnicos». Com efeito o seu impacto, independentemente da
tecnologia de base, depende não só da projetação, mas também dos objetivos e
interesses de quem os possui e de quem os desenvolve, bem como das situações em
que são utilizados.
Por conseguinte a inteligência artificial
deve ser entendida como uma galáxia de realidades diversas e não podemos
presumir a priori que o seu desenvolvimento traga um contributo benéfico para o
futuro da humanidade e para a paz entre os povos. O resultado positivo só será
possível se nos demonstrarmos capazes de agir de maneira responsável e
respeitar valores humanos fundamentais como «a inclusão, a transparência, a
segurança, a equidade, a privacidade e a fiabilidade». [5]
E não é suficiente presumir, por parte de
quem projeta algoritmos e tecnologias digitais, um empenho por agir de modo
ético e responsável. É preciso reforçar ou, se necessário, instituir organismos
encarregados de examinar as questões éticas emergentes e tutelar os direitos de
quantos utilizam formas de inteligência artificial ou são influenciados por
ela. [6]
Assim, a imensa expansão da tecnologia deve
ser acompanhada por uma adequada formação da responsabilidade pelo seu
desenvolvimento. A liberdade e a convivência pacífica ficam ameaçadas, quando
os seres humanos cedem à tentação do egoísmo, do interesse próprio, da ânsia de
lucro e da sede de poder. Por isso temos o dever de alargar o olhar e orientar
a pesquisa técnico-científica para a prossecução da paz e do bem comum, ao
serviço do desenvolvimento integral do homem e da comunidade. [7]
A dignidade intrínseca de cada pessoa e a
fraternidade que nos une como membros da única família humana devem estar na
base do desenvolvimento de novas tecnologias e servir como critérios
indiscutíveis para as avaliar antes da sua utilização, para que o progresso
digital possa verificar-se no respeito pela justiça e contribuir para a causa
da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de
vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os
conflitos, nunca poderão ser considerados um verdadeiro progresso. [8]
A inteligência artificial tornar-se-á cada
vez mais importante. Os desafios que coloca não são apenas de ordem técnica,
mas também antropológica, educacional, social e política. Deixa esperar, por
exemplo, poupança de esforços, produção mais eficiente, transportes mais fáceis
e mercados mais dinâmicos, bem como uma revolução nos processos de recolha,
organização e verificação de dados. Precisamos de estar conscientes das rápidas
transformações em curso e geri-las de forma a salvaguardar os direitos humanos
fundamentais, respeitando as instituições e as leis que promovem o progresso
humano integral. A inteligência artificial deveria estar ao serviço dum melhor
potencial humano e das nossas mais altas aspirações, e não em competição com
eles.
3. A tecnologia do futuro: máquinas
que aprendem sozinhas
Nas suas múltiplas formas, a inteligência
artificial, baseada em técnicas de aprendizagem automática (machine learning),
embora ainda numa fase pioneira, já está a introduzir mudanças notáveis no
tecido das sociedades, exercendo uma influência profunda nas culturas, nos
comportamentos sociais e na construção da paz.
Desenvolvimentos como a aprendizagem
automática (machine learning) ou a aprendizagem profunda (deep learning)
levantam questões que transcendem os âmbitos da tecnologia e da engenharia e
têm a ver com uma compreensão intimamente ligada ao significado da vida humana,
aos processos basilares do conhecimento e à capacidade que tem a mente de
alcançar a verdade.
A capacidade de alguns dispositivos
produzirem textos sintática e semanticamente coerentes, por exemplo, não é
garantia de fiabilidade. Diz-se que podem «alucinar», isto é, gerar afirmações
que à primeira vista parecem plausíveis, mas na realidade são infundadas ou
preconceituosas. Isto coloca um sério problema quando a inteligência artificial
é utilizada em campanhas de desinformação que espalham notícias falsas e levam
a uma desconfiança crescente relativamente aos meios de comunicação. A
confidencialidade, a posse dos dados e a propriedade intelectual são outros
âmbitos em que as tecnologias em questão comportam graves riscos, aos quais se
vêm juntar outras consequências negativas ligadas a um uso indevido, como a
discriminação, a interferência nos processos eleitorais, a formação duma
sociedade que vigia e controla as pessoas, a exclusão digital e a exacerbação
dum individualismo cada vez mais desligado da coletividade. Todos estes fatores
correm o risco de alimentar os conflitos e obstaculizar a paz.
4. O sentido do limite, no paradigma
tecnocrático
O nosso mundo é demasiado vasto, variado e
complexo para ser completamente conhecido e classificado. A mente humana nunca
poderá esgotar a sua riqueza, nem sequer com a ajuda dos algoritmos mais
avançados. De facto, estes não oferecem previsões garantidas do futuro, mas
apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser
calculado; no fim de contas, «a realidade é superior à ideia» [9] e, por mais prodigiosa que seja a
nossa capacidade de calcular, haverá sempre um resíduo inacessível que escapa a
qualquer tentativa de quantificação.
Além disso, a grande quantidade de dados
analisados pelas inteligências artificiais não é, por si só, garantia de
imparcialidade. Quando os algoritmos extrapolam informações, correm sempre o
risco de as distorcer, replicando as injustiças e os preconceitos dos ambientes
onde têm origem. Quanto mais rápidos e complexos eles se tornam, mais difícil é
compreender por que produziram um determinado resultado.
As máquinas inteligentes podem desempenhar as
tarefas que lhes são atribuídas com uma eficiência cada vez maior, mas a
finalidade e o significado das suas operações continuarão a ser determinados ou
capacitados por seres humanos com o seu próprio universo de valores. O risco é
que os critérios subjacentes a certas escolhas se tornem menos claros, que a
responsabilidade de decisão seja ocultada e que os produtores possam
subtrair-se à obrigação de agir para o bem da comunidade. Em certo sentido,
isto é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e
privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja
ligado aos seus interesses imediatos. [10]
Isto deve fazer-nos refletir sobre um aspeto
transcurado frequentemente na atual mentalidade tecnocrática e eficientista,
mas decisivo para o desenvolvimento pessoal e social: o «sentido do limite».
Com efeito o ser humano, mortal por definição, pensando em ultrapassar todo o
limite mediante a técnica, corre o risco, na obsessão de querer controlar tudo,
de perder o controle sobre si mesmo; na busca duma liberdade absoluta, de cair
na espiral duma ditadura tecnológica. Reconhecer e aceitar o próprio limite de
criatura é condição indispensável para que o homem alcance ou, melhor, acolha a
plenitude como uma dádiva; ao passo que, no contexto ideológico dum paradigma
tecnocrático animado por uma prometeica presunção de autossuficiência, as
desigualdades poderiam crescer sem medida, e o conhecimento e a riqueza
acumular-se nas mãos de poucos, com graves riscos para as sociedades
democráticas e uma coexistência pacífica. [11]
5. Temas quentes para a ética
No futuro, a fiabilidade de quem solicita um
mútuo, a idoneidade dum indivíduo para determinado emprego, a possibilidade de
reincidência dum condenado ou o direito a receber asilo político ou assistência
social poderão ser determinados por sistemas de inteligência artificial. A
falta de níveis diversificados de mediação que tais sistemas introduzem está
particularmente exposta a formas de preconceito e discriminação: os erros do
sistema podem multiplicar-se facilmente, gerando não só injustiças em casos
individuais, mas também, por efeito dominó, verdadeiras formas de desigualdade
social.
Além disso, por vezes, as formas de
inteligência artificial parecem capazes de influenciar as decisões dos indivíduos
através de opções predeterminadas associadas a estímulos e dissuasões, ou então
através de sistemas de regulação das opções pessoais baseados na organização
das informações. Estas formas de manipulação ou controle social requerem
atenção e vigilância cuidadosas, implicando uma clara responsabilidade legal
por parte dos produtores, de quem os contrata e das autoridades governamentais.
O ato de se confiar a processos automáticos
que dispõem os indivíduos por categorias, por exemplo, através dum uso invasivo
da vigilância ou da adoção de sistemas de crédito social, poderia ter
repercussões profundas também no tecido civil, estabelecendo classificações
inadequadas entre os cidadãos. E estes processos artificiais de classificação
poderiam levar também a conflitos de poder, envolvendo não apenas destinatários
virtuais, mas também pessoas de carne e osso. O respeito fundamental pela
dignidade humana requer a rejeição de que a unicidade da pessoa seja
identificada com um conjunto de dados. Não se deve permitir que os algoritmos
determinem o modo como entendemos os direitos humanos, ponham de lado os
valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a
possibilidade de um indivíduo mudar e deixar para trás o passado.
Neste contexto, não podemos deixar de
considerar o impacto das novas tecnologias no âmbito laboral: trabalhos, que
outrora eram prerrogativa exclusiva da mão-de-obra humana, acabam rapidamente
absorvidos pelas aplicações industriais da inteligência artificial. Também
neste caso, há substancialmente o risco duma vantagem desproporcionada para
poucos à custa do empobrecimento de muitos. A Comunidade Internacional,
ao ver como tais formas de tecnologia penetram cada vez mais profundamente nos
locais de trabalho, deveria considerar como alta prioridade o respeito pela
dignidade dos trabalhadores e a importância do emprego para o bem-estar
económico das pessoas, das famílias e das sociedades, a estabilidade dos
empregos e a equidade dos salários.
6. Transformaremos as espadas em relhas
de arado?
Nestes dias, contemplando o mundo que nos
rodeia, não se pode ignorar as graves questões éticas relacionadas com o setor
dos armamentos. A possibilidade de efetuar operações militares através de
sistemas de controle remoto levou a uma perceção menor da devastação por eles
causada e da responsabilidade da sua utilização, contribuindo para uma
abordagem ainda mais fria e destacada da imensa tragédia da guerra. A pesquisa
sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais
autónomas», incluindo a utilização bélica da inteligência artificial, é um
grave motivo de preocupação ética. Os sistemas de armas autónomos nunca poderão
ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de
julgamento moral e de decisão ética é mais do que um conjunto complexo de
algoritmos, e tal capacidade não pode ser reduzida à programação duma máquina
que, por mais «inteligente» que seja, permanece sempre uma máquina. Por esta
razão, é imperioso garantir uma supervisão humana adequada, significativa e
coerente dos sistemas de armas.
Também não podemos ignorar a possibilidade de
armas sofisticadas caírem em mãos erradas, facilitando, por exemplo, ataques
terroristas ou intervenções visando desestabilizar instituições legítimas de
Governo. Em resumo, o mundo não precisa realmente que as novas tecnologias
contribuam para o iníquo desenvolvimento do mercado e do comércio das armas,
promovendo a loucura da guerra. Ao fazê-lo, não só a inteligência, mas também o
próprio coração do homem, correrá o risco de se tornar cada vez mais
«artificial». As aplicações técnicas mais avançadas não devem ser utilizadas
para facilitar a resolução violenta dos conflitos, mas para pavimentar os
caminhos da paz.
Numa ótica mais positiva, se a inteligência
artificial fosse utilizada para promover o desenvolvimento humano integral,
poderia introduzir inovações importantes na agricultura, na instrução e na
cultura, uma melhoria do nível de vida de inteiras nações e povos, o
crescimento da fraternidade humana e da amizade social. Em última análise, a
forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais
frágeis e necessitados, é a medida reveladora da nossa humanidade.
Um olhar humano e o desejo dum futuro melhor
para o nosso mundo levam à necessidade dum diálogo interdisciplinar voltado
para um desenvolvimento ético dos algoritmos – a algor-etica -,
em que sejam os valores a orientar os percursos das novas tecnologias. [12] As questões éticas deveriam ser
tidas em consideração desde o início da pesquisa, bem como nas fases de
experimentação, projetação, produção, distribuição e comercialização. Esta é a
abordagem da ética da projetação, na qual as instituições educativas e os
responsáveis pelo processo de decisão têm um papel essencial a desempenhar.
7. Desafios para a educação
O desenvolvimento duma tecnologia que
respeite e sirva a dignidade humana tem implicações claras para as instituições
educativas e para o mundo da cultura. Ao multiplicar as possibilidades de
comunicação, as tecnologias digitais permitiram encontrar-se de novas formas.
Todavia continua a ser necessária uma reflexão contínua sobre o tipo de
relações para onde nos estão encaminhando. Os jovens estão a crescer em
ambientes culturais impregnados de tecnologia, o que não pode deixar de pôr em
causa os métodos de ensino e formação.
A educação para o uso de formas de inteligência
artificial deveria visar sobretudo a promoção do pensamento crítico. É
necessário que os utentes das várias idades, mas principalmente os jovens,
desenvolvam uma capacidade de discernimento no uso de dados e conteúdos
recolhidos na web ou produzidos por sistemas de inteligência
artificial. As escolas, as universidades e as sociedades científicas são
chamadas a ajudar os estudantes e profissionais a assumir os aspetos sociais e
éticos do progresso e da utilização da tecnologia.
A formação no uso dos novos instrumentos de
comunicação deveria ter em conta não só a desinformação, as notícias falsas,
mas também a recrudescência preocupante de «medos ancestrais (...) que souberam
esconder-se e revigorar-se por detrás das novas tecnologias». [13] Infelizmente, encontramo-nos mais
uma vez a combater «a tentação de fazer uma cultura dos muros, de erguer os
muros (…), para impedir este encontro com outras culturas, com outras
pessoas» [14] e o desenvolvimento duma coexistência
pacífica e fraterna.
8. Desafios para o desenvolvimento do
direito internacional
O alcance global da inteligência artificial
deixa claro que, juntamente com a responsabilidade dos Estados soberanos de
regular a sua utilização internamente, as Organizações Internacionais podem
desempenhar um papel decisivo na obtenção de acordos multilaterais e na
coordenação da sua aplicação e implementação. [15] A este respeito, exorto a
Comunidade das Nações a trabalhar unida para adotar um tratado internacional
vinculativo, que regule o desenvolvimento e o uso da inteligência artificial
nas suas variadas formas. Naturalmente o objetivo da regulamentação não deveria
ser apenas a prevenção de más aplicações, mas também o incentivo às boas
aplicações, estimulando abordagens novas e criativas e facilitando iniciativas
pessoais e coletivas. [16]
Em última análise, na busca de modelos
normativos que possam fornecer uma orientação ética aos criadores de
tecnologias digitais, é indispensável identificar os valores humanos que
deveriam estar na base dos esforços das sociedades para formular, adotar e
aplicar os quadros legislativos necessários. O trabalho de elaboração de
diretrizes éticas para a produção de formas de inteligência artificial não pode
prescindir da consideração de questões mais profundas relativas ao significado
da existência humana, à proteção dos direitos humanos fundamentais, à busca da
justiça e da paz. Este processo de discernimento ético e jurídico pode
revelar-se preciosa ocasião para uma reflexão compartilhada sobre o papel que a
tecnologia deveria ter na nossa vida individual e comunitária e sobre a forma
como a sua utilização possa contribuir para a criação dum mundo mais equitativo
e humano. Por este motivo, nos debates sobre a regulamentação da inteligência
artificial, dever-se-ia ter em conta as vozes de todas as partes interessadas,
incluindo os pobres, os marginalizados e outros que muitas vezes permanecem
ignorados nos processos de decisão globais.
* * *
Espero que esta reflexão encoraje a fazer com
que os progressos no desenvolvimento de formas de inteligência artificial
sirvam, em última análise, a causa da fraternidade humana e da paz. Não é
responsabilidade de poucos, mas da família humana inteira. De facto, a paz é
fruto de relações que reconhecem e acolhem o outro na sua dignidade
inalienável, e de cooperação e compromisso na busca do desenvolvimento integral
de todas as pessoas e de todos os povos.
No início do novo ano, a minha oração é que o
rápido desenvolvimento de formas de inteligência artificial não aumente as já
demasiadas desigualdades e injustiças presentes no mundo, mas contribua para
pôr fim às guerras e conflitos e para aliviar muitas formas de sofrimento que
afligem a família humana. Possam os fiéis cristãos, os crentes das várias
religiões e os homens e mulheres de boa vontade colaborar harmoniosamente para
aproveitar as oportunidades e enfrentar os desafios colocados pela revolução
digital, e entregar às gerações futuras um mundo mais solidário, justo e
pacífico.
Vaticano, 8 de dezembro de 2023.
Francisco
[1]N. 33.
[2] Ibid.,
57.
[3]Cf. Francisco, Carta
enc. Laudato
si’ (24/V/2015), 104.
[4]Cf. ibid., 114.
[5]Francisco, Discurso aos
participantes no Encontro dos «Minerva Dialogues» (27/III/2023).
[6]Cf. ibid.
[7]Cf. Francisco, Mensagem ao
Presidente Executivo do «World Economic Forum» em Davos-Klosters (12/I/2018).
[8]Cf. Carta enc. Laudato
si’, 194; Francisco, Discurso aos
participantes no Seminário «O bem comum na era digital» (27/IX/2019).
[9]Francisco,Exort.
ap. Evangelii gaudium (24/XI/2013), 233.
[10]Cf. Carta enc. Laudato
si’, 54.
[11]Cf. Francisco, Discurso aos
participantes na Plenária da Pontifícia Academia em prol da Vida (28/II/2020).
[12]Cf. ibid.
[13]Francisco, Carta
enc. Fratelli tutti (03/X/2020), 27.
[14]Cf. ibid.
[15]Cf. ibid., 170-175.
[16]Cf. Carta enc. Laudato
si’, 177.
https://www.vatican.va/content/francesco/pt/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html