Dois dias após sua nomeação, o Papa Leão 14 falou mansamente para um salão cheio de cardeais de barrete vermelho e fez referência ao desafio da inteligência artificial à dignidade humana. Os príncipes da Igreja Católica ouviram atentamente enquanto o Papa Leão 14 expunha suas prioridades pela primeira vez, revelando que havia escolhido seu nome papal por causa da revolução tecnológica. Como ele explicou, seu homônimo Leão 13 defendeu os direitos dos trabalhadores de fábrica durante a Era Dourada, quando os barões industriais comandavam mudanças rápidas e desigualdade extrema.
“Hoje, a Igreja oferece seu tesouro de ensinamentos sociais para responder a outra revolução industrial e às inovações no campo da inteligência artificial que representam desafios à dignidade humana, à justiça e ao trabalho”, disse Leão 14 ao Colégio de Cardeais, que se levantou e aplaudiu seu novo pontífice e sua causa improvável.
O 267º papa, nascido em Chicago, está tornando a potencial ameaça da IA à humanidade uma questão central de seu pontificado, desafiando um setor de tecnologia que passou anos tentando ter no Vaticano um aliado.
Na última década, muitos dos executivos mais poderosos do Vale do Silício voaram para Roma para determinar a maneira como a maior denominação cristã do mundo pensa e fala sobre suas inovações. Os líderes do Google, Microsoft, Cisco e outras potências tecnológicas debateram as implicações filosóficas e sociais de máquinas cada vez mais inteligentes com o Vaticano, na esperança de compartilhar os benefícios das tecnologias emergentes, conquistar a autoridade moral e potencialmente direcionar sua influência sobre governos e legisladores.
Tratado internacional
Embora o diálogo tenha sido amigável, os dois lados têm pontos de vista que se sobrepõem apenas em parte. O Vaticano tem pressionado por um tratado internacional vinculativo sobre IA, o que alguns CEOs de tecnologia querem evitar.
Várias empresas apoiam diretrizes éticas voluntárias, preferindo isso à regulamentação juridicamente vinculativa da IA, que a União Europeia está implementando gradualmente. O governo Trump revogou as regulamentações de IA da era Biden e atacou a Europa por tentar impor regras vinculativas. Alguns executivos de tecnologia rejeitam até mesmo diretrizes gerais.
O Papa Francisco disse no início de seu reinado que mal sabia usar um computador. Mas quanto mais ele se familiarizava com a IA, mais preocupado ele ficava. Ele se tornou uma voz global de destaque sobre os possíveis perigos que ela poderia representar para a humanidade, reunindo-se cada vez mais com executivos de tecnologia para discutir o assunto.
O Papa Leão 14, formado em matemática e mais familiarizado com tecnologia do que seu antecessor, é igualmente cético em relação à IA não regulamentada — e ele está continuando de onde Francisco parou.
“Leão XIV quer que o mundo da ciência e da política enfrente imediatamente este problema, sem permitir que o progresso científico avance com arrogância, prejudicando aqueles que têm de se submeter ao seu poder”, disse o Cardeal Giuseppe Versaldi, que conhece o Papa há muitos anos.
Esta semana, o Vaticano está recebendo executivos do Google, Meta, IBM, Anthropic, Cohere e Palantir no Palácio Apostólico, como parte de uma conferência internacional de dois dias em Roma sobre IA, ética e governança corporativa. O evento é copresidido por David Berger, sócio do escritório de advocacia Wilson Sonsini, que assessora empresas de tecnologia, e Pierluigi Matera, sócio da Libra Legal Partners, que trabalha com o Vaticano.
A expectativa é que o Papa entregue uma mensagem por escrito aos participantes da conferência, mas não se reunirá com CEOs de empresas de tecnologia logo no início de seu papado. O presidente da Microsoft, Brad Smith, deve se reunir com autoridades do Vaticano em Roma neste mês, e o Google entrou em contato com o Vaticano sobre uma possível reunião com Leão, disseram pessoas familiarizadas com o assunto.
Os encontros podem dar às empresas que promovem a ascensão da IA uma ideia de se o Papa Leão oferecerá um conselho amigável ou uma contestação convicta.
Para entender o diálogo de aproximadamente uma década entre a Igreja Católica e as principais figuras do Vale do Silício, o The Wall Street Journal conversou com quase 30 executivos de tecnologia, clérigos e historiadores e futuristas que eles consultaram. Essas pessoas descreveram suas conversas detalhadas, muitas vezes mantidas em segredo, sobre o futuro da IA.
O Papa dos trabalhadores
A menção da década de 1890 pelo papa americano é o capítulo mais recente da relação ambivalente da Igreja Católica com o capitalismo.
Leão 13, que reinou no final do século XIX, foi o primeiro papa a confrontar sistematicamente o impacto social da revolução industrial. Apelidado de “Papa dos Trabalhadores”, Leão pressionou os governos a aprovar leis para proteger os trabalhadores dos capitalistas implacáveis da época.
As opiniões de Leão 13 foram profundamente influenciadas por um prelado americano, o cardeal James Gibbons de Baltimore, que lhe contou sobre a situação dos trabalhadores de fábrica nos EUA, muitos deles imigrantes católicos de países europeus como Itália e Irlanda. Se a Igreja não ajudasse os trabalhadores, Gibbons alertou o papa, os comunistas ímpios o fariam.
Em uma encíclica inovadora de 1891 chamada Rerum Novarum — do latim “Das Coisas Novas” — Leão 13 apoiou os apelos por sindicatos, salários dignos e condições de trabalho mais seguras. Mas ele também afirmou o direito à iniciativa privada e à propriedade.
“A contratação de mão de obra e a condução do comércio estão concentradas nas mãos de relativamente poucos; de modo que um pequeno número de homens muito ricos conseguiu impor às grandes massas de trabalhadores pobres um jugo pouco melhor do que o da própria escravidão”, escreveu Leão XIII.
A Rerum Novarum serviu de base para o ensino social católico moderno, inspirando movimentos trabalhistas católicos. Ela também influenciou uma poderosa vertente política conservadora moderada na Europa após a Segunda Guerra Mundial, que acreditava no capitalismo, mas com fortes proteções.
Diálogo com as big techs
Nos últimos tempos, a Igreja Católica tem se manifestado cada vez mais sobre a desigualdade e a necessidade de uma economia mais inclusiva.
A ética tecnológica não foi imediatamente uma preocupação central para Francisco, que se preocupava, às vezes, com o fato de os pobres do mundo serem desfavorecidos no acesso às mídias sociais. Ele adotou o Twitter e ficou conhecido no Vaticano como o “Papa do Snapchat” pelas selfies que tirava com visitantes e fiéis católicos.
Em 2016, o Vaticano recebeu alguns dos maiores nomes do Vale do Silício, incluindo Mark Zuckerberg do Facebook, Tim Cook (Apple) e Eric Schmidt, do Google, para discutir como a tecnologia poderia ser usada para o bem.
Francisco mencionou a Schmidt que ele precisava de ajuda com um novo canal do Vaticano no YouTube voltado para os jovens, de acordo com pessoas familiarizadas com a reunião. Schmidt enviou um grupo de Googlers ao Vaticano por várias semanas para ajudar, mas eles ficaram frustrados com o ritmo lento da burocracia do Vaticano, e o canal nunca se materializou.
O bispo Paul Tighe, da Irlanda, ajudou a organizar uma série de conversas a portas fechadas entre a hierarquia do Vaticano e líderes de tecnologia, conhecidas como Diálogos de Minerva, em homenagem a uma igreja dominicana em Roma.
No início, a conversa era principalmente sobre a promessa de crescimento da digitalização, mas, com o passar do tempo, os participantes começaram a discutir suas preocupações sobre a crescente polarização política que a acompanhava, de acordo com pessoas familiarizadas com as reuniões.
Durante esses anos, Francisco também começou a expressar preocupação com os massacres do povo Rohingya em Mianmar, que foram em parte alimentados por postagens virais no Facebook.
Com o tempo, os líderes de tecnologia começaram a falar cada vez mais sobre os próximos avanços da IA. “As pessoas nos diziam: ‘Olha, isso vai levantar questões sobre o futuro da humanidade e estamos interessados em conversar com todas as fontes tradicionais de sabedoria’”, disse Tighe.
Apelo à ética
No início de 2019, o arcebispo Vincenzo Paglia, então chefe da Pontifícia Academia da Vida do Vaticano, disse que a Microsoft entrou em contato para marcar uma reunião com o presidente da empresa, Brad Smith, para discutir as implicações éticas da inteligência artificial.
Paglia ficou intrigado, mas também cauteloso com as intenções da Microsoft. “No meu escritório, as pessoas me diziam: esse cara quer o selo de aprovação do Vaticano. Talvez seja por causa das vendas”, disse Paglia. Mas ele concordou em conhecer Smith, e eles se deram bem. “Foi quase amor à primeira vista. Houve um entendimento mútuo da importância vital desta questão”, disse Paglia.
Logo depois, o arcebispo encontrou-se com o papa e Smith. Não houve tempo para um briefing completo.
“Quem é ele?” Francisco perguntou a Paglia, enquanto se preparava para cumprimentar Smith. Para despertar o interesse do pontífice, o arcebispo disse que Smith era um advogado que ajudava imigrantes nos EUA (Smith foi cofundador de uma organização sem fins lucrativos que oferece assistência jurídica a crianças migrantes). “OK, vamos seguir então”, respondeu Francisco.
“Eu não podia simplesmente dizer: ‘Ele é o presidente da Microsoft’. Eu precisava causar um impacto emocional”, explicou Paglia. A Microsoft tinha um relacionamento de anos com autoridades do Vaticano, mas não nesse nível.
Smith explicou em detalhes para Francisco sobre sua visão sobre a IA. “Vemos essa tecnologia como algo a serviço da humanidade, não como uma sucessora dela”, disse Smith em uma entrevista.
Paglia e Smith estabeleceram as bases para diretrizes conhecidas como Chamado de Roma para Ética em IA, publicadas em 2020, que signatários corporativos, incluindo IBM e Cisco, se comprometeram a seguir.
O compromisso de 12 páginas submeteu os criadores de IA a não violar a privacidade ou os direitos humanos dos usuários ou a promover a discriminação, e propôs que “aqueles que projetam e implementam o uso da IA devem proceder com responsabilidade”.
Alguns pioneiros da IA, incluindo Google e OpenAI, ainda não assinaram o compromisso. Paglia espera que eles o façam.
O Vaticano reconheceu o potencial da IA para fazer o bem em áreas como saúde, educação e propagação da fé. Claramente, havia dilemas éticos a serem considerados. A esperança era que o clero e os líderes da área tecnológica pudessem se unir para definir princípios.
Nos anos seguintes, o encontro com o papa se tornou um rito de passagem para CEOs de tecnologia em ascensão, incluindo Dario Amodei, da Anthropic, Aidan Gomez, da Cohere, e Markus Pflitsch, da Terra Quantum, que chamou seu encontro com Francisco de “Santo Graal”.
“Houve um sentimento mais positivo ou mais ou menos consenso de que seremos capazes de organizar e usar a IA clássica para o bem, mas precisamos implementar as estruturas de governança corretas”, disse Pflitsch.
Muitas vezes, os visitantes debatiam com o papa sobre a natureza da tecnologia e do divino, disse o padre Eric Salobir, um padre dominicano que participou de algumas das reuniões.
Em uma reunião, Francisco comparou a dependência da IA em relação ao conteúdo da web produzido em alguns idiomas — principalmente inglês — à história da Torre de Babel, na qual humanos confiantes demais, falando uma única língua, tentaram construir uma torre para o céu, levando Deus a dispersá-los e sabotar sua criação.
Durante outro encontro, o papa alertou os líderes da tecnologia contra a crença de que entendiam os humanos apenas porque seus dados poderiam prever o comportamento humano: “Vocês perdem a humanidade deles porque não conseguem reduzir o ser humano aos seus dados”, lembrou o padre Salobir.
A jaqueta do papa
Em 2023, uma imagem gerada por IA do Papa Francisco vestindo uma elegante jaqueta branca se tornou uma das primeiras deepfakes a viralizar. Muitas pessoas ao redor do mundo acreditaram nela. Mais tarde naquele ano, Francisco alertou sobre uma “ditadura tecnológica” e pediu aos governos que desenvolvessem um tratado internacional juridicamente vinculativo para regular a IA.
Em seu discurso na cúpula de 2024 dos líderes do G-7, ele chamou a IA de “fascinante e aterrorizante“. Ele disse que a humanidade enfrentaria um futuro sem esperança se “escolhas feitas por máquinas” substituíssem as decisões das pessoas sobre suas vidas.
Em janeiro deste ano, o Vaticano alertou em um documento sobre IA que, mesmo que a tecnologia tivesse usos construtivos, algumas empresas de tecnologia poderiam ganhar riqueza e poder às custas de muitos.
Os militares poderiam correr para desenvolver armas autônomas, sem julgamento humano ou moralidade. As crianças correriam o risco de crescer em um mundo desumanizado, com chatbots como guias.
Após a morte de Francisco, a IA foi um grande tópico de discussão entre os cardeais que chegaram a Roma para eleger seu sucessor. Vários prelados europeus alertaram que a IA estava substituindo Deus na vida moderna. Alguns dos seus colegas da África expressaram preocupações sobre o apetite insaciável da indústria tecnológica pelos minerais enterrados no seu solo.
Agora eles estão esperando para ver como Leão usará a autoridade moral da igreja para pressionar por regras fortes sobre IA.
“Essas ferramentas não devem ser demonizadas, mas precisam ser regulamentadas”, disse o Cardeal Versaldi. “A questão é: quem as regulará? Não é viável que sejam regulamentadas por seus criadores. É preciso haver uma autoridade superior.”
Traduzido do inglês por InvestNews
Presented by
