A Inteligência Artificial sob a Lente Ética: A Visão do Papa Leão XIV sobre o Futuro da Humanidade
A recém-lançada encíclica ‘Magnifica Humanitas’, do Papa Leão XIV, tem gerado intensos debates e análises desde sua publicação. O documento, que aborda a inteligência artificial (IA), não apenas delineia a perspectiva da Igreja Católica sobre essa tecnologia transformadora, mas também serve como uma introdução acessível à Doutrina Social da Igreja (DSI) para muitos leitores.
A Igreja, historicamente, nunca se opôs ao avanço tecnológico, reconhecendo suas contribuições para o desenvolvimento humano, como exemplificado pelas inovações agrícolas dos mosteiros medievais. Contudo, a posição sempre foi clara: a tecnologia deve servir à humanidade, e não o contrário. A encíclica inicia com a metáfora da Torre de Babel para ilustrar os perigos de buscar o progresso tecnológico desvinculado de princípios divinos, ressaltando que a IA não é uma ferramenta moralmente neutra.
O Papa Leão XIV adverte que o discernimento ético sobre a IA deve ir além da simples avaliação de seus usos bons ou maus. É crucial questionar a forma como esses sistemas são projetados e quais concepções de ser humano e sociedade estão embutidas em seus dados e modelos. Essa reflexão, apresentada na encíclica, é fundamental para garantir que a IA beneficie a todos, conforme divulgado em análises do documento.
Salvaguardando o Humano: A Tríade da Verdade, Trabalho e Liberdade
Um dos pontos centrais da encíclica, destacado pelo capítulo IV, ‘Salvaguardar o humano na transformação’, é a tríade ‘verdade, trabalho e liberdade’. Esses pilares são apresentados como chaves para uma utilização benéfica da IA, impedindo que a tecnologia se torne um fim em si mesma. A preocupação com as consequências práticas da IA é uma constante, especialmente no que tange à preservação da dignidade humana.
A encíclica enfatiza que as inteligências artificiais, por mais avançadas que sejam, ‘não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade’. Essa distinção sublinha a insubstituibilidade da experiência humana.
A Verdade na Era Digital: Desafios e Manipulações
No que diz respeito à verdade, a encíclica alerta para o poder das tecnologias em moldar culturas e percepções. Quem domina o desenvolvimento da IA pode, potencialmente, ‘convencer um significativo número de pessoas sobre qual é a verdade a respeito do ser humano, do mundo, do sentido da existência, da família e até mesmo de Deus’. A disseminação de informações falsas, como deep fakes, é apenas um aspecto desse desafio.
A preocupação maior reside na possibilidade de que desenvolvedores com visões equivocadas sobre a natureza humana ou a inexistência de verdades objetivas influenciem a IA. Isso poderia minar a noção de dignidade intrínseca do ser humano, um princípio fundamental que independe da capacidade produtiva individual, contrariando o paradigma tecnocrático dominante na corrida pela IA.
O Futuro do Trabalho e a Autonomia Humana
O mundo do trabalho é apontado como uma das áreas mais impactadas pela IA. Além do risco de desemprego em massa devido à automação, o trabalho criativo e intelectual pode sofrer transformações profundas. O Papa Leão XIV questiona se a delegação excessiva de tarefas à IA não nos reduziria a meros criadores de ‘prompts’, enfraquecendo nossa capacidade de raciocínio e criatividade.
O documento adverte que a facilidade em obter respostas prontas pode nos habituar a delegar excessivamente, ‘enfraquecendo a própria opinião e a criatividade’. Isso é visto como desastroso, pois o trabalho é um meio de desenvolvimento pessoal e cooperação com o ato criador, conforme citado na encíclica.
Liberdade em Risco: Controle Social e Exploração de Dados
Quanto à liberdade, a encíclica defende que o uso da IA deve ser livre de qualquer forma de controle social ou individual. IA pode ser empregada por regimes autoritários para censura e opressão, mas também por atores privados que exploram dados coletados na internet para influenciar comportamentos e potencializar vícios, ‘muitas vezes sem que as pessoas tenham plena consciência disso’.
O Papa Leão XIV alerta para o risco de que dados sejam usados para tomar decisões cruciais, como acesso a crédito ou recrutamento, ‘lesando a liberdade e discriminando os mais fracos’. Um exemplo mais drástico é o controle sobre dados de saúde, que pode dar aos detentores uma ‘alavanca estrutural em relação ao futuro’, moldando mercados e decidindo o acesso a tratamentos.
Sugestões Concretas e a Necessidade de Vigilância
A encíclica oferece sugestões práticas, como a proibição de delegar decisões de força letal a processos automatizados, que devem permanecer sob ‘controla humano efetivo, consciente e responsável’. Também são propostas medidas legislativas para proteção contra exploração e violência sexual online.
Uma sugestão radical e simples é o ‘jejum da IA’, propondo momentos de pensamento humano sem assistência da máquina, especialmente para os jovens. O objetivo é combater a terceirização do pensamento e preservar a capacidade de raciocínio. Recomenda-se também a ‘higiene da atenção’, incentivando o silêncio, a leitura e conversas demoradas, em contraposição ao design das plataformas digitais.
De forma mais geral, a encíclica reitera princípios da DSI, como a necessidade de acompanhar a introdução de automação e IA com medidas de proteção ao emprego e requalificação dos trabalhadores. A subsidiariedade é enfatizada, permitindo que cada comunidade encontre soluções adequadas à sua realidade.
O sociólogo Francisco Borba Ribeiro Neto observa que a encíclica se alinha a uma tradição de reflexão católica sobre a capacidade humana de administrar os avanços técnico-científicos. Ele aponta que, no caso da IA, o desafio é ainda maior, pois os criadores das inovações não são, em geral, os administradores de seus potenciais, mas sim o poder político e econômico, especialmente as grandes empresas de tecnologia.
A presença de Christopher Olah, cofundador da Anthropic, no lançamento da encíclica levanta questões sobre o real interesse das empresas de tecnologia em um uso ético da IA, ou se buscam um ‘selo de aprovação papal’. Borba Neto, contudo, vê um sinal positivo na escolha do Vaticano por dialogar com empresas que têm demonstrado um compromisso ético, mesmo que isso possa ir contra interesses comerciais, como no caso da recusa da Anthropic em permitir o uso irrestrito do Claude por forças armadas.
Por fim, a encíclica cita ‘O Senhor dos Anéis’, através de Gandalf: ‘Não nos compete dominar todas as marés do mundo, mas sim fazer o que nos for possível para ajudar os anos em que estamos inseridos, erradicando o mal nos campos que conhecemos para que quem viver depois possa ter terra limpa para amanhar’. Essa referência, juntamente com citações de Beethoven e Picasso, reforça a mensagem de responsabilidade e a necessidade de preservar a humanidade diante dos avanços da IA, evitando que ela se torne um ‘anel de poder’ que corrompe a alma, como o Um Anel na obra de Tolkien.
