O Papa Leão XVI divulgou sua encíclica, uma carta dirigida aos pontífices e fiéis, nesta segunda-feira (25). No decorrer do documento, uma coisa inesperada chamou a atenção na internet: seu pedido pela regulamentação da inteligência artificial acompanhado por uma citação de O Senhor dos Anéis.
Ele também condenou o uso da IA em conflitos armados, afirmando que a redução do controle humano sobre o armamento torna ainda mais difícil considerar uma guerra “justa”, e alertou contra o início de uma corrida armamentista baseada em IA. Leão, que chamou a IA de o maior desafio enfrentado pela humanidade atualmente, afirmou no documento que “não é admissível” confiar decisões irreversíveis e letais a sistemas de IA.
Na Magnifica Humanitas, em uma seção intitulada “Todos nós podemos fazer a nossa parte”, o Papa Leão evoca o mago Gandalf para reforçar seu argumento:
O autor católico do século XX J.R.R. Tolkien, nas palavras de um protagonista de um de seus romances, descreveu nossa responsabilidade desta forma: “Não nos cabe dominar todas as marés do mundo, mas fazer o que está ao nosso alcance para socorrer aqueles anos em que estamos inseridos, arrancando o mal dos campos que conhecemos, para que aqueles que viverão depois possam ter terra limpa para cultivar”.
Essa citação é de O Senhor dos Anéis. O Retorno do Rei, onde o mago cinzento se dirige a uma assembleia dos senhores dos aliados nos portões de Minas Tirith. Nesse momento, Denethor e Théoden estão mortos e Faramir se recupera de seus ferimentos nas Casas de Cura. Entre os que o ouvem está Aragorn. Aqui está a citação completa:
“Outros males ainda podem vir; pois o próprio Sauron não passa de um servo ou emissário. No entanto, não nos cabe dominar todas as marés do mundo, mas fazer o que está ao nosso alcance para socorrer aqueles anos em que estamos inseridos, erradicando o mal dos campos que conhecemos, para que aqueles que viverão depois tenham terra limpa para cultivar. Que tempo eles terão não nos cabe decidir”.
A questão é: será que os líderes tecnológicos do mundo, tão obcecados pela IA a ponto de ela ter passado a dominar a economia ocidental, darão ouvidos ao Papa? Entre os participantes de um evento no Vaticano na segunda-feira, onde foi apresentado o texto, estava Chris Olah, cofundador da Anthropic, empresa que desenvolve as ferramentas de IA Claude. Portanto, sabemos que pelo menos um dos principais atores ouviu o que o Papa tinha a dizer.
“Não podemos nos contentar em apenas clamar pela moralização das máquinas — o chamado ‘alinhamento’ da IA com os valores humanos — sem também ter a coragem de insistir em uma condição adicional: a possibilidade de discutir abertamente os marcos éticos envolvidos e submetê-los a padrões compartilhados de justiça social”, continua Leão no texto.
“Caso contrário, aqueles que controlam a IA imporão sua própria visão moral, que se tornará a infraestrutura invisível desses sistemas. Uma IA mais moral não é suficiente se essa moralidade for determinada por poucos. O que é necessário é um envolvimento político mais ativo, capaz de desacelerar as coisas quando tudo está acelerando e de proteger as oportunidades para que as comunidades ainda possam participar e fazer perguntas”.
Inscreva-se no canal do IGN Brasil no Youtube e visite as nossas páginas no Facebook, Twitter, BlueSky, Threads, Instagram e Twitch! | Siga Bruno Renzi no Instagram e Backloggd
Fonte original: IGN Brasil.