Na mensagem “‘Inteligência Artificial e Paz”, o Papa Francisco enfatiza a necessidade de garantir que os sistemas de inteligência artificial (IA) não substituam os valores humanos, alertando sobre o risco de “cair na espiral de uma ditadura tecnológica”
Na mensagem “‘Inteligência Artificial e Paz”, escrita para a 57ª Conferência do Dia Mundial da Paz, a ser realizada em 1º de janeiro de 2024, o Papa Francisco enfatiza a necessidade de garantir que os sistemas de inteligência artificial (IA) não substituam os valores humanos, alertando sobre o risco de “cair na espiral de uma ditadura tecnológica”. Na mensagem, o Papa alerta para os numerosos riscos associados ao desenvolvimento da IA e clama pelo estabelecimento de um tratado internacional vinculativo que regule a tecnologia, particularmente as armas autônomas, garantindo o direcionamento da investigação tecnológica para a “busca da paz e do bem comum”.
Embora as “máquinas ‘inteligentes’ possam executar as tarefas que lhes são atribuídas com eficiência cada vez maior, a inteligência artificial é meramente fragmentária no sentido de que só pode imitar ou reproduzir certas funções da inteligência humana. A capacidade humana única de julgamento moral e tomada de decisão ética é mais do que uma coleção complexa de algoritmos, e essa capacidade não pode ser reduzida à programação de uma máquina, que por mais ‘inteligente’ que seja, continua a ser uma máquina”, pondera o Papa Francisco, concluindo: “Precisamos lembrar que a pesquisa científica e as inovações tecnológicas não são desencarnadas e ‘neutras’, mas estão sujeitas a influências culturais. Sendo atividades plenamente humanas, os rumos que tomam refletem escolhas condicionadas por valores pessoais, sociais e culturais de qualquer época”.
Para o Papa, os governos e as organizações multilaterais devem desempenhar um papel decisivo no estabelecimento de acordos que previnam não apenas práticas prejudiciais, mas também incentivem melhores práticas e abordagens criativas. “É minha oração no início do novo ano que o rápido desenvolvimento de formas de inteligência artificial não aumente os casos de desigualdade e injustiça tão presentes no mundo de hoje, mas ajude a pôr fim às guerras e aos conflitos e a aliviar muitas formas de sofrimento que afligem a nossa família humana”, defende o pontífice.
A mensagem do Papa Francisco encerra com propriedade o ano de hype da inteligência artificial – segundo a Wikimedia Foundation, organização sem fins lucrativos por trás da enciclopédia online, em 2023 a Wikipédia em inglês teve mais de 84 bilhões de visualizações; o ChatGPT foi o campeão de popularidade, com 49.490.406 visualizações em todos os idiomas, e 78 milhões de visualizações de páginas de artigos.
Veja a tradução da mensagem
“No início do novo ano, tempo de graça que o Senhor concede a cada um de nós, gostaria de me dirigir ao Povo de Deus, às diversas nações, aos Chefes de Estado e de Governo, aos líderes das diversas religiões e da sociedade civil, e todos os homens e mulheres do nosso tempo, para apresentar os meus fervorosos bons votos de paz. […] O progresso na ciência e na tecnologia, na medida em que contribui para uma maior ordem na sociedade humana e para uma maior comunhão e liberdade fraterna, conduz assim à melhoria da humanidade e à transformação do mundo. Com razão, regozijamo-nos e damos graças pelas impressionantes conquistas da ciência e da tecnologia, cujos resultados possibilitaram remediar inúmeros males que outrora atormentavam a vida humana e causavam grandes sofrimentos. Ao mesmo tempo, os avanços tecnocientíficos, ao permitirem exercer um controle sobre a realidade até agora sem precedentes, estão a colocar nas mãos humanas um vasto leque de opções, incluindo algumas que podem representar um risco para a nossa sobrevivência e pôr em perigo a nossa casa comum. Os avanços notáveis nas novas tecnologias da informação, especialmente na esfera digital, oferecem, portanto, oportunidades estimulantes e graves riscos, com sérias implicações para a busca da justiça e da harmonia entre os povos. Algumas perguntas urgentes precisam ser feitas, tais como quais serão as consequências, a médio e longo prazo, destas novas tecnologias digitais? E que impacto terão nas vidas individuais e nas sociedades, na estabilidade e na paz internacionais?
acumulação, organização e confirmação de dados. Precisamos estar conscientes das rápidas transformações que estão a ocorrer e de as gerir de forma a salvaguardar os direitos humanos fundamentais e a respeitar as instituições e as leis que promovem o desenvolvimento humano integral. A inteligência artificial deve servir ao nosso melhor potencial humano e às nossas mais elevadas aspirações, e não competir com elas.
Sobre a tecnologia do futuro, máquinas que ‘aprendem sozinhas’: em suas múltiplas formas, a inteligência artificial baseada em técnicas de aprendizagem automática, embora ainda nas suas fases pioneiras, já está a introduzir mudanças consideráveis no tecido das sociedades e a exercer uma influência profunda nas culturas, nos comportamentos sociais e na construção da paz. Desenvolvimentos como a aprendizagem automática ou a aprendizagem profunda levantam questões que transcendem os domínios da tecnologia e da engenharia e têm a ver com a compreensão mais profunda do significado da vida humana, a construção do conhecimento e a capacidade da mente de alcançar a verdade. A capacidade de certos dispositivos produzirem textos sintática e semanticamente coerentes, por exemplo, não é garantia de sua confiabilidade. Diz-se que ‘alucinam’, isto é, criam declarações que à primeira vista parecem plausíveis, mas são infundadas ou revelam preconceitos. Isto representa um problema grave quando a inteligência artificial é utilizada em campanhas de desinformação que espalham notícias falsas e levam a uma desconfiança crescente nos meios de comunicação. A privacidade, a propriedade de dados e a propriedade intelectual são outras áreas onde estas tecnologias geram graves riscos. A que podemos acrescentar outras consequências negativas do uso indevido dessas tecnologias, como a discriminação, a interferência nas eleições, a ascensão de uma sociedade de vigilância, a exclusão digital e a exacerbação de um individualismo cada vez mais desligado da sociedade. Todos estes fatores correm o risco de alimentar conflitos e dificultar a paz.
crescer desproporcionalmente, o conhecimento e a riqueza acumular-se-ão nas mãos de poucos e surgirão graves riscos para as sociedades democráticas e para a coexistência pacífica.
Sobre questões urgentes para a ética: no futuro, a confiabilidade de um requerente de uma hipoteca, a aptidão de um indivíduo para um emprego, a possibilidade de reincidência por parte de uma pessoa condenada ou o direito de receber asilo político ou assistência social poderão ser determinados por sistemas de inteligência artificial. Os diferentes níveis de mediação que esses sistemas introduzem estão particularmente expostos a formas de preconceito e discriminação: os erros sistêmicos podem facilmente multiplicar-se, produzindo não só injustiças em casos individuais, mas também, devido ao efeito dominó, formas reais de desigualdade social. Por vezes, igualmente, formas de inteligência artificial parecem capazes de influenciar as decisões dos indivíduos, operando através de opções pré-determinadas associadas a estímulos e dissuasões, ou operando através de um sistema de regulação das escolhas das pessoas com base no design da informação. Estas formas de manipulação ou controle social requerem atenção e supervisão cuidadosas e implicam uma responsabilidade legal clara por parte dos seus produtores, dos seus implementadores e das autoridades governamentais. A confiança em processos automáticos que categorizam os indivíduos, por exemplo, através do uso generalizado de vigilância ou da adoção de sistemas de crédito social, poderia igualmente ter repercussões profundas no tecido social, ao estabelecer uma classificação entre os cidadãos. Estes processos artificiais de categorização podem também conduzir a conflitos de poder, uma vez que dizem respeito não apenas a utilizadores virtuais, mas também a pessoas reais. O respeito fundamental pela dignidade humana exige que recusemos permitir que a singularidade da pessoa seja identificada por um conjunto de dados. Não se deve permitir que os algoritmos determinem a forma como entendemos os direitos humanos, que deixem de lado os valores humanos essenciais da compaixão, da misericórdia e do perdão, ou que eliminem a possibilidade de um indivíduo mudar e deixar o seu passado para trás. Também não podemos deixar de considerar, nesse contexto, o impacto das novas tecnologias no local de trabalho. Empregos que antes eram domínio exclusivo do trabalho humano estão sendo rapidamente assumidos por aplicações industriais de inteligência artificial. Também aqui existe o risco substancial de benefícios desproporcionais para poucos, ao preço do empobrecimento de muitos. O respeito pela dignidade dos trabalhadores e a importância do emprego para o bem-estar econômico dos indivíduos, famílias e sociedades, para a segurança no emprego e salários justos, devem ser uma alta prioridade para a comunidade internacional à medida que estas formas de tecnologia penetram mais profundamente em nossos locais de trabalho.
encontrar de novas formas. No entanto, continua a ser necessária uma reflexão sustentada sobre os tipos de relações para as quais nos estão a conduzir. Os nossos jovens crescem em ambientes culturais impregnados de tecnologia, e isso não pode deixar de desafiar os nossos métodos de ensino, educação e formação. A educação, ao utilizar sistemas de inteligência artificial, deve visar acima de tudo a promoção do pensamento crítico. Os utilizadores de todas as idades, mas especialmente os jovens, precisam desenvolver uma abordagem criteriosa à utilização de dados e conteúdos recolhidos na Web ou produzidos por sistemas de inteligência artificial. Escolas, universidades e sociedades científicas são desafiadas a ajudar estudantes e profissionais a compreender os aspectos sociais e éticos do desenvolvimento e da utilização da tecnologia. A formação na utilização dos novos meios de comunicação deve também ter em conta não só a desinformação, as notícias falsas, mas também o preocupante recrudescimento de certos medos ancestrais… que conseguiram esconder-se e espalhar-se por trás das novas tecnologias. Infelizmente, mais uma vez temos que combater a tentação de construir uma cultura de muros, de erguer muros… para evitar o encontro com outras culturas e outros povos, e o desenvolvimento de uma sociedade pacífica e convivência fraterna. Uma perspectiva autenticamente humana e o desejo de um futuro melhor para o nosso mundo indicam certamente a necessidade de um diálogo interdisciplinar que vise um desenvolvimento ético de algoritmos – uma ética algorítmica – em que os valores moldarão os rumos tomados pelas novas tecnologias. As considerações éticas também devem ser tidas em conta desde o início da investigação e continuar durante as fases de experimentação, concepção, produção, distribuição e comercialização. Esta é a abordagem da ética desde a concepção, e é aquela em que as instituições educativas e os decisores têm um papel essencial a desempenhar.
Sobre os desafios para o desenvolvimento do direito internacional: a escala global da inteligência artificial deixa claro que, juntamente com a responsabilidade dos Estados soberanos de regular a sua utilização internamente, as organizações internacionais podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e execução. A este respeito, exorto a comunidade global de nações a trabalhar em conjunto, a fim de adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas muitas formas. O objetivo da regulamentação, naturalmente, não deve ser apenas a prevenção de práticas prejudiciais, mas também o incentivo às melhores práticas, estimulando abordagens novas e criativas e encorajando iniciativas individuais ou de grupo. Na busca por modelos normativos que possam fornecer orientação ética aos desenvolvedores de tecnologias digitais, é indispensável identificar os valores humanos que devem sustentar os esforços das sociedades para formular, adotar e fazer cumprir os tão necessários quadros regulatórios. O trabalho de elaboração de diretrizes éticas para a produção de formas de inteligência artificial dificilmente pode prescindir da consideração de questões mais profundas relativas ao significado da existência humana, à proteção dos direitos humanos fundamentais e à busca da justiça e da paz. Este processo de discernimento ético e jurídico pode constituir uma oportunidade preciosa para uma reflexão partilhada sobre o papel que a tecnologia deve desempenhar nas nossas vidas individuais e comunitárias, e como a sua utilização pode contribuir para a criação de um mundo mais equitativo e humano. Por essa razão, nos debates sobre a regulamentação da inteligência artificial, as vozes de todas as partes interessadas devem ser tidas em conta, incluindo os pobres, os impotentes e outros que muitas vezes não são ouvidos nos processos de tomada de decisão globais.
Espero que a reflexão anterior encoraje os esforços para garantir que o progresso no desenvolvimento de formas de inteligência artificial sirva, em última análise, a causa da fraternidade humana e da paz. Não é responsabilidade de alguns, mas de toda a família humana. Porque a paz é fruto de relações que reconhecem e acolhem os outros na sua dignidade inalienável, e da cooperação e do compromisso na busca do desenvolvimento integral de todos os indivíduos e povos. É minha oração, no início do Ano Novo, que o rápido desenvolvimento de formas de inteligência artificial não aumente os casos de desigualdade e injustiça, tão presentes no mundo de hoje, mas ajude a pôr fim às guerras e aos conflitos e a aliviar muitas formas de sofrimento que afligem a nossa família humana. Que os crentes cristãos, os seguidores de diversas religiões e os homens e mulheres de boa vontade trabalhem juntos e em harmonia para aproveitar as oportunidades e enfrentar os desafios colocados pela revolução digital e assim transmitir às gerações futuras um mundo de mais solidariedade, justiça e paz.“
Feliz ano novo!
