Papa adverte para os perigos do uso indevido de Inteligência Artificial

Refletindo sobre o progresso técnico-científico e a inteligência artificial "que, por um lado, têm proporcionado soluções para inúmeros males que afetaram a vida humana", Francisco admitiu que esses avanços também conseguem causar "grande sofrimento".

A inteligência artificial tem permitido "um controlo sobre a realidade nunca visto até agora e está a colocar nas mãos do homem um vasto leque de possibilidades, algumas das quais representam um risco para a sobrevivência humana", afirmou.

Por isso, pediu, naquela que será a sua oração para o início do novo ano, "que o rápido desenvolvimento das formas de inteligência artificial não aumente as já numerosas desigualdades e injustiças presentes no mundo, mas antes ajude a pôr fim às guerras e aos conflitos e a aliviar tantas formas de sofrimento que afetam a família humana".

Na sua mensagem, Francisco alerta ainda que "as tecnologias que utilizam um grande número de algoritmos podem extrair, das pegadas digitais deixadas na Internet, dados que permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem os próprios se apercebam, limitando o exercício consciente de liberdade de escolha"

Devemos lembrar, defendeu, que a investigação científica e as inovações tecnológicas, "como atividades plenamente humanas, refletem decisões condicionadas pelos valores pessoais, sociais e culturais de cada época".

A inteligência artificial "promete, por exemplo, economia de esforço, produção mais eficiente, transportes mais ágeis e mercados mais dinâmicos, além de uma revolução nos processos de recolha, organização e verificação de dados", destacou.

No entanto, observou o Papa, a capacidade de alguns dispositivos produzirem textos "não é garantia de fiabilidade, podendo gerar afirmações que, à primeira vista parecem plausíveis, mas que na verdade são infundadas ou revelam preconceitos".

"É um problema sério quando a inteligência artificial é usada em campanhas de desinformação que espalham notícias falsas e levam a uma crescente desconfiança na imprensa", disse.

Além disso, explicou que "a grande quantidade de dados analisados pela inteligência artificial não é por si só uma garantia de imparcialidade. Quando os algoritmos extrapolam a informação, corre-se sempre o risco de se distorcer, reproduzindo as injustiças e os preconceitos dos ambientes em que está a ser gerada".

"Estas formas de manipulação ou controlo social requerem atenção e supervisão precisas e implicam uma clara responsabilidade legal por parte dos produtores, daqueles que as utilizam e das autoridades governamentais", sublinhou na sua mensagem.

Outra preocupação do chefe de Estado do Vaticano é o impacto que as novas tecnologias podem ter no âmbito laboral, já que "trabalhos que eram da competência exclusiva de mãos humanas serão rapidamente absorvidos pelas aplicações industriais da inteligência artificial".

Entre os perigos expostos pelo Papa inclui-se o setor do armamento com 'sistemas de armas autónomos', pelo que afirmou ser "imperativo garantir uma supervisão humana adequada, significativa e coerente dos sistemas de armas".

"Também não podemos ignorar a possibilidade de que armas sofisticadas acabem em mãos erradas, facilitando, por exemplo, ataques terroristas ou ações destinadas a desestabilizar instituições governamentais legítimas", lembrou.

Da mesma forma, "as aplicações técnicas mais avançadas não devem ser utilizadas para facilitar a resolução violenta de conflitos, mas sim para abrir caminhos para a paz", defendeu Francisco.

"Espero que esta reflexão encoraje o progresso no desenvolvimento de formas de inteligência artificial que contribuam, em última análise, para a causa da fraternidade humana e da paz", concluiu.