Democratização da IA exige "aposta" na defesa de direitos fundamentais

O presidente do Comité de Inteligência Artificial do Conselho da Europa, Mario Hernández Ramos, defende que a democratização da Inteligência Artificial exige "uma aposta decidida e proativa" das entidades públicas para proteger Direitos Humanos e garantir processos eleitorais democráticos.

Notícia

© Shutterstock

Lusa
26/01/2025 17:00 ‧ ontem por Lusa

Tech

IA

"Todos os direitos fundamentais estão a ser afetados" pela Inteligência Artificial (IA), mas há três "mais importantes, do ponto de vista dos Direitos Humanos" e pela sua transversalidade, disse Mario Hernández Ramos, em entrevista à agência Lusa em Madrid, onde é professor de Direito Constitucional na Universidade Complutense.

 

Esses três direitos fundamentais são a proteção de dados pessoais, a não discriminação e a justiça, segundo Mario Hernández Ramos.

A IA "trabalha com dados" e são necessárias novas legislações neste âmbito, defendeu Mario Hernández Ramos, que realçou que o regulamento europeu de proteção de dados, por exemplo, foi elaborado num momento anterior à "escalada da inteligência artificial" dos últimos dois anos, num momento em que não estava ainda tão desenvolvida e em que caminha para sistemas cada vez mais autónomos e com capacidade de raciocínio, para além de aprendizagem.

Quanto à discriminação "de todo o tipo" (de género, racial, etc...), este académico investigador em direitos fundamentais sublinhou que como a IA "se nutre dos dados" que os humanos produzem, pode reproduzir os enviesamentos, preconceitos e distorções que todas as pessoas têm e "exacerbá-los".

"O que se pretende é identificar se, por exemplo, as bases de dados que estamos a usar num sistema de inteligência artificial têm algum desses enviesamentos", afirmou, para explicar o trabalho que está a desenvolver o Comité do Conselho da Europa a que preside, que está a desenvolver instrumentos para salvaguardar os direitos fundamentais no desenvolvimento e aplicação da IA com o objetivo de os colocar à disposição de entidades públicas e privadas.

Em relação à justiça, Mario Hernández Ramos afirmou que a ameaça está na utilização de IA por parte de juízes ou forças de segurança do Estado "sem uma legislação específica em matéria de inteligência artificial", como acontece atualmente, em que os quadros regulatórios continuam a ser apenas os códigos penais ou outras normas clássicas.

Sobre a manipulação de processos eleitorais, Hernández Ramos realçou que é preciso levar em consideração duas dimensões diferentes.

"A dimensão mais preocupante e de que toda a gente fala é de como se conforma a opinião pública" e a influência das redes sociais, "uma questão que sim, é preocupante, mas que em definitivo, do ponto de vista jurídico, é difícil de regular", afirmou, acrescentando que a questão aqui está "no indivíduo", que decide consumir redes sociais de um empresa privada, mas também tem a oportunidade de se informar através de outros meios de comunicação.

"Isto é difícil de regular e o foco aqui está por isso posto mais na educação" e também nas autoridades públicas, que devem fomentar mecanismos e entidades "que certifiquem a verificação de certos conteúdos" nas redes sociais, defendeu.

A segunda dimensão relativa aos processos eleitorais, e "um pouco mais complicada", segundo o investigador, tem a ver com "qualquer problema que surja" e que num período de tempo muito pequeno possa alterar o resultado de umas eleições.

Neste caso, a proposta dos peritos é "que se use inteligência artificial para combater inteligência artificial", nomeadamente, meios para rapidamente, em tempo útil, uma comissão eleitoral ou outra entidade, conseguir identificar um vídeo manipulado ou outras tentativas de influenciar diretamente um resultado.

"Esta democratização dos meios de inteligência artificial exige uma aposta muito decidida e proativa dos organismos públicos em facilitar tecnologia para combater o uso negativo [de IA] em processos democráticos eleitorais", que se for feita "de maneira coordenada e massiva em relação a uma eleição pode ter consequências catastróficas", afirmou Mário Hernández Ramos.

Atendendo à democratização da IA, "não tem de ser a Rússia ou a Coreia do Norte" a conseguir intervir num processo eleitoral, podem ser "simplesmente pessoas normais que não gostam de um partido", acrescentou.

O Conselho da Europa aprovou no ano passado a "Convenção-Quadro do Conselho da Europa sobre inteligência artificial e direitos humanos, democracia e Estado de direito", considerado o primeiro tratado internacional juridicamente vinculativo nesta matéria.

O tratado resultou de dois anos de trabalho do Comité de Inteligência Artificial (CAI), que reuniu os 46 estados membros do Conselho da Europa, a União Europeia e 11 estados não-membros (Argentina, Austrália, Canadá, Costa Rica, Estados Unidos, Israel, Japão, México, Peru, Santa Sé e Uruguai), bem como representantes do setor privado, da sociedade civil e da academia, que participaram como observadores.

O CAI, a que atualmente preside Mario Hernández Ramos, desenvolveu entretanto uma metodologia para avaliar os riscos para direitos fundamentais de novos sistemas de IA, batizada com o nome HUDERIA, e trabalha agora nos modelos para a sua aplicação, que espera lançar nos próximos meses.

Mario Hernández Ramos reconheceu que existe neste momento uma incógnita em relação aos EUA, atendendo a declarações do recém-empossado Presidente norte-americano, Donald Trump, no sentido de não querer regular a IA.

No entanto, para este perito, o debate não está já em regular ou não a IA, mas por que tipo de regulação optar.

Mario Hernández Ramos realçou que os benefícios da IA para a Humanidade são evidentes - sendo o exemplo mais emblemático a aplicação na medicina - e superam os riscos e ameaças, que porém têm de ser paliados e eliminados através de regulação, que necessariamente terá de ser transnacional.

O investigador realçou que, "muito acertadamente", tanto a União Europeia como o Conselho da Europa optaram por avançar por propostas de regulação "de mínimos", sobre os quais acredita que se irá construindo depois mais regulamentos.

Leia Também: Dona do Facebook prevê investir 65.000 mihões de dólares este ano em IA

Partilhe a notícia

Escolha do ocnsumidor 2025

Descarregue a nossa App gratuita

Nono ano consecutivo Escolha do Consumidor para Imprensa Online e eleito o produto do ano 2024.

* Estudo da e Netsonda, nov. e dez. 2023 produtodoano- pt.com
App androidApp iOS

Recomendados para si


Newsletter

Receba os principais destaques todos os dias no seu email.

Mais lidas