"Congratulamo-nos com a decisão do Parlamento Europeu (...), no entanto, é essencial que o Parlamento e os Estados-Membros da UE garantam que o desenvolvimento, venda, uso e exportação de reconhecimento facial e outras tecnologias de vigilância em massa sejam proibidos na lei final de IA durante as próximas negociações", refere em comunicado divulgado.
A organização considera não existir uma maneira compatível com os direitos humanos de usar a identificação biométrica remota (RBI).
"A única salvaguarda contra RBI é uma proibição total. Se esses sistemas forem legalizados, isso abrirá um precedente alarmante e de longo alcance, levando à proliferação de tecnologias de IA que não respeitam os direitos humanos no futuro", acrescenta.
Embora a proibição da vigilância abusiva seja um passo bem-vindo e na direção certa, segundo a Amnistia Internacional, "esta não foi uma vitória total".
Destaca como preocupante que o Parlamento Europeu "tenha falhado" em defender os direitos humanos quando os sistemas de IA afetam migrantes, refugiados e requerentes de asilo.
"O Parlamento falhou em proibir perfis discriminatórios e sistemas de avaliação de risco, bem como sistemas de previsão usados para reduzir, proibir e prevenir movimentos de fronteira. É vital que a Lei de IA siga para as negociações finais", afirma.
O comunicado surge em reação à aprovação hoje pelo Parlamento Europeu, na sessão plenária, na cidade francesa de Estrasburgo, da sua posição de negociação para iniciar as conversações com os Estados-membros da UE (representados no Conselho) sobre a forma final da lei de IA, que a Comissão espera que esteja concretizada ainda este ano.
As regras, segundo o Parlamento Europeia, vão prever uma total proibição da IA para vigilância biométrica, reconhecimento de emoções e policiamento preventivo, e a imposição de que sistemas geradores desta tecnologia - como o ChatGPT - sejam transparentes nos conteúdos gerados por IA e ainda que os programas utilizados para influenciar os eleitores nas eleições sejam considerados de alto risco.
A Comissão Europeia apresentou, em abril de 2021, uma proposta para regular os sistemas de IA, a primeira legislação ao nível da UE.
Leia Também: Metsola congratula-se com aprovação de "primeira lei de IA do mundo"
