"No âmbito do processo legislativo para aprovar o novo regulamento europeu que visa endereçar sistemas baseados em IA, foram realizados debates no Parlamento Europeu promovidos pela Comissão do Mercado Interno e da Proteção dos Consumidores e pela Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos, dos quais resultou a aprovação de um relatório que altera substancialmente a proposta da Comissão Europeia", recorda Ricardo Pintão.

Agora, "o Parlamento Europeu aprovou as alterações propostas no plenário", no dia 14 de junho, prossegue.

"O desafio principal do regulamento europeu acerca da IA é a manutenção da sua atualidade no futuro e a garantia que existe um correto equilíbrio entre a promoção da inovação e a proteção dos direitos fundamentais dos cidadãos", considera o jurista.

Além disso, "é também fundamental garantir que a regulação seja tecnologicamente neutra", defende.

Neste caso, o legislador europeu deve, "por um lado, garantir que não se impõe nem se discrimina a utilização de determinado tipo de tecnologias (neste caso, de determinados sistemas de IA) e, por outro, que não existe uma obstaculização à tomada de medidas adequadas de promoção/regulação de determinados sistemas de IA sempre que tal se justifique", sublinha.

No que respeita às alterações à versão inicial do regulamento, e que foram agora aprovadas pelo Parlamento Europeu, o jurista destaca as coimas previstas, que agora "são mais elevadas, ascendendo a 40 milhões de euros ou 7% do volume de negócios anual global (anteriormente eram 30 milhões de euros ou 6% do volume de negócios anual global)".

Outra alteração foi a introdução de novos direitos, "como são exemplos o direito a obter explicações sobre a tomada de decisões por parte dos responsáveis pela implantação de sistemas de 'alto risco' e a possibilidade de serem intentadas ações coletivas", prossegue.

Ricardo Pintão aponta ainda as alterações das listas de sistemas "qualificados como sendo de 'alto risco', onde estão agora incluídos sistemas utilizados por plataformas de redes sociais que sejam consideradas plataformas em linha de grande dimensão", e de sistemas proibidos, "que passam agora a incluir sistemas de IA que criam ou expandem bases de dados de reconhecimento facial através de 'scraping' não direcionado, sistemas de reconhecimento de emoções que sejam aplicados no domínio da aplicação da lei, gestão de fronteiras, local de trabalho e em instituições de ensino e, por último, sistemas de identificação biométrica à distância em tempo real utilizados em espaços públicos".

Além disso, os modelos de IA generativa (que é capaz de criar sem recurso a humanos, numa descrição simplificada) como o ChatGPT que usam modelos de linguagem para gerar arte, música e outros conteúdos "estão agora sujeitos a rigorosas obrigações de transparência para garantir a proteção do direito de autor", destaca.

A versão final do regulamento será agora negociada "pelos representantes do trílogo -- Parlamento Europeu, Comissão Europeia e Conselho Europeu --, esperando-se que se chegue a um acordo final até ao final do ano", refere.

Questionado sobre como vai ser a dinâmica entre os blocos UE e EUA, o jurista da CMS considera que a este respeito "existe uma clara necessidade de convergência regulatória entre os vários Estados, da qual resulte a promoção do respeito pelos direitos, liberdades e garantias fundamentais dos cidadão e dos pilares do Estado de Direito".

Ou seja, "não existem dúvidas sobre o poderio tecnológico que este tipo de sistemas podem conferir a Estados e privados, havendo o risco de serem colocadas em crise as fundações históricas das Constituições do eixo Ocidental".

Nesse sentido, "consideramos positivo o primeiro sinal da desejável convergência que tomou forma a partir do anúncio da UE e dos EUA acerca do projeto de código de conduta comum sobre IA, aberto a todos os países democráticos e que poderá ser adotado voluntariamente pelo setor".

Além disso, "destacamos ainda a publicação pela Casa Branca de linhas orientadoras para o desenvolvimento de políticas e regras para testar os sistemas de IA que vão ao encontro do espírito da proposta do regulamento europeu de IA", salienta Ricardo Pintão.

À semelhança de outros regulamentos europeus, "uma vez que as 'big tech' norte-americanas têm uma vasta oferta de produtos e serviços na União Europeia e que essa oferta compreende a integração de sistemas de IA, espera-se que exista uma forte aposta por parte das mesmas na adaptação ao cenário regulatório europeu que está, neste momento, a emergir".

Mas "caso não se verifique a referida aposta na adaptação dos sistemas de IA às regras que vierem a ser adotadas pela UE, existirá o risco de assistirmos à aplicação de coimas de valor bastante avultado, à semelhança do que acontece nos casos do Direito da Concorrência e da Proteção de Dados", aponta.

Quanto a questões sobre direitos de autor, o jurista refere que entre as alterações do regulamento europeu "encontram-se as novas obrigações de transparência que exigem que os fornecedores de modelos de IA divulguem quaisquer materiais utilizados para treinar esses modelos que sejam protegidos por direito de autor (como os sistemas de IA generativa, de que são exemplos o ChatGPT ou o Bard)".

Isto resulta num "mecanismo legal que facilita aos titulares de obras protegidas por direito de autor a identificação de obras que tenham sido incluídas sem legitimidade em conjuntos de dados de treino e solicitar a sua remoção/compensação", refere.

Ou seja, "deste novo texto resulta o aumento do risco de litígio para os fornecedores de modelos de base e de sistemas de IA generativa".

Além disto, "as referidas alterações poderão também abrandar o desenvolvimento de ferramentas de IA, se o conjunto de materiais a que esses sistemas têm acesso for reduzido", considera o jurista associado de TMC da CMS.

Ricardo Pintão salienta ainda que as "novas disposições podem expor os fornecedores de sistemas de IA generativa a novas infrações de natureza contraordenacional, caso a documentação e os processos relativos ao cumprimento das obrigações de transparência dos conjuntos de dados de formação forem insuficientes", sendo que "as coimas previstas a este respeito variam entre 10 milhões de euros e os 2% do volume de negócios anual global".

Leia Também: A Inteligência Artificial assusta ou entusiasma? Sete filmes que deve ver