"Acho que o grande benefício da tecnologia é trazer para a praça pública a discussão do enviesamento de género e tornar conscientes temas inconscientes, é dar visibilidade", diz Sandra Fazenda de Almeida.

No caso da inteligência artificial (IA), esta tecnologia tem "um potencial de reproduzir tudo o que sejam preconceitos e amplificar preconceitos existentes", prossegue a diretora executiva da APDC.

No entanto, "também se assiste, pela primeira vez, falarmos de preconceitos e de enviesamentos inconscientes que se tornaram visíveis pela inteligência artificial", aponta.

Sandra Fazenda de Almeida é "altamente positiva" em relação à tecnologia e considera que "este potencial de reprodução e de amplificação de preconceitos existentes que a inteligência artificial trouxe permitiu dar visibilidade" a esta questão.

E o facto de trazer visibilidade, de se falar nisso e se ganhar consciência sobre estes preconceitos que existem "tem essa vantagem também para o Dia da Mulher", salienta.

O que é a inteligência artificial? "É sempre um resultado de um conjunto de algoritmos que foram treinados com dados que vieram já enviesados". Portanto, acrescenta, "o enviesamento estava nos dados", nomeadamente os inconscientes que estão presentes no dia a dia, na linguagem.

"Há muitos enviesamentos, há muita discriminação que está subjacente nos modelos e nos padrões com que a inteligência artificial foi alimentada e nós, enquanto sociedade, temos vindo a perpetuar esses estereótipos e esses enviesamentos", acrescenta, referindo que o que acontece com a inteligência artificial é que só espelha os dados que estavam na sua base.

Mas isso tem uma vantagem que é o facto de a visibilidade dos enviesamentos resultarem também num alerta para esta questão.

Sandra Fazenda de Almeida recorda o que se passou no 'site' BuzzFeed em julho de 2023, que publicou "194 imagens de Barbies geradas por inteligência artificial e a ideia era mostrar o potencial destas ferramentas", que seriam representativas de número idêntico de países.

Mas o efeito foi contrário e gerou uma onda de críticas na rede social Twitter, atual X, já que a IA gerou "imensos estereótipos culturais e raciais", com muitas imprecisões.

Por exemplo, a Barbie alemã surgia vestida com um traje nazi e da Sudão do Sul tinha uma arma.

Ou seja, "tudo que eram preconceitos foram completamente amplificados", aponta, além de que a maioria das imagens geradas eram do Ocidente, o que se traduziu também na falta de representatividade do mundo.

Não existe uma "solução só" para resolver este tipo de situações, afirma a responsável, que cita a a investigadora portuguesa Virgínia Dignum, que integra o grupo de especialistas que foi criado no seio das Nações Unidas para a IA.

"Um dos caminhos que a Virgínia destacou tinha a ver com a regulamentação da inteligência artificial", fazendo uma analogia "com alguém que tem um carro que está a conduzir sem cinto de segurança, sem travões e sem carta de condução".

É preciso "insistir com estas empresas que estão a desenvolver inteligência artificial em pôr cintos de segurança e travões e não nos podemos esquecer que é preciso investigar e garantir que quem está a fazer estes sistemas de inteligência artificial tem carta de condução" e "criar as regras de trânsito" que têm de ser adaptadas ao setor, refere.

Em primeiro lugar, aponta, é preciso "garantir a qualidade dos dados", refere, aludindo o papel de Daniela Braga - fundadora e CEO da Defined.ai, que integra o grupo de conselheiros do Biden.

"A própria inteligência artificial deveria ter uma tabela nutricional", em que fosse transparente que "este modelo foi feito com x dados que correspondem a x democracias, foram pagos de forma justa, são legais", ou seja, uma ficha técnica como a que existe nas sondagens.

Este é um dos exemplos como poderíamos começar a mitigar, com a qualidade dos dados", enfatiza.

Outra das medidas é "introduzir diversos conjuntos de dados num sistema de inteligência artificial que possa mitigar estes preconceitos à medida que o sistema se vai tornando mais inclusivo ao longo do tempo". Se houver "um constante 'feedback' e ciclos de aprendizagem os modelos de IA podem melhorar os resultados", o que também pode ser feito através de regulamentações globais.

"Acabaremos por caminhar para uma maior adoção de inteligência artificial responsável" que mitigue estes preconceitos, mas "tem haver aqui regulamentação que imponha, padronize" a IA, considera.

Ao utilizar sistemas de IA é preciso, quando estamos a pedir algo, "sermos explícitos para sermos o mais inclusivo possível", como no caso de um pedido de uma lista de todos os 'president' [em inglês é uma palavra sem género], em que se não houver um pedido mais específico a incluir género, por exemplo, os dados acabam por espelhar um enviesamento.

Destaca ainda os enviesamentos nos algoritmos de recrutamento, nomeadamente para determinadas posições.

O que "é normal porque os dados com que o sistema foi alimentado tem um histórico que vai perpetuar esse enviesamento, estes dados históricos que refletem a desigualdade de género vão sempre forçar os enviesamentos", diz, sublinhando que a "profissão não tem género".

Contudo, "nós temos uma oportunidade única de investirmos em 'networing' e em processos de evangelização, de trazer outras mulheres para a tecnologia, para que apostem em áreas de futuro" tais como cibersegurança, IA e, neste âmbito, "as mulheres têm aqui uma grande oportunidade", defende.

Na APDC, quer no programa UPskill como no programa de certificados profissionais da Google, "fazemos uma discriminação positiva para as mulheres" e este é o "tipo de iniciativas que cada organização tem de organizar", remata.

De acordo com o Fórum Económico Mundial, apenas 22% das mulheres trabalham na área de IA.

Leia Também: Unesco alerta para preconceitos sexistas na Inteligência Artificial