Guterres, que em 2021 propôs um Pacto Digital Global que já defendia a promoção da regulamentação da IA, apresentou hoje as suas ideias sobre como fazê-lo num documento de 30 páginas.
A intenção das Nações Unidas é que Governos, setor privado e sociedade civil possam adotar este grande acordo em setembro de 2024, durante a Cimeira do Futuro convocada pela ONU.
Embora o Pacto Digital Global proposto por Guterres seja muito amplo, um dos seus eixos de maior destaque é o da Inteligência Artificial, principalmente depois dos rápidos avanços que se têm registado nos últimos meses.
"Começamos a perceber a dimensão do seu potencial disruptivo, tanto positivo como negativo, mas ainda não nos reunimos para ponderar as questões e colaborar na identificação de riscos e formas ágeis de os mitigar", explicou o ex-primeiro-ministro português.
Guterres sublinhou que um "limiar digital foi recentemente ultrapassado, com o uso generalizado de IA generativa na forma do ChatGPT [um sistema que simula conversas e produz conteúdos] e muitas outras aplicações", uma tecnologia que terá um grande impacto, mas que, segundo frisou, não é claro se será positivo.
"A perspetiva de mais progresso tecnológico muitas vezes tem gerado mais medo do que esperança. Mesmo aqueles que desenvolveram a IA e lucram mais com ela expressaram profunda preocupação e apelaram -- até mesmo imploraram -- por ações de governança", destacou.
Guterres considera necessário garantir que o design e o uso da IA ??sejam transparentes, seguros e sob o controlo de humanos que possam ser responsabilizados, por isso está empenhado em combinar diretrizes e padrões internacionais, quadros regulatórios nacionais e padrões técnicos numa estrutura que facilita a gestão "ágil" dessas novas tecnologias.
No geral, Guterres procura uma cooperação entre as autoridades e a própria indústria.
Assim, entre as ações que propõe estão o lançamento urgente de um trabalho de investigação com empresas para garantir que os sistemas de IA sejam seguros e alinhados com os valores humanos ou o estabelecimento de um grupo consultivo de alto nível com especialistas que se reúnam regularmente para abordar essas questões.
Além disso, pede aos Governos que tracem - juntamente com a indústria - diretrizes que orientem o desenvolvimento da IA ou que assumam compromissos para reforçar a transparência e incluir equipas de direitos humanos e ética nesse trabalho.
Por fim, o líder das Nações Unidas apela a que se ponderem "proibições de utilização de aplicações tecnológicas cujo potencial ou impacto não possam ser justificados ao abrigo do direito internacional dos direitos humanos", embora não tenha entrado em detalhes.
Ao longo dos últimos anos, o secretário-geral da ONU tem vindo a alertar, por exemplo, para o risco das chamadas armas autónomas, sistemas militares guiados por inteligência artificial que podem tomar as suas próprias decisões ao lançar um ataque.
Leia Também: Comissão Europeia quer rótulos de tecnologia de risco para IA
