"É claro que a IA vai ter um impacto em todos os aspetos das nossas vidas", incluindo a IA generativa (termo geral para qualquer tipo de processo automatizado que utiliza algoritmos para produzir, manipular ou sintetizar dados), disse Guterres numa intervenção no Conselho de Segurança da ONU.
Foi a primeira vez que o Conselho de Segurança da ONU debateu a Inteligência Artificial, uma iniciativa promovida pelo Reino Unido que detém este mês a presidência rotativa do órgão.
"A IA generativa tem um imenso potencial para fazer o bem e o mal numa escala maciça", acrescentou o líder da ONU.
Para Guterres, embora estas tecnologias possam ajudar a erradicar a pobreza, acabar com a fome, curar o cancro e estimular a ação climática, as aplicações militares e não militares da IA podem ter consequências graves para a paz e a segurança mundiais.
"Estamos aqui hoje porque a IA vai afetar o trabalho deste Conselho e pode reforçar ou perturbar a estabilidade estratégica global", acrescentou, por sua vez, o chefe da diplomacia britânica, James Cleverly, que presidiu à reunião.
"Coloca um desafio aos nossos pressupostos sobre a defesa e a dissuasão e levanta questões morais sobre a responsabilidade de tomar decisões que causam a morte no campo de batalha", acrescentou Cleverly, numa altura em que o Governo britânico está a organizar uma cimeira sobre esta questão no outono.
Neste contexto, Guterres apelou, em particular, à criação de um instrumento vinculativo até ao final de 2026 para proibir os "sistemas autónomos de armas letais" que funcionam sem supervisão humana.
Em termos de segurança, a IA está a ser cada vez mais utilizada, incluindo pela ONU, para identificar padrões de violência, monitorizar cessar-fogos ou reforçar a manutenção da paz, a mediação e os esforços humanitários, afirmou o secretário-geral das Nações Unidas.
"[Mas] a utilização maliciosa de sistemas de IA para fins terroristas, criminosos ou estatais pode causar níveis terríveis de morte e destruição, traumas generalizados e danos psicológicos a uma escala inimaginável", insistiu.
Guterres manifestou também preocupação com os riscos de "falha" dos sistemas que utilizam estas tecnologias, nomeadamente nos domínios das armas nucleares, das biotecnologias, das neurotecnologias e da robótica, e insistiu na ideia de que nunca seja retirado o controlo humano na questão das armas nucleares.
"São urgentemente necessários mecanismos de governação da IA", frisou o secretário-geral da ONU, que vai confiar a um grupo de peritos a tarefa de propor "opções" neste domínio até ao final do ano.
Entretanto, Guterres reiterou o apoio à criação de uma "entidade das Nações Unidas" que ajude a maximizar os benefícios da IA e a reduzir os riscos, à semelhança da Agência Internacional da Energia Atómica (AIEA) ou do Grupo de Especialistas da ONU sobre o Clima (GIEC).
Leia Também: Os responsáveis pelo ChatGPT podem estar em 'maus lençóis'
