Um grupo de apoio a Dean Phillips, membro do Congresso dos EUA, pediu a uma 'start-up' com sede em Miami que criasse um 'chatbot' que permitisse aos utilizadores 'conversar' com este candidato pouco conhecido.

"Recentemente removemos uma conta de desenvolvedor que violou conscientemente as regras da nossa API (interface de programação de aplicativos) e da nossa plataforma, que proíbem campanhas políticas ou o roubo da identidade de uma pessoa sem o seu consentimento", explicou a OpenAI ao Washington Post, que foi o primeiro jornal a divulgar esta informação.

A ascensão da IA generativa levantou preocupações de que as pessoas poderiam utilizar o ChatGPT e outras ferramentas semelhantes para semear o caos político, nomeadamente através da desinformação ou de clones de IA, no período que antecede vários eventos eleitorais importantes que terão lugar este ano em todo o mundo.

Como líder nesta tecnologia, a OpenAI, que é largamente financiada pela Microsoft, está a receber atenção especial.

A empresa com sede na Califórnia disse na semana passada que forneceria aos utilizadores recursos para reduzir o risco de danos.

O robô conversacional denominado "Dean-bot" pretendia servir como ferramenta de informação como parte da campanha para as primárias do Partido Democrata.

A OpenAI foi rápida em removê-lo depois de um artigo no Washington Post, onde foi divulgado um 'link' que permitia que esta ferramenta fosse testada.

O grupo político por trás do 'chatbot', "We Deserve Better" [Nós Merecemos Melhor, em português], é coliderado por um ex-colaborador de Sam Altman, chefe da OpenAI, e recebeu financiamento de investidores do Silicon Valley, segundo o diário norte-americano.

Após a publicação do relatório, a Delphi, 'startup' contratada para criar o robô, foi excluída da plataforma da OpenAI.

Delphi aproveita os modelos de IA da OpenAI para criar 'chatbots' capazes de imitar as vozes de personalidades como influenciadores ou celebridades.

Após a polémica, a empresa realçou agora que vai proibir "qualquer uso da [sua] plataforma por figuras ou organizações políticas".

"Acreditamos erroneamente que seria aceitável, sob as regras da OpenAI, que um comité de ação política que apoia Dean Phillips criasse um clone dele com as nossas ferramentas", explicou a Delphi no domingo, na rede social X, num pedido de desculpas à OpenAI.

Leia Também: CEO da OpenAI revela a app que mais usa (e não é o ChatGPT)