A DeepSeek é a mais recente empresa de Inteligência Artificial (IA) a dar que falar no mundo da tecnologia, com o modelo R1 a ser particularmente elogiado não só pelas respectivas capacidades - comparáveis às do ChatGPT da OpenAI - como também pelo facto de ser, alegadamente, mais eficiente e ‘open source’.
Pois bem, diz agora a Forbes que o DeepSeek R1 podem também ser usado para levar a cabo ciberataques. De acordo com conclusões da empresa de cibersegurança Kela, o DeepSeek R1 pode ser usado para replicar ataques que foram usados anteriormente em modelos da OpenAI que foram entretanto corrigidos.
Os investigadores de segurança sublinham que este modelo R1 da DeepSeek é “altamente vulnerável” e “facilmente contornado”, indicando que a ferramenta de IA pode ser usada para escrever código malicioso para ser usado em ciberataques.
“Ao contrário do modelo ChatGPT o1-preview, que oculta os seus processos de raciocínio durante a inferência, o DeepSeek R1 exibe abertamente o seu raciocínio aos utilizadores”, escreveram os investigadores numa publicação de blogue. “Embora esta transparência melhore a interpretabilidade do modelo, também aumenta a sua suscetibilidade a ‘jailbreaks’ e ataques, uma vez que os agentes mal intencionados podem explorar estes raciocínios visíveis para identificar e atingir vulnerabilidades”.
Leia Também: China aplaude líder da DeepSeek. "Herói de IA de Guangdong"
