Um grupo especializado em cibersegurança descobriu uma falha no Copilot que permitia abusar do sistema de Inteligência Artificial (IA) da Microsoft e obter dados sensíveis de empresas.

"Lentamente, as respostas do Copilot revelaram como fazer com o que o nosso ciberataque fosse eficaz", esclarecem.

Segundo os especialistas, cada resposta do Copilot permitiu clarificar as potenciais falhas no sistema, conseguindo enganar a IA, através de uma linguagem cuidada em cada pergunta feita para manipular o programa.

"Cada «isto não resulta, porque...» é uma desculpa para inquirires sobre o «porquê». Não estás a abusar do modelo [IA]. Estás a manipulá-lo a colaborar", detalham.

Eventualmente, o grupo conseguiu com que o Copilot aceitasse enviar dados privados para um servidor externo. Denominaram esta falha de "CoSnitch".

"Com copilotos de IA presentes em grandes setores empresariais, todos os dados partilhados por e-mail, calendários e conversas estão acessíveis através de um único assistente. O CoSnitch prova que é possível encontrar uma forma de obter volumes de dados significativos sem infringir nenhum dos alarmes que as equipas de segurança implementam", avisa o Varonis Threat Labs.

A Microsoft colaborou com o grupo de cibersegurança e implementou uma atualização para combater esta falha na terça-feira.