Formadas por agentes patogénicos como vírus, bactérias ou fungos, armas biológicas são dispositivos que pretendem causar doenças, incapacidades ou, em último caso, ameaçar a humanidade, ao provocar a morte de seres humanos, animais ou plantas.

Casos de ciberespionagem russa e ensaios de ataques informáticos ao Claude também constam nas principais conclusões do último relatório de "Inteligência sobre Ameaças", divulgado na quinta-feira, que diz respeito à atividade da tecnologia nos últimos oito meses.

Há cada vez mais alertas de investigadores sobre os potenciais riscos da IA para a humanidade, que pedem um travão ou, pelo menos, que se desacelere o ritmo desta tecnologia.

A própria Anthropic admite que, por exemplo, consultar o modelo Claude está a ser utilizado, "de forma arriscada", pela China, na Rússia e no Iémen.

Estes países consultam este modelo para saber, por exemplo, "desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições" – algo que os sistema de IA não fariam da melhor forma no ano passado.

Quando a empresa detetou a utilização indevida, baniu as contas envolvidas nessa investigação e incorporou as conclusões obtidas para agilizar o processo de identificação e bloqueio destes utilizadores que procuram soluções semelhantes, o mais rápido possível.

Apesar de ter impedido "consequências que poderiam ter sido catastróficas", a Anthropic não identificou as instituições, os países onde estão sediadas, nem os agentes biológicos ou técnicas de investigação específicos envolvidos.

"A mesma informação que pode ser utilizada para desenvolver uma arma biológica também pode ser utilizadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença", explicou a empresa.

A companhia também revelou que detetou "atividade maliciosa" ao detetar uma alegada campanha de ciberespionagem ligada à Rússia contra a Ucrânia.

Um grupo de hackers terá levado a cabo operações de phishing, de sequestro de redes Wi-Fi de hotéis e de tomada de controlo de contas WhatsApp contra alvos nos sectores governamental, militar e diplomático da Ucrânia, utilizando a IA em praticamente todas as fases, segundo a Anthropic.

A Anthropic acusou ainda concorrentes chineses de tentarem realizar ataques informáticos destinados a extrair as capacidades do Claude.

Em reação, o Ministério dos Negócios Estrangeiros da China afirmou não ter conhecimento do relatório da Anthropic e declarou que o Governo chinês defende que a IA deve ser desenvolvida para fins benéficos, opondo-se à distorção dos factos e a campanhas de difamação contra o país.

Esta semana, um investigador especializado em desenvolvimento de Inteligência Artificial (IA) demitiu-se da Anthropic alegando que este tipo de empresas estão a "agir de forma irresponsável" e que a IA "pode matar-nos a todos na próxima década".

"Não subestimem o poder desta tecnologia. Haverá, em breve, sistemas super-humanos que poderão hackear tudo, revolucionar áreas de um dia para o outro e adquirir poder e recursos concretos. Já todos vimos o seu progresso em todos os domínios e o progresso não está a abrandar", escreveu Jacob Coxon na rede social (antigo Twitter).