A ONU e o Comité Internacional da Cruz Vermelha (CICV) apelam a negociações urgentes para limitar o desenvolvimento e utilização de armas autónomas capazes de matar sem intervenção humana direta.

Numa declaração conjunta, o secretário-geral das Nações Unidas, António Guterres, e a presidente do CICV, Mirjana Spoljaric, alertam que a evolução da inteligência artificial aplicada ao armamento está a aproximar o mundo de um ponto considerado eticamente inaceitável.

“Estamos perigosamente perto de ultrapassar uma linha vermelha moral: a seleção autónoma de seres humanos como alvos por máquinas”, afirmaram os dois responsáveis, citados pela Reuters.

A ONU e a Cruz Vermelha defendem que os Estados devem avançar rapidamente para a criação de um instrumento juridicamente vinculativo que estabeleça proibições claras e limite a utilização de sistemas de armas autónomas.

Os Estados vão reunir-se na próxima semana, em Genebra, para discutir possíveis novas regras para este tipo de armamento. As negociações decorrem desde 2014, mas a evolução tecnológica tem aumentado a preocupação em torno das armas que recorrem à inteligência artificial.

Segundo a Reuters, cresce também o debate sobre a utilização de armas semiautónomas apoiadas por inteligência artificial em conflitos como os da Ucrânia, Sudão, Gaza, Irão e região do Golfo.

Alguns sistemas totalmente autónomos já são utilizados por forças militares, nomeadamente sistemas antimíssil instalados em navios de guerra. No entanto, não há conhecimento de que estes equipamentos estejam atualmente a ser utilizados para atacar diretamente pessoas.

Organizações de defesa dos direitos humanos alertam para os riscos associados a sistemas que podem tomar decisões com reduzida ou nenhuma intervenção humana.

Uma das principais preocupações prende-se com a possibilidade de erros fatais na identificação de alvos, incluindo situações em que um sistema não consiga distinguir corretamente um combatente de uma pessoa ferida ou de um militar que se esteja a render.

A utilização de sistemas autónomos levanta ainda questões relacionadas com a responsabilização por eventuais crimes de guerra, uma vez que poderá ser mais difícil determinar quem deve responder por uma decisão tomada por uma máquina.

Perante estes riscos, Guterres e Spoljaric defendem que os países devem abandonar uma abordagem baseada apenas em pequenos avanços e assumir compromissos concretos.

“Os Estados devem demonstrar coragem política e ultrapassar as discussões incrementais para avançar para uma ação decisiva”, afirmaram, segundo a Reuters.

Os dois responsáveis querem que as negociações para um acordo internacional comecem em novembro, durante uma importante conferência prevista para Genebra, considerando que a definição de limites para as armas autónomas não pode continuar a ser adiada à medida que a tecnologia evolui.