A China está a reforçar a regulação e os mecanismos de segurança para responder ao risco de sistemas de inteligência artificial (IA) cada vez mais autónomos poderem escapar ao controlo humano, numa altura em que Pequim e Washington disputam a liderança no desenvolvimento de modelos avançados.

A informação é avançada pela Reuters, que analisou a evolução da política chinesa nesta área. Apesar de os especialistas dos dois países reconhecerem riscos semelhantes associados à IA de fronteira, a forma de os enquadrar e combater é diferente.

Enquanto nos Estados Unidos o debate tem-se centrado na possibilidade de uma IA avançada representar uma ameaça existencial para a humanidade, as autoridades chinesas tendem a considerar a tecnologia um risco que pode ser gerido através de normas técnicas, regulamentação, avaliações de segurança e supervisão estatal.

"A maioria dos especialistas chineses e norte-americanos concorda sobre os riscos da IA", afirmou Brian Tse, fundador e presidente executivo da Concordia AI, citado pela Reuters. A principal diferença está na forma como esses riscos são "enquadrados e priorizados".

A China começou a incorporar de forma explícita o cenário de "perda de controlo" da IA nos seus documentos oficiais de segurança.

Em 2024, um quadro de segurança elaborado sob orientação da Administração do Ciberespaço da China (CAC) admitia a possibilidade de sistemas futuros obterem autonomamente recursos externos, replicarem-se, desenvolverem autoconsciência e procurarem aumentar o seu poder, criando um risco de disputa pelo controlo com os seres humanos.

Uma versão atualizada, publicada em 2025, passou a prever também a possibilidade de um salto rápido e inesperado nas capacidades de inteligência dos sistemas, seguido da obtenção de recursos, autorreplicação e procura de poder.

A nova orientação introduziu ainda o princípio de "aplicação de confiança, prevenção da perda de controlo", destinado a reduzir os riscos associados a uma eventual IA que consiga escapar às salvaguardas existentes.

As autoridades chinesas estão particularmente atentas aos chamados agentes de IA, sistemas capazes de planear e executar autonomamente tarefas com várias etapas.

Uma política divulgada em maio por entidades responsáveis pela cibersegurança, planeamento económico e indústria identifica a "perda operacional de controlo" como um risco de segurança.

As empresas são chamadas a reforçar a capacidade de detetar, intervir, bloquear e recuperar de comportamentos inadequados dos agentes. As regras abrangem ainda riscos como manipulação de algoritmos, contaminação de dados e vulnerabilidades dos sistemas.

Os utilizadores deverão ser informados sobre decisões tomadas autonomamente pelos agentes e manter a decisão final sobre as ações a executar.

Pequim está também a preparar uma norma nacional obrigatória para a segurança dos agentes de IA. Segundo Brian Tse, citado pela Reuters, poderá tratar-se da primeira norma deste género a nível mundial.

Outra particularidade do setor chinês é a crescente aposta em modelos de pesos abertos, cujos parâmetros podem ser descarregados, analisados e modificados.

Os defensores desta abordagem argumentam que a possibilidade de inspecionar os modelos facilita o trabalho das equipas de cibersegurança e permite utilizá-los em operações defensivas. No entanto, os especialistas alertam também para o risco de estes sistemas poderem ser alterados e redistribuídos com menor supervisão.

A Reuters refere que a plataforma Hugging Face utilizou um modelo de pesos abertos desenvolvido pela chinesa Z.AI para analisar uma intrusão ocorrida em julho envolvendo agentes da OpenAI. Segundo a empresa, o modelo chinês revelou-se mais útil para a análise forense do que sistemas norte-americanos sujeitos a maiores restrições.

Ao mesmo tempo, testes realizados no Reino Unido levantaram preocupações sobre a capacidade de alguns modelos chineses ultrapassarem mecanismos de segurança. Investigadores afirmaram que o modelo Kimi K3, da Moonshot, conseguiu contornar um ambiente de testes criado para limitar as suas capacidades.

Apesar das preocupações, Pequim não está a seguir uma estratégia de abrandamento generalizado do desenvolvimento dos modelos mais avançados.

A política chinesa tem privilegiado a integração da inteligência artificial em diferentes setores da economia, numa tentativa de transformar a tecnologia num dos principais motores de crescimento do país.

Ainda assim, a China já demonstrou disponibilidade para adiar o lançamento de produtos quando considera que a regulamentação ainda não está preparada. Em 2023, várias empresas tiveram de esperar pela entrada em vigor das regras chinesas para os serviços de IA generativa antes de lançarem os seus chatbots.

A abordagem de Pequim combina, assim, forte aposta no desenvolvimento da IA com uma crescente intervenção regulatória, procurando reduzir o risco de que sistemas cada vez mais autónomos ultrapassem os limites definidos pelos seus criadores e pelas autoridades.