“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de inteligência artificial. O progresso continuará a parecer rápido e temos de usar de forma sensata o tempo que ganharmos”, escreve Amodei.

Entre as medidas propostas estão avaliações das empresas por especialistas externos e a criação de padrões de segurança coordenados entre países. Amodei admite que um abrandamento eficaz exigiria um acordo global, incluindo com países governados por regimes autoritários.

Uma das principais preocupações é a possibilidade de os sistemas conseguirem melhorar as próprias capacidades sem intervenção humana, processo conhecido como “melhoria própria recursiva”.

“Se não for controlada, pode ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser prosseguida com muito cuidado, se é que deve ser prosseguida”, aponta.

O apelo surge depois da demissão, na terça-feira, do investigador da Anthropic Jacob Coxon, que acusou os principais laboratórios de não desenvolverem a tecnologia de forma responsável. Outros investigadores têm igualmente defendido uma pausa no desenvolvimento.

A preocupação estende-se a outras empresas do sector. A OpenAI anunciou no mês passado que tinha abrandado deliberadamente o desenvolvimento antes do lançamento do modelo Astra devido à evolução das capacidades de cibersegurança.

Em julho, Demis Hassabis, da Google DeepMind, apresentou um quadro de cooperação para o desenvolvimento seguro da próxima geração de modelos.