Um investigador especializado em desenvolvimento de Inteligência Artificial (IA) demitiu-se da Anthropic alegando que este tipo de empresas estão a "agir de forma irresponsável" e que a IA "pode matar-nos a todos na próxima década".

Numa série de publicações no X (antigo Twitter), Jacob Coxon considera que as empresas de tecnologia IA como a OpenAI estão numa "corrida para desenvolver superinteligências e a brincar com as nossas vidas".

"Não subestimem o poder desta tecnologia. Haverá, em breve, sistemas super-humanos que poderão hackear tudo, revolucionar áreas de um dia para o outro e adquirir poder e recursos concretos. Já todos vimos o seu progresso em todos os domínios e o progresso não está a abrandar", escreve.

O texto de Jacob Coxon levou a uma série de reações online, incluindo de profissionais que ainda trabalham para a Anthropic no desenvolvimento de IA.

O especialista da empresa tecnológica explica que o maior problema prende-se com a falta de solução para problemas de alinhamento de superinteligências. Ou seja, atualmente não é certo que sistemas IA mais avançados alinhem por um conjunto de regras e orientações, sem se desviarem de forma imprevista das suas orientações.

"Ao contrário de software tradicional, não se consegue programar IA para se comportar como pretendido. A IA porta-se mal, frequentemente", esclarece.

"Temos métodos para empurrar IAs em direção ao comportamento certo, mas nada que as alinhe de forma robusta", acrescenta.