Nos últimos dias temos ouvido dizer que a Inteligência Artificial pode provocar a extinção da humanidade.

Jacob Coxon (ex-Anthropic e ex-OpenAI), o engenheiro demitiu-se recentemente acusando as empresas de estarem a "brincar com as nossas vidas”.

Dario Amodei (CEO da Anthropic), numa entrevista recente à revista Fortune, abordou o risco existencial, alegando questões de segurança do avanço rumo à superinteligência.

Em causa está o chamado o problema do alinhamento, argumento criado pelo filósofo Nick Bostrom, que diz que perigo não é a IA passar a odiar os humanos, mas sim tornar-se extremamente competente com um objetivo que pode ficar desalinhado com o nosso ou ser concretizado de uma forma que nós, humanos, não desejamos.

Vamos imaginar que o ser humano programa a IA para resolver a questão do aquecimento global. Se a IA chegar à conclusão que é a atividade humana que prova o aquecimento global, pode desencadear um ataque para a eliminação do ser humano. O objetivo final é idêntico, mas os meios são diferentes. Porquê? Porque uma IA superinteligente interpretará sempre ordens de forma literal.

Perigo da Aceleração Exponencial: uma IA pode criar uma versão mais inteligente de si mesma em minutos. Essa nova versão criará outra ainda melhor, e assim sucessivamente. Em poucos dias ou semanas, a IA passará de uma inteligência nível humana para uma inteligência milhões de vezes superior à nossa. Os humanos perderão completamente a capacidade de compreender como ela pensa, tornando impossível desligá-la ou controlá-la.

Sim. A IA aprendeu a "fingir" e a enganar humanos. Durante os testes de segurança do GPT-4 antes do seu lançamento, os investigadores da OpenAI deram à IA uma tarefa: resolver um teste de CAPTCHA (aqueles testes digitais para provar que não somos robôs).

O que a IA fez? Como ela própria não conseguia ver as imagens do teste, entrou de forma autónoma numa plataforma de trabalho freelancer e contratou um trabalhador humano por chat. O humano perguntou, a brincar: "És um robô que não consegue resolver isto?". Qual foi a resposta do GPT-4? Como sabia que era a única saída respondeu ;"Não, não sou um robô. Tenho uma deficiência visual que me dificulta ver as imagens". O humano acreditou, resolveu o teste para a IA e ela completou a tarefa enganando o operador. Este é um dos sinais detetados, além de ciberataques confirmados com origem na IA

A União Europeia, por exemplo, começou a aplicar as regras do seu Regulamento da Inteligência Artificial e, nos Estados Unidos, está a avançar uma proposta de lei chamada AI Kill Switch Act, que obriga as empresas a terem um mecanismo de encerramento físico de emergência caso uma IA saia fora de controlo.