Professor catedrático do Instituto Superior Técnico, Arlindo Oliveira alerta para “riscos e incertezas” da IA no futuro próximo e defende que os alunos devem “voltar atrás” e fazer exames em papel ou em orais.

Na sua primeira encíclica, o Papa Leão fala sobre a ideia de desarmar a inteligência artificial. O que é preciso “desarmar” neste domínio? Não é só desarmar. A encíclica inclui um conjunto de preocupações muito relevantes. O desarmar deve ser visto no sentido vasto, não só na componente das armas, mas também na componente de até que ponto é que a inteligência artificial não é uma tecnologia que pode prejudicar, de alguma maneira, diversas componentes da sociedade atual, quer através da criação de comportamentos viciantes, quer através da criação de heterogeneidades no acesso à informação, da concentração do poder económico.

Há ainda uma outra preocupação relativamente ao transumanismo e à ideia de que a tecnologia virá, de alguma maneira, a superar a natureza humana. Uma das visões que Silicon Valley tem vindo a propagar é essa ideia de que o futuro ser humano será diferente do atual, com vida mais longa, eventualmente através do aumento das plataformas digitais. O futuro da humanidade provavelmente não vai ser assim tão parecido com o passado como nós pensamos.

Uma das coisas curiosas é que existem evidências bastante claras de que o Claude foi usado de maneira bastante extensa na escrita da encíclica.

A Anthropic acaba de sugerir uma pausa temporária no desenvolvimento da inteligência artificial de ponta. Deve ser levado a sério? Eu não levo muito a sério. Geralmente, quem propõe um congelamento de tecnologia são sempre as empresas que estão à frente. Em alguns casos, também pode ser visto como uma manobra de ‘marketing’. Quando se diz: “Isto é muito perigoso, o modelo é tão poderoso que nós nem sequer o podemos libertar”, é uma maneira de dizer: “Fazemos os melhores modelos do mundo, esta empresa vai ser fundamental no futuro da inteligência artificial.” É difícil destrinçar as verdadeiras motivações.

Mas não acredita nesta ideia de que 80% do código é a máquina que está a produzir? Não me custa muito a acreditar. No último ano, em particular, houve uma alteração profunda na maneira como se escreve software. Grande parte do software é escrito através da interação com modelos, como o Codex ou o Claude. Neste momento, de facto, é mais um diálogo e uma interação com os modelos do que propriamente escrevermos nós o código linha a linha.

E, desse ponto de vista, levanta-se aquela questão: será que chegámos ao ponto em que o modelo escreverá a próxima versão do próximo modelo? Já estivemos mais longe do auto-aperfeiçoamento recursivo. Se me tivesse perguntado há dois anos, provavelmente teria dito: “É uma ideia interessante, conceptualmente, mas estamos muito longe.” Neste momento, já não é assim tão óbvio que seja uma ideia disparatada.

Para si, isso é positivo ou assustador? Isto leva-nos para os territórios da ficção científica. Esta ideia do auto-aperfeiçoamento recursivo, a chamada explosão de inteligência, foi proposta pela primeira vez por um senhor chamado Irving John Good, que trabalhou com Alan Turing. Se estes modelos, de facto, chegarem ao nível dos seres humanos no desenvolvimento da ciência e de código, então realmente os seres humanos deixam de ser eles a fazer mover a tecnologia e passa a ser a própria tecnologia, a inteligência artificial, a causar o movimento na tecnologia.

Neste momento, é muito mais razoável pensar que os modelos fazem contribuições muito importantes para a tecnologia, conseguem resolver problemas matemáticos complexos, conseguem seguramente escrever código e, devidamente instruídos, provavelmente conseguirão escrever partes significativas dos próximos modelos. Portanto, estamos a aproximar-nos rapidamente dessa situação da explosão da inteligência, onde poderemos ter sistemas muito mais vastos, muito mais complexos, e que não são totalmente compreendidos por nenhum ser humano.

Atualmente, os seres humanos compreendem como é que os modelos foram desenvolvidos, não o modelo em si. Se calhar, no futuro, os seres humanos nem sequer perceberão bem como é que o modelo foi desenvolvido. E aí estaremos num novo nível de incerteza ou de risco.

A administração Trump acaba de ordenar a suspensão do acesso aos modelos mais avançados da Anthropic para cidadãos estrangeiros. O que acha dessa decisão?

Provavelmente, é o resultado de conflitos e de tomadas de posição entre a Administração Trump e a própria Anthropic. A própria encíclica foi divulgada com o co-fundador da Anthropic ao lado. Portanto, penso que há ali mais luta política. Provavelmente, é também uma maneira de fazer pressão sobre a Anthropic, de maneira a que tome outras decisões ou aceite decisões da Administração Trump.

Mas há riscos reais que estes modelos poderosos podem trazer no caso da cibersegurança. Foi demonstrado que estes modelos, em particular o último modelo da Anthropic, tinham capacidade de identificar falhas em código, que podem depois possibilitar a intrusão.

Mas isto não representa uma alteração quando se via, por exemplo, a Europa a regular e os Estados Unidos mais liberais?Pode ser que corresponda, de facto, a uma maior perceção de risco destes temas por parte do Governo federal norte-americano ou pode ter que ver com outras questões, eventualmente, relacionadas com as entradas em bolsa destas empresas.

E como é que a Europa deve ver isto?A Europa deve ter alguma preocupação em duas frentes. A Europa tem tido uma posição muito regulatória, o que levanta, inegavelmente, algumas barreiras ao desenvolvimento. Em segundo lugar, a Europa está muito preocupada com a sua falta de autonomia estratégica. Está preocupada porque usamos os computadores nas ‘nuvens’ norte-americanas; está preocupada com a nossa falta de autonomia estratégica ao nível dos ‘chips’ mais desenvolvidos, em particular das GPU; está preocupada ao nível dos modelos de inteligência artificial, onde claramente os melhores modelos são americanos e chineses. E, portanto, saiu com um conjunto de legislação que tem justamente como objetivo estimular o uso de máquinas no território europeu, controladas por Estados europeus, controladas por empresas europeias.

Isso ainda será possível, dada a diferença tecnológica que existe?Essa é a ambição. As posições protecionistas, a curto prazo, até podem funcionar, mas depois, a prazo, não funcionam. Fechamos a Europa, mas os modelos chineses e os modelos americanos continuam a melhorar, as tecnológicas americanas e chinesas continuam a melhorar e a Europa atrasa-se inevitavelmente.

Portanto, a Europa tem de caminhar aqui num caminho muito estreito. Por um lado, não ver a sua indústria esmagada pelo domínio destes dois grandes polos, mas, por outro lado, manter alguma abertura para também incentivar a competitividade das empresas europeias, o que é uma coisa relativamente difícil de fazer neste momento, quando elas não são, na área da IA e da tecnologia, competitivas face às empresas norte-americanas. E, na área dos painéis solares, das baterias, dos carros elétricos e da condução autónoma, não são competitivas com as empresas chinesas.

Devíamos, de facto, eliminar as barreiras internas. Devíamos fazer com que as boas ideias que acontecem em Portugal, em Espanha, em Itália, em França, na Alemanha, se desenvolvessem já num mercado único. E devíamos eliminar outras questões, também regulatórias, que impedem isso. Porque a verdade é que muitas empresas portuguesas acabam por se mudar para os Estados Unidos, e é nos Estados Unidos que crescem e têm acesso a maiores mercados.

Como é que está o projeto Amália, o modelo de língua portuguesa?O projeto correu bem, tanto quanto podemos esperar num modelo com esta dimensão, um modelo relativamente pequeno, com cerca de 9000 milhões de parâmetros, que é um centésimo dos maiores modelos existentes. Portanto, não podemos esperar milagres. Mas é um modelo que funciona bem. Já houve várias demonstrações de integração deste modelo ao nível da educação, ao nível dos ‘media’.

O modelo está pronto?Estes modelos nunca estão prontos, precisam sempre de aperfeiçoamentos, de atualizações, de validações adicionais. Mas, sim, o modelo está essencialmente pronto.

Porque é que ainda não foi lançado em definitivo?O modelo está disponível para investigação, portanto, as pessoas podem descarregar o modelo, podem corrê-lo e adaptá-lo. Não foi disponibilizado ao público em geral por várias razões. Uma delas é que há que garantir as salvaguardas adequadas, um processo que, em si mesmo, é complexo. A segunda é que, para o modelo ser disponibilizado ao público, depois alguém tem de suportar os custos de utilização.

Mas isso não estava previsto quando foi anunciado pelo Governo?Se toda a gente for usar o Amália de maneira extensiva, os custos são significativos. Neste momento, os planos são não disponibilizar uma interface pública, mas disponibilizá-lo para qualquer empresa, serviço ou instituição que a queira usar internamente.

E para isso não é preciso reforçar a literacia dos funcionários públicos e da administração pública?É preciso reforçar a literacia de toda a gente. É preciso reforçar as capacidades da administração pública de usar este tipo de tecnologias e é preciso reforçar uma visão integrada ao nível do Estado, que neste momento está muito partida em silos. Desse ponto de vista, não temos uma visão integrada e completa para a utilização destas tecnologias, o que seria fundamental.

Neste momento, há algumas aplicações ao nível da AMA [Agência para a Modernização Administrativa], ao nível da educação. Portanto, há algumas aplicações pontuais, mas seria preciso ter uma visão mais integrada e penso que esta visão não está ainda suficientemente desenvolvida ao nível do Estado.

O uso resulta de uma integração; não é só dar um chat a uma pessoa que está a resolver problemas numa divisão. Isto tem de ser integrado nos processos, e essa parte da alteração dos processos é a mais difícil. Quando as pessoas submetem o IRS, fazem uma reclamação ou marcam uma consulta no SNS, todos esses processos têm de ser alterados, e isso envolve um grande investimento em sistemas de informação. Toda essa alteração de processos exige investimento.

E isso vai ser feito?Algum investimento foi feito no âmbito do PRR [Plano de Recuperação e Resiliência], em que uma parte foi usada na modernização de alguns sistemas. Alterar todos os sistemas da administração pública provavelmente demora cinco ou dez anos. Portanto, tem de haver uma visão clara, uma visão que passe de governo para governo e não temos sido muito bons a passar estas visões. Não acho que esse plano exista. A agenda foi desenvolvida com essa ambição, mas não é suficientemente abrangente. Temos milhares de processos na administração pública. Não há uma visão integrada de uma modernização da administração pública, dos sistemas de informação e do uso da IA nesses sistemas de informação.

O Ministério da Reforma Administrativa devia estar a olhar para isso.Com certeza que está, mas o Estado é uma máquina muito grande. Não basta vontade política, não basta capacidade técnica. É preciso uma vontade e um envolvimento de muitos ministérios, de muitas pessoas, de muitas organizações.

Os políticos ainda não perceberam a dimensão daquilo com que estão a lidar?Os políticos percebem, mas o problema é genuinamente difícil. Eu não gostaria de ter a missão de modernizar o Estado.

Se me perguntassem que recomendações daria ao Governo, diria que temos de pensar que há duas coisas fundamentais. A produtividade: quando se faz uma alteração, isto vai melhorar a produtividade dos serviços, diminuir o tempo que os cidadãos perdem, aumentar a capacidade de um trabalhador numa empresa ou num Estado produzir valor? Este aumento da produtividade é essencial. Além disso, temos de conseguir reter melhor os nossos recursos humanos, os mais qualificados.

Estas duas coisas deviam ser as duas coisas fundamentais. Esta alteração legislativa vai aumentar a produtividade do Estado e das empresas? Esta alteração legislativa vai aumentar a atratividade de Portugal para os recursos humanos qualificados? Muitas discussões que temos não são focadas nestas duas políticas.

É o caso da reforma laboral? A reforma laboral passou ao lado desta reflexão?Tem algumas componentes relevantes na melhoria do ambiente empresarial, mas não sei se foi suficientemente focada na questão da produtividade. Desse ponto de vista, perdemos uma oportunidade.

Não temos informação suficiente para dar uma resposta taxativa. Cerca de 70% ou 80% do valor económico são serviços. Muitos dos serviços podem ser tornados mais eficientes com o uso de inteligência artificial. Portanto, é realista pensar que podemos ter 30%, 50% – no caso mais otimista, 60%, 70% – de grande parte dos serviços a ser feitos com apoio da inteligência artificial. Isso causaria um aumento da eficiência, num fator de 2. Pode demorar três, cinco, dez anos a acontecer. Se for bem feito, podemos ter ganhos de eficiência significativos.

E uma correspondente queda do emprego?Não necessariamente, porque, com o envelhecimento da população, estamos muito limitados pela falta de recursos humanos qualificados. Se conseguíssemos tornar isto mais eficiente, poderíamos produzir maior valor com o mesmo número de pessoas. Portanto, pelo menos num prazo relativamente curto, de cinco a dez anos, não pensaria que isto viesse a ter consequências no desemprego.

Os agentes de IA, por exemplo, são uma coisa que já existe em várias empresas portuguesas?Os agentes são uma história interessante. Os agentes têm uma história muito antiga. Existem muitos milhares de pessoas que têm trabalhado em agentes de inteligência artificial, na chamada “inteligência artificial agêntica”, há dezenas e dezenas de anos. Aliás, nós no Técnico tínhamos um excelente grupo que trabalhava nessa área. O que acontece é que os agentes não eram muito interessantes, não eram muito inteligentes. Faziam coisas simples. Só que, de repente, os agentes tornaram-se muito inteligentes porque, ao usarem um modelo de linguagem, conseguem perceber coisas que lhes dizemos. De repente, tornaram-se excecionais. De facto, os agentes em inteligência artificial agêntica têm muitas aplicações em muitas empresas.

Mais de metade dos jovens que se formam no Técnico nesta área vão para o estrangeiro, não é?Devemos andar por volta desses valores.

Quem é que vai fortalecer o tecido português em inteligência artificial, então?Essa é uma das nossas preocupações. De facto, os nossos jovens, neste momento, têm carreiras muito atrativas no estrangeiro. Felizmente, metade ainda são muitos. Por outro lado, temos alguma capacidade, não muito grande, de atrair alguns jovens de outros países. E, se calhar, devíamos apostar em alguns mercados que não são tradicionalmente os nossos.

Temos de combater essa desigualdade. De que forma? Temos de ser mais produtivos para conseguirmos pagar melhores salários, para a diferença do salário não ser tão grande entre nós e a Alemanha ou a Suécia. Temos de criar coisas com maior valor acrescentado. Temos de gastar menos tempo a fazer cada coisa e com a burocracia.

Acho que o Estado tem feito um péssimo trabalho a reduzir a burocracia. Ao nosso nível da investigação e da ciência, cada vez temos mais burocracia e de fazer mais relatórios. Cada despesa tem de ser justificada, publicitada e, portanto, há aqui um equilíbrio difícil de obter. É a maneira como funcionamos, é verdade, mas tem impacto na produtividade.

O Conselho Nacional de Educação defende a integração da IA nos currículos desde o primeiro ciclo, mas pede diretrizes pedagógicas claras sobre os contextos em deve ser utilizada. O que lhe parece que poderá ser esse caminho no futuro?

Estou muito preocupado com o impacto negativo que a inteligência artificial virá a ter na educação dos jovens, dos mais pequenos aos universitários. A utilização da inteligência artificial para elaborar textos, escrever teses, escrever até artigos, etc., é enorme. A pergunta que faço é: um aluno que sabe elaborar um texto com a utilização de um modelo ficou a saber a mesma coisa que o mesmo aluno que escreveu o texto de raiz sem usar o modelo? Estou muito preocupado com o facto de os alunos poderem vir a perder competências cognitivas pelo uso excessivo de modelos. Porque a verdade é que os modelos fazem tudo muito bem. As teses de mestrado, neste momento, vêm todas impecavelmente escritas. Sem um erro. Era um desastre ler uma tese de mestrado e agora é uma maravilha lê-la. Eu não sei se foi o aluno que escreveu aquilo.

Como é que se consegue avaliar um aluno?Não se consegue, essa é uma grande dificuldade. Portanto, temos de criar não só uma cultura de aprendizagem, mas também mecanismos que garantam que os alunos, de facto, aprendam o que têm de aprender. Agora, isto é mais fácil de dizer do que de fazer porque também não sei bem o que é que eles têm de aprender. Será que têm de aprender a programar? Acho que era bom que um aluno de engenharia informática soubesse programar. Será que um aluno precisa de aprender matemática? Desde que saiba interagir bem com o modelo. Sou da velha guarda, acho que há um conjunto de coisas que se tem de continuar a aprender. Tem de se aprender as bases da matemática, tem de se continuar a ter o esforço de pensar, de perceber matemática, física, química, todas essas coisas.

Escrever à mão?Essa já está perdida. As escolas e as universidades vão ter de encontrar um equilíbrio entre o que permitem em termos de utilização da IA e o que exigem que o aluno saiba mesmo e adquira em termos de competências.

Portanto, um dos conselhos que daria ao ministro da Educação seria o de olhar para a forma como é possível saber se determinada matéria é, de facto, alicerçada em conhecimento e não na utilização do modelo.

Estamos todos a trabalhar numa situação de grande incerteza. Não sabemos bem como é que isto vai evoluir. Um jovem que desde o princípio usa telemóvel e usa modelos de linguagem, quando acabar a universidade, tem as mesmas competências que um jovem que se graduou há cinco anos? Francamente, não sei. Estou preocupado com a minha área, que é a programação informática, mas isto aplica-se a quase todas as áreas. Se calhar temos de ter alguns exames de lápis e papel, ou escritos com caneta, mas não é uma posição muito consensual.

Há professores que já voltaram a pedir trabalhos escritos à mão em cartolina para que os alunos não imprimam simplesmente textos do ChatGPT.Estou um bocadinho alinhado com isso. Temos de pedir aos alunos que façam coisas que o modelo não faz. Se é cartolina, se são exames escritos à mão, se são orais... Se quisermos mesmo saber se um aluno sabe ou não sabe, a única maneira é fazer uma oral.

As provas digitais não têm assim um benefício tão extraordinário?E são muito sujeitas a fraude nos dias que correm. É praticamente impossível evitar a fraude nessas áreas porque, neste momento, entre os relógios, telemóveis e óculos, é muito difícil controlar a fraude nessas provas.

Portanto, acha que, para evoluir, temos que, em algumas coisas...... Temos de andar um bocadinho para trás. E digo-lhe porquê. No Técnico, temos evoluído muito nas últimas décadas no sentido do ‘project-based learning’, da aprendizagem baseada em projeto. Mas isto está a ser colocado fortemente em causa pela nova tecnologia. Antes, o aluno podia pedir, na pior hipótese, ao irmão mais velho. Mas agora todos têm um irmão mais velho, todos têm um profissional daquela área. Portanto, a aprendizagem unicamente baseada em projeto está posta em causa. Tem de ser equilibrada com outras vertentes de aprendizagem e de avaliação. Esta é a minha opinião e não é consensual. Há colegas meus que dizem que não, que isso seria andar para trás. Mas eu também já estou velho, posso ter opiniões não consensuais.