O que é que ovos, cavalos e comboios têm a ver com inteligência artificial? Todos podem servir de metáfora para explicar o estado atual da IA e espelham a nossa corrente falta de capacidade de escolha e a maneira como estamos a aceitar um sistema que não controlamos. Confuso? Uma das maiores especialistas mundiais em IA responsável, a luso-holandesa Virgínia Dignum, explica.

Não são os únicos culpados, ressalva a especialista, que integra o órgão consultivo de alto nível sobre IA das Nações Unidas (ONU). A também professora catedrática na Umeå University, na Suécia, fez questão de apontar o espelho e garantir que também nós somos culpados... e é aqui que entra a metáfora dos ovos: o nosso "fear of missing out", ou o nosso medo de ficarmos para trás perante a mais recente "bolha" de inovação, leva-nos a não querer saber como funcionam os "aviários".

Será tudo isto "inevitável"? A especialista ainda não dá o caso como perdido: a utilização atual da IA, feita sem controlo e sem cuidar de princípios éticos, responsáveis e sustentáveis, é-nos vendida como uma inevitabilidade, mas tudo não passa de um paradoxo que nos limita a imaginação. Para fugir à ideia de inevitabilidade tecnológica, que já conquistou governos e instituições internacionais, cabe aos consumidores exigir melhores "ovos" e, sobretudo, mais opções disponíveis no "supermercado" que é a nossa presença online.

"Desistir não é opção", remata a portuguesa, numa conversa em que também se falou sobre o português AMALIA, o papel da Europa e do AI Act (que já nasceu "mal concebido") e sobre escravidão digital.

O primeiro sistema de IA que fez foi há 40 anos [na altura ainda se chamavam "expert systems"]. O que é que aprendeu desde então?

Aprendi que o impacto da IA tem muito mais a ver com a maneira como a usamos do que com as capacidades da tecnologia.

As grandes empresas. Mas, principalmente, estamos a vendê-la a nós próprios. A ideia do “fomo”, ou "fear of missing out" — de que temos de usar, porque toda a gente está a usar e, se não usarmos, até parece mal. É um círculo vicioso. E estamos todos a convencer-nos de que é a única hipótese de desenvolvimento.

Exatamente. E a ideia de que é inevitável foi vendida, de certeza, aos nossos governantes. Quando falo — e falo muitas vezes com governos e com instituições internacionais — há esta ideia de inevitabilidade, de incapacidade de darmos um passo atrás e de tentar entender a situação, mas começar logo com a pergunta “como é que vamos fazer?”, em vez de começar com a pergunta “por que é que vamos fazer?”.

Essa incapacidade é limitante, porque já não estamos a imaginar o que é que são as alternativas. E nem todos os problemas que temos são problemas que a inteligência artificial irá resolver de uma maneira melhor.

Aliás, os grandes desafios mundiais neste momento — o clima, a migração, as guerras — não são problemas de falta de inteligência. São problemas de falta de governância, de falta de interação e de falta de capacidade de colaboração. A inteligência artificial não nos vai ajudar mais nisso do que…

Pelo contrário, exatamente. Aliás, há uns dois anos, um dos grandes CEOs dessas grandes empresas, o Eric Smith — que era da Microsoft —, esteve em Davos a dizer a líderes mundiais que a luta contra os problemas do clima está perdida e não vamos conseguir resolver os problemas do clima, que a única coisa que podemos fazer é investir mais na IA, para a IA depois resolver por nós. É uma perda de, não só independência, mas também de capacidade de crítica. Principalmente porque a IA, como nós todos sabemos, e principalmente a que estamos a utilizar neste momento... Se há uma coisa de mau que tem é exatamente o impacto no clima. Mas é essa a ideia que nos estão a vender: que a IA nos vai resolver todos os problemas que temos, e estamos a perder a capacidade de imaginar o que é que serão outras alternativas.

Boa pergunta. Começando por um exemplo real: eu vivo na Suécia a maioria do tempo e, aqui há um ano, o primeiro-ministro sueco anunciou nos media que utiliza o ChatGPT para lhe dar ideias para a governação. Houve um escândalo nacional e eu também fui uma das pessoas entrevistadas. Aí, o que estamos a perder é o espírito democrático. Ninguém votou no ChatGPT. O ChatGPT, o que diz, é aquilo que lhe é fornecido pela empresa que está por trás. Acaba por ser, de uma maneira ou de outra, um porta-voz da empresa que o desenvolve.

Acabamos por ter governantes europeus, eleitos democraticamente, que começam a repetir, a papaguear, aquilo que estas empresas acham que é importante. E a falta de capacidade de discernimento depois é má, não só para ele, mas para o país todo. Sabe-se lá... Se o OpenAI descobre ou se vão tentar convencer o ChatGPT a dizer outras coisas ao homem, sobre o que é que vai fazer ou não.

Como é que nos podemos livrar disto? Penso que os media, como vocês, têm um papel importantíssimo, um papel não só de educar, mas de alertar para o que está a acontecer. E alertar de uma maneira objetiva, mas também alertar não só para as capacidades da IA... Todos os jornais e os media continuam deslumbrados com o que se pode fazer ou não... mas também alertar cada vez mais para o lado escuro da IA e o impacto da IA na nossa vida, e nas nossas instituições democráticas. Portanto, é importantíssimo o papel dos media, assim como é o papel da educação e do ensino.

O que é que mais a preocupa: o poder destas grandes empresas, a disrupção que estão a causar na economia e no mercado de trabalho, a falta de coragem da nossa democracia e de quem a implementa ou o declínio da nossa capacidade de pensamento?

São muitas coisas, mas o que mais me preocupa neste momento é a falta de coragem. E a falta de coragem é, em parte, devida à perda de capacidade de discernimento. A falta de coragem, a falta de poder, de enfrentar e de escolher alternativas, penso que é o mais preocupante neste momento, principalmente aqui na Europa. Porque temos cada vez mais de aceitar uma realidade em que os aliados que pensávamos que tínhamos não vão ser nossos aliados e, portanto, temos de nos salvar a nós próprios.

Estamos todos no mesmo comboio. É um comboio que ninguém sabe por onde é que vai. É um comboio que estamos a aceitar que é mais importante que acelere do que se descubra o destino. E é um comboio em que não sabemos bem como é que vamos conseguir sair dele. Não há paragens para sair do comboio.

Como é que descobrimos quem é que está a guiar o comboio? Quem é que é o "maquinista" e para onde é que nós vamos?

O problema é esse. É que neste momento — e é por isso que eu digo que as IAs são todas iguais — nenhum deles é o maquinista. Mesmo estas empresas grandes que nos estão a oferecer — ou a obrigar — a utilizar estes sistemas, nenhum deles é maquinista. Eles estão muito mais preocupados com a competição entre si do que com o destino final.

E, portanto, é um comboio fantasma, acho eu. É um comboio que não tem destino, que não tem maquinista e estamos todos cada vez mais acelerados.

E qual é a solução? É embarcar no comboio ou ficar do lado de fora a olhar e ver o que é que vai dar?

Penso que, primeiro, temos de ter a opção de saber por onde é que vai o comboio. Também temos que ter comboios para ir para várias direções porque, se vamos todos para o mesmo sítio, aquilo fica um bocado cheio de mais. Portanto, temos de perceber para onde vai o comboio, temos de ter alternativas para onde os comboios vão. Temos de ter muito mais capacidade de ter paragens e de escolher nós próprios onde é que entramos e onde é que saímos. E, principalmente, temos de ter uma capacidade de sabermos como é que tomamos a decisão.

Para alguns, a decisão pode ser escolher aquele comboio que vai mais rápido, mas também pode ser escolher o comboio que nos proporciona uma experiência mais bonita. Ou escolher um comboio que nos proporciona irmos juntos com outros. Portanto, ter a capacidade de escolha, saber como escolher, e escolher por razões diferentes, penso que é muito importante.

Neste momento, sim. E, principalmente, estamos todos nem sequer na terceira classe... Estamos todos no motor do comboio, a empurrar o comboio por nós próprios, sem saber para onde. Mas estamos a fazer de motor.

Vamos sempre a tempo. A derrota está quando acharmos que estamos derrotados. Mas enquanto temos a capacidade de acordar, vamos sempre a tempo. E mais vale tarde do que nunca, como se diz.

Penso que sim. Como eu digo, desistir não é opção. E temos cada vez mais de nos alertar uns aos outros sobre a capacidade que temos de escolha e a capacidade como cidadãos, como consumidores, de escolher.

Um dos exemplos que eu dou tem a ver com os ovos. Quando eu era miúda, os únicos ovos que se podiam comprar no supermercado eram um tipo de ovos e eram ovos que vinham do aviário. E os aviários eram construídos para ter quanto mais galinhas, melhor. E quanto mais rapidamente pusessem ovos, melhor. Neste momento, principalmente pela pressão do consumidor e do cidadão, entras no supermercado e há um corredor com ovos de tudo e mais alguma coisa: ovos de galinha feliz, ovos de galinha que come milho, ovos de galinha que come não sei o quê, ovos de galinha que está ao ar livre.

Essas opções, neste momento, na IA não temos: só temos os ovos de aviário que estão a ser construídos para proporcionar um retorno no investimento o mais rápido possível para o dono do aviário. E ninguém está a pensar na galinha, ninguém está a pensar no ovo e ninguém está a pensar no consumidor.

Esse movimento que houve por pressão da sociedade civil, mas também por pressão dos consumidores, e que ainda continua a haver na área da alimentação e na área da saúde... Estamos a precisar de ter um movimento semelhante na IA também.

O desenvolvimento e a capacidade de implementar opções que sejam muito mais alinhadas com os nossos valores, com os nossos princípios, com as nossas opções de vida e que nos proporcionam uma escolha que não é só o ovo de aviário que vem das grandes empresas americanas.

E como é que se faz frente a essas grandes empresas que têm PIBs maiores do que certos países?

Penso que fazer frente é difícil, mas escolher outras opções podemos fazer sempre. Em vez de estarmos só virados para fazer frente às outras empresas, acabar por ignorá-las e escolher outras coisas, penso que vai ser uma maneira muito mais saudável de mudar a maré.

E aí é que temos um papel, exatamente. Mas neste momento não temos também as opções europeias que nos sirvam para proporcionar a escolha. Fala-se imenso da soberania europeia ou da soberania nacional, mas neste momento estão muito mais preocupados em fazer frente às empresas do que em investir nas opções nacionais.

Investir em opções que... só por serem nacionais não quer dizer que sejam melhores. Se estivermos a copiar exatamente o mesmo que o ChatGPT faz, mas desenvolvê-lo aqui em Portugal, vamos acabar com os mesmos problemas que tem o ChatGPT ou o Claude ou qualquer outro que seja. O que precisamos é de desenvolver opções, mas opções que estejam centradas em valores e princípios que sejam mais nossos do que copiar os dos outros.

Penso que o "AMALIA" é importante, porque nos dá uma opção de desenvolvimento de IA generativa baseada em dados portugueses e em textos. O AMALIA é importante, é relevante pela capacidade de incluir dados portugueses que os outros não têm, mas acaba por ser uma cópia do que os outros estão a fazer.

É uma abordagem parecida com a abordagem das grandes empresas, mas a nível nacional. Penso que, em paralelo com o AMALIA, é também importante começarmos a desenvolver alternativas tecnológicas da maneira como estamos a construir estes sistemas. Não só fazer o mesmo sistema, com dados diferentes, mas também olhar para alternativas tecnológicas e teóricas sobre a maneira como estamos a desenvolver os sistemas.

A evolução da tecnologia surpreendeu-a? Estava à espera que tomasse este rumo?

O facto de ter sido mais ou menos de um dia para o outro... Isso, sim, surpreendeu-me. A velocidade e a erupção do que estamos a ver neste momento... essa erupção surpreendeu. Estávamos dentro da área a trabalhar nestas direções já há muito tempo, portanto, aquilo não nasceu de um dia para o outro. As tecnologias e os métodos que estão a ser utilizados na IA generativa existem já desde os anos 50, talvez, mas irrompeu de um dia para o outro, isso foi... E depois o "uptake" [absorção], a utilização tão rápida... Dentro de três meses já havia não sei quantos milhões de pessoas no mundo a utilizar o ChatGPT, isso foi surpreendente.

Acho que ninguém... Nem mesmo os que estavam a desenvolver o sistema tinham essa ideia que ia ser um "uptake" tão rápido.

Para já, a legislação não tem de ter a velocidade da tecnologia. Não estamos a mudar as regras de trânsito de cada vez que aparece um tipo de carro diferente. As regras de trânsito aplicam-se aos carros elétricos, aos carros a diesel... A ideia de que o AI Act tem que estar à velocidade da tecnologia é errónea.

O que temos de ter com a legislação, o AI Act ou qualquer outra legislação, é apontarmos a direção ou os limites, independentemente da tecnologia. Se acharmos que é importante que haja transparência, não interessa se estamos a utilizar a tecnologia A, B ou C. Temos é de exigir a quem está a fazer um sistema que vai ser utilizado nesta área que tem de garantir que seja transparente. Se não sabe garantir que é transparente, tem de fazer de outra maneira diferente.

Portanto, estarmos a fazer o AI Act dependente da tecnologia é estarmos a aceitar que a tecnologia é que determina a direção em que vamos. E tem que ser ao contrário. A regulação tem de determinar.

Podemos determinar a transparência, explicação, “fairness” ou a sustentabilidade. Por exemplo, neste momento não está ninguém a exigir que estes sistemas utilizem o mínimo de recursos possível. E, portanto, é muito mais fácil desenvolverem sistemas que utilizam mais e mais recursos do que dizer: "não, este é o máximo de recursos que pode utilizar. Garanta que aquilo que está a fazer é possível melhorar dentro desta capacidade de recursos".

Isso faz mudar a maneira como abordamos a tecnologia, completamente, e garante que a tecnologia está a seguir aquilo que nos é importante em vez do que estar a decidir o que é que é importante para nós.

Começou mal desde o início. A ideia de que tínhamos de alinhar o AI ACT com a tecnologia já foi uma concessão e aceitar que a tecnologia manda. E não é a tecnologia que manda: nós mandamos. Ao princípio, ainda estava bastante coerente, mas os problemas começaram quando começou cada um a puxar para um lado e para o outro e a tirar isto, por aquilo, muda aquilo.

Neste momento, como eu digo, é um queijo suíço: tem mais buracos do que queijo e ninguém percebe porque é que aquele buraco está lá ou não está. E, mais importante, como eu também disse: neste momento está a exigir mais do utilizador do que do produtor e muito daquilo que tem de ser exigido não é do utilizador, tem que ser do produtor... Para já, porque o produtor sabe o que é que fez. E, se não sabe, está mal. E, por outro lado, porque também tem a capacidade de modificar tudo de uma vez só, mais do que o consumidor por si.

Estamos primeiro a obrigar as pessoas a tirar a carta e a aprender o Código e ainda não fizemos as estradas?

Mas também já tivemos cavalos e depois passamos para carros e alguém decidiu fazer regras de trânsito...

Está bem, mas, mesmo na altura dos cavalos, mesmo que não fossem regras, havia princípios. Não se andava a galope pelo meio da rua. Parava-se os cavalos num lado da rua e não no meio da rua. Portanto, mesmo essas regras óbvias de conduta e de interação uns com os outros já havia no tempo dos cavalos. E não é o facto de mudarmos de cavalos para carros ou para o que quer que seja que nos muda a ideia mais central, que é a ideia de que, se estamos todos a utilizar um meio público, um espaço público, temos todos que conviver dentro deste espaço público de uma maneira que...

E o que é uma IA aceitável? Ou melhor, o que é que, para si, seria uma IA aceitável ou uma utilização da IA aceitável? Se são todas iguais, o que é que torna uma IA aceitável ou alguma melhor do que a outra?

Quando eu digo que são todas iguais falo das opções que estão a ser desenvolvidas pelas grandes empresas, neste momento, para os consumidores comuns. Ou seja, os chatbots são todos basicamente iguais. Uma IA aceitável é uma IA que é transparente, que minimiza a utilização de recursos e que está alinhada com os princípios do ambiente em que está a ser utilizada e desenvolvida.

Há poucas, porque não há espaço neste momento, nem interesse, para as desenvolver. Estamos todos tão convencidos de que a única hipótese que temos para utilizar são as que estão a ser oferecidas pelas grandes empresas, mas o DeepSeek acaba por, em alguns pontos, minimizar a utilização de recursos e é melhor do que os que estão a ser desenvolvidos na América.

Estou a dizer que é melhor nessa área, mas é pior na parte da transparência ou na parte da privacidade e também está mais desenhada — um bocadinho como o Grok — para repetir uma opinião de uma agência ou de uma entidade principal.

Não está preparado nem cá nem em lado nenhum. Uma das vantagens que a IA nos proporcionou nas universidades é percebermos que o sistema que estamos a utilizar há 200 anos já não está fresco para ser utilizado agora.

Isto é positivo, é, mas o que é que vamos fazer e como é que vamos mudar vai ser um desafio enorme.

Não foi mais chocante do que esperava. Infelizmente, estava à espera de uma situação assim. Estive lá a convite de uma universidade. Estive lá a dar umas aulas e depois, falando com alunos — muitos deles trabalham ao mesmo tempo que estudam — foram eles que me levaram a um desses centros de dados.

Durante a palestra defendeu que nenhum sistema de IA existe sem um batalhão de pessoas sem direitos. Isto também é uma batalha social?

Acabamos por ser todos nós. Estamos todos a fazer parte de um sistema de escravidão e, num sistema de escravidão, tanto o escravo como o utilizador perdem. Claro que o escravo perde muito mais, mas a sociedade em si... Perdemos todos.