Chris Olah, cofundador da Anthropic, afirmou na segunda-feira que o desenvolvimento da inteligência artificial não pode ser deixado exclusivamente nas mãos das empresas tecnológicas, e apelou a uma maior supervisão por parte dos líderes religiosos, dos governos e da sociedade civil.

Durante a apresentação da primeira encíclica do Papa Leão XIII sobre a inteligência artificial, Olah disse que existe "uma possibilidade real" de a IA substituir o trabalho humano "em grande escala".

"Se isso acontecer, apoiar aqueles que forem substituídos será um imperativo moral de proporções históricas", disse, sentado ao lado do Papa.

Acrescentou que empresas como a sua operam sob fortes pressões comerciais, geopolíticas e pessoais que podem entrar em conflito com os interesses mais vastos da sociedade.

"Todo o laboratório de IA de topo... opera dentro de um conjunto de incentivos e restrições que podem, por vezes, entrar em conflito com a prática correta", disse, acrescentando que mesmo os investigadores bem-intencionados continuam a ser influenciados por estas forças.

A Anthropic é uma empresa sediada nos EUA que produz as ferramentas de IA Claude. A IA entrou em conflito com a administração do presidente Donald Trump, principalmente por insistir em salvaguardas que restringem a utilização dos seus modelos para fins militares, como o direcionamento autónomo de armas ou a vigilância doméstica.

Olah saudou o envolvimento da Igreja com a tecnologia em rápido desenvolvimento, afirmando que as questões éticas levantadas pela IA vão muito além da engenharia.

"As questões levantadas pela IA são maiores do que a comunidade de investigação em IA", disse, e apelou a "críticos sérios e ponderados" que possam desafiar as empresas e ajudar a direcionar a criação de novos sistemas poderosos numa direção positiva.

Olah destacou três áreas que, segundo ele, exigem uma atenção urgente: o risco de perdas de emprego em grande escala, a necessidade de garantir que os benefícios da IA são alargados a nível global e a questão não resolvida de como interpretar o comportamento cada vez mais complexo e, por vezes, opaco dos sistemas.

"O desenvolvimento da IA está concentrado num punhado de nações ricas. Como podemos garantir que os ganhos da IA são partilhados a nível global?", questionou Olah.

O evento de segunda-feira marcou uma convergência invulgar entre o setor tecnológico e a Igreja Católica, que tem procurado posicionar-se como uma voz moral sobre as implicações dos rápidos avanços na inteligência artificial.