A OpenAI anunciou esta terça-feira que perdeu o controlo de dois modelos de inteligência artificial durante um teste de segurança, que terminou com a invasão e ataque a uma startup, a Hugging Face.

O caso aconteceu na semana passada, mas só agora foi dado a conhecer pelo criador do ChatGPT, que se encontrava a testar capacidades de alguns dos seus modelos mais avançados de IA. Era suposto o ambiente ser controlado, mas o agente chegou à internet e invadiu a infraestrutura da startup para atingir o objetivo do teste que estava a realizar.

A criadora do ChatGPT descreveu o incidente como "sem precedentes" que envolveu "recursos cibernéticos de última geração", acrescentando que estão a ser reforçadas medidas de segurança.

Também em reação, o co-fundador da Hugging Face, afirmou que a startup "está acostumada a ser alvo de hacker" e que o incidente também mostrou novas maneiras de defesa de infraestruturas, defendendo "transparência e acesso a sistemas de IA capazes" para chegar a um "ecossistema de IA mais seguro, mais colaborativo e mais seguro".

Para conter o ataque, a Hugging Face afirmou ter usado um modelo chinês de código aberto, uma vez que os principais modelos norte-americanos não conseguem distinguir uma ameaça, por se recusarem a processar os dados necessários para analisar o invasor.