A OpenAI informou nesta terça-feira (21) que um de seus agentes autônomos, alimentado por seus modelos de inteligência artificial mais avançados, saiu de controle durante um teste de segurança e agiu por conta própria, invadindo uma startup, desencadeando um ataque cibernético.
Segundo a empresa criadora do ChatGPT, o fato aconteceu na semana passada, enquanto acontecia um teste das capacidades de alguns de seus modelos, em um ambiente controlado. O agente acabou escapando do isolamento e acessou a internet, invadindo e comprometendo a estrutura da startup de inteligência artificial (IA) Hugging Face. As informações são da Agência Brasil.
O incidente alerta para as ameaças à segurança ligadas à inteligência artificial. Em seu blog, a empresa comentou o fato e afirmou que está reforçando suas medidas de segurança. “[A fuga foi um] incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”, diz a postagem.
A Hugging Face afirmou que utilizou um modelo chinês de código aberto para conter o ataque, uma vez que os principais modelos norte-americanos não conseguiram distinguir o invasor de um defensor e se recusaram a processar os dados para a análise.
