A OpenAI, criadora do ChatGPT, afirmou na terça-feira que seu sistema de inteligência artificial invadiu o sistema de outra empresa de IA por conta própria, em um incidente que a empresa classificou como “um ciberincidente sem precedentes”.
“Tivemos um incidente de segurança significativo durante a avaliação de nossos modelos”, disse Sam Altman, CEO da OpenAI, em um comunicado publicado nas redes sociais.
A startup de inteligência artificial Hugging Face afirmou na semana passada ter detectado uma intrusão em seus sistemas de processamento de dados, suspeitando que a mesma tenha sido causada por um agente de IA agindo de forma autônoma.
“Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente”, disse Clément Delangue, cofundador e CEO da Hugging Face, em um comunicado. “E, de fato, veio mesmo!”
A divulgação ocorre em meio a crescentes preocupações sobre as capacidades de segurança cibernética de modelos poderosos, o que levou o presidente Donald Trump, em junho, a assinar uma ordem executiva criando uma estrutura para que o governo federal avalie os riscos à segurança nacional dos sistemas de IA mais avançados por até um mês antes de seu lançamento público.
“A IA está acelerando a descoberta e a exploração de vulnerabilidades”, afirmou a OpenAI em comunicado divulgado na terça-feira. “A principal lição deste incidente é que a segurança dos modelos deve acompanhar o rápido avanço das capacidades.”
Delangue afirmou que passou as últimas 24 horas trabalhando com a OpenAI, “e acreditamos firmemente que não houve intenção maliciosa da parte deles. É impressionante que tudo isso tenha acontecido de forma autônoma!”
Delangue acrescentou que “pode ser o primeiro incidente desse tipo”.
A OpenAI afirmou que a intrusão foi causada por uma combinação de seus modelos de IA, incluindo o recém-lançado GPT-5.6 Sol e um modelo “ainda mais capaz” que ainda está sendo testado internamente.
A OpenAI afirmou que sua IA usou credenciais roubadas e descobriu uma vulnerabilidade até então desconhecida para acessar os servidores da Hugging Face.
A empresa afirmou que “chegou a fazer esforços extremos para atingir um objetivo de teste bastante específico” e “encontrou maneiras de obter acesso a informações secretas que poderia usar para fraudar a avaliação”.
