Berliner Tageblatt - OpenAI relata ataque hacker autônomo 'sem precedentes' executado por seus agentes de IA

A empresa, sediada em San Francisco, classificou o incidente como um "ciberataque sem precedentes" e afirmou que conduzirá uma investigação conjunta com a Hugging Face, a biblioteca de código online afetada.

Os modelos de IA que alimentam ferramentas como chatbots e geradores de imagens são conhecidos como "agentes" quando atuam de forma autônoma para executar tarefas do mundo real.

Com o rápido avanço dessa tecnologia, a segurança cibernética se torna uma preocupação crescente devido ao risco de que a IA avançada possa encontrar vulnerabilidades em softwares antes dos humanos.

A OpenAI indicou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol "e um modelo em pré-lançamento" com capacidades ainda maiores.

A empresa busca avaliar as capacidades de hackeamento de seus programas atribuindo-lhes tarefas em um ambiente de teste digital controlado, onde o acesso à internet é limitado por motivos de segurança.

"Enquanto operavam em nosso ambiente de teste isolado, nossos modelos investiram uma quantidade considerável de potência computacional na busca por uma maneira de obter acesso à internet para resolver o problema de avaliação", afirma uma publicação no blog da OpenAI sobre o incidente.

Uma vez conectados à internet, os modelos decidiram atacar a plataforma Hugging Face — um grande repositório de modelos de IA, conjuntos de dados e outras informações — para facilitar sua busca.

Na busca por "informações secretas" que lhes permitissem manipular a avaliação, o sistema da OpenAI "encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas".

- Potencial "catastrófico" -

Hussein Abbass, professor de Ciência da Computação na universidade UNSW Canberra, explicou à AFP que o incidente foi "estarrecedor em muitos aspectos".

"Não atacou apenas a Hugging Face. Atacou seu sistema interno para explorar suas próprias vulnerabilidades", afirmou. "E isso é assustador."

O GPT-5.6 e outros modelos de ponta, incluindo a série Mythos da Anthropic, principal concorrente da OpenAI, têm gerado preocupações quanto ao seu potencial para violar as defesas da segurança cibernética.

Ambas as empresas americanas tiveram que adiar temporariamente o lançamento geral de suas tecnologias mais recentes devido a temores em Washington de que elas pudessem facilitar a infiltração em infraestruturas críticas.

A inteligência artificial avançada "normalmente está nas mãos de pessoas éticas e responsáveis", disse Abbass, mas "seria catastrófico se caísse nas mãos de alguém com a intenção de causar danos".

A gestão responsável do setor de IA é crucial e "precisamos de um esforço conjunto para lidar com essa situação", acrescentou.

A Hugging Face relatou uma "intrusão" cibernética na semana passada, sem mencionar a OpenAI.

"Isso foi diferente de tudo que já lidamos antes em um aspecto fundamental: foi conduzido do início ao fim por um sistema de agente autônomo de IA, e o detectamos e analisamos em grande parte com nossa própria IA", afirmou a plataforma.

Clement Delangue, CEO da Hugging Face, comentou na rede social X que a empresa suspeitava que o ataque cibernético tivesse se originado de um laboratório de IA líder no mundo, dada a sofisticação do agente.

"Acreditamos firmemente que não houve intenção maliciosa da parte deles", escreveu Delangue, referindo-se à OpenAI. "É impressionante que tudo isso tenha acontecido de forma autônoma!", acrescentou.

K.Thomson--BTB