Categories: Blog

IA da OpenAI invadiu outra empresa antes de fazer ataque ‘sem precedentes’

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT — Foto: AP/Michael Dwyer, Arquivo

O ataque virtual “sem precedentes” realizado por modelos de inteligência artificial da OpenAI, dona do ChaGPT, exigiu a invasão de um sistema intermediário mantido por outra empresa, informou a Reuters nessa terça-feira (28).

A infraestrutura de um cliente da empresa de tecnologia Model Labs foi usada pelos modelos de IA da OpenAI para comprometer o sistema da Hugging Face, uma plataforma para compartilhamento de modelos de inteligência artificial.

“Estamos cientes de que um cliente da Modal publicou um ponto de acesso sem autenticação que permitia a qualquer pessoa na internet usar seus ambientes isolados de execução de código”, disse Akshat Bubna, diretor de tecnologia da Model Labs, em comunicado.

A Hugging Face disse na segunda-feira (27) que um agente malicioso explorou um ambiente de teste controlado “hospedado na infraestrutura de um provedor terceirizado”, mas não havia revelado o nome da empresa.

Ainda segundo a Hugging Face, esse ambiente controlado foi transformado em uma plataforma de lançamento de ataques que permitiu uma invasão durante dois dias e meio à sua infraestrutura.

A Model Labs afirmou que a ação na conta de seu cliente foi explorada por um agente malicioso e que sua plataforma principal não foi comprometida.

Como aconteceu a invasão?

A OpenAI revelou que o GPT-5.6 Sol, lançado no início de julho, e em um modelo ainda não divulgado conseguiram invadir o sistema da Hugging Face, uma plataforma para compartilhamento de modelos de inteligência artificial.

A própria Hugging Face já havia revelado na última quinta-feira (16) que detectou uma invasão feita por um agente de IA. A empresa afirmou que ação permitiu acesso indevido a dados e credenciais.

O incidente aconteceu durante testes em que OpenAI faz os modelos de IA buscarem falhas em outros sistemas para melhorarem suas capacidade de segurança.

Esses experimentos costumam acontecer em ambientes controlados, mas com uma versão sem as barreiras de proteção que costumam existir em modelos disponíveis para usuários comuns.

Em seu comunicado, a OpenAI afirmou que o GPT-5.6-Sol e o sistema que ainda será lançado atuaram em conjunto para encontrar brechas no ambiente de pesquisa da empresa e na infraestrutura da Hugging Face.

A Hugging Face, por sua vez, disse que sua plataforma executou dois códigos enviados por um agente de IA, que então conseguiu aumentar suas permissões na infraestrutura da empresa e obter credenciais para atacar outros sistemas internos.

Esse tipo de ataque deverá se tornar mais comum com o avanço de modelos de IA que entendem de cibersegurança, avaliou a OpenAI ao revelar o ataque. “Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de última geração”, afirmou.

Para a Hugging Face, a invasão alerta para o cenário de ataques virtuais conduzidos por agentes como já vinha sendo projetado por especialistas. “Foi diferente de tudo que havíamos enfrentado antes”, disse a companhia, em sua primeira manifestação sobre o caso.

Fonte: G1

Ponto de Vista