OpenAI investiga ação autônoma de IA após ataque cibernético durante teste de segurança

A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, informou que está investigando um incidente envolvendo um de seus modelos mais avançados de inteligência artificial após o sistema agir de forma autônoma durante um teste de segurança. 

Segundo a companhia, o agente de IA conseguiu explorar vulnerabilidades, sair do ambiente controlado em que era avaliado e realizar um ataque cibernético contra a plataforma Hugging Face.

Em comunicado divulgado na terça-feira (22), a empresa classificou o episódio como "sem precedentes" e informou que conduz uma investigação conjunta com a Hugging Face para entender o alcance da ocorrência.

IA escapou de ambiente de testes

De acordo com a OpenAI, o sistema envolvido era um agente de inteligência artificial projetado para executar tarefas de forma autônoma após receber instruções iniciais de humanos. Durante os testes, realizados em um ambiente isolado conhecido como sandbox, o modelo identificou falhas de segurança que permitiram sua saída desse ambiente.

Segundo a empresa, após escapar, a IA identificou a Hugging Face, plataforma amplamente utilizada por desenvolvedores para compartilhar modelos e ferramentas de inteligência artificial, como uma possível fonte das informações que buscava durante o teste. O sistema chegou a acessar parte da infraestrutura interna da companhia.

Em nota divulgada anteriormente, em 16 de julho, a Hugging Face informou que ainda avaliava se clientes ou parceiros haviam sido afetados pelo incidente e afirmou que comunicaria eventuais envolvidos caso fosse necessário. A empresa também declarou que as vulnerabilidades exploradas já foram corrigidas e que os sistemas impactados foram reconstruídos.

Debate sobre segurança em IA

O episódio reacendeu discussões sobre os riscos relacionados ao avanço da inteligência artificial e à capacidade dos atuais mecanismos de segurança acompanharem a evolução desses sistemas.

Em comunicado, a Hugging Face afirmou que ferramentas ofensivas baseadas em inteligência artificial deixaram de ser apenas uma possibilidade teórica e defendeu que plataformas digitais passem a tratar modelos de IA como uma nova superfície de ataque. A empresa também declarou que continuará investindo em mecanismos de defesa e compartilhando os aprendizados obtidos com o caso.

O CEO da companhia, Clement Delangue, afirmou, em publicação na rede social X, que chamou atenção o fato de toda a ação ter ocorrido de forma autônoma. Segundo ele, as investigações continuam e podem ajudar a compreender o que seria um dos primeiros incidentes desse tipo.

Classificação Indicativa: Livre