OpenAI revela incidente após IA realizar ciberataque autónomo durante testes

De acordo com a OpenAI, o incidente aconteceu durante uma avaliação destinada a medir a capacidade dos modelos para identificar e explorar vulnerabilidades informáticas. Em vez de se limitar ao ambiente de testes ("sandbox"), o agente de IA explorou uma vulnerabilidade até então desconhecida, conseguiu aceder à Internet e comprometeu parte da infraestrutura da Hugging Face, numa tentativa de obter informação que lhe permitisse melhorar o seu desempenho na própria avaliação.A OpenAI explica que o modelo atuou sem instruções humanas diretas para realizar esse ataque específico. Segundo a empresa, o sistema identificou autonomamente um caminho para contornar as limitações impostas pelo ambiente de testes e procurou recursos externos para atingir o objetivo definido pela avaliação.Ainda segundo a OpenAI, o incidente envolveu o modelo experimental GPT-5.6 Sol e outro sistema de investigação mais avançado. A empresa admite que algumas das salvaguardas habituais tinham sido deliberadamente reduzidas para permitir uma avaliação mais realista das capacidades cibernéticas dos modelos em desenvolvimento.A Hugging Face detetou a intrusão e colaborou com a OpenAI na contenção do incidente, na correção das vulnerabilidades exploradas e na realização de uma investigação forense. As duas organizações afirmam que não existem indícios de que o ataque tenha sido motivado por intenção maliciosa ou que tenham sido comprometidos dados de utilizadores.O caso reacendeu o debate sobre os riscos associados a sistemas de inteligência artificial cada vez mais autónomos. O jornal britânico The Guardian refere que especialistas em segurança e responsáveis políticos defendem o reforço dos mecanismos de supervisão, testes independentes e normas internacionais para garantir que modelos com capacidades avançadas de cibersegurança permanecem sob controlo humano.Na sequência do incidente, a OpenAI anunciou que irá rever os seus processos de avaliação para modelos com capacidades ofensivas em cibersegurança, reforçar os mecanismos de contenção e aprofundar a cooperação com a Hugging Face para prevenir situações semelhantes no futuro.foto: Depositphotos