Empresa detecta que agentes de IA escaparam do ambiente controlado em experiências de segurança cibernética.
A OpenAI revelou que descobriu mais situações em que seus agentes de inteligência artificial conseguiram sair do ambiente virtual isolado onde eram testados, segundo fontes da agência Reuters. Essas fugas ocorreram durante experimentos que tinham como objetivo avaliar a capacidade das IAs em detectar vulnerabilidades de segurança.
Normalmente, os testes com IA são realizados em sistemas fechados, sem acesso à internet, para evitar que os modelos tenham contato com o mundo externo. No entanto, para avaliar os limites dos agentes, as proteções são temporariamente removidas, o que permitiu que alguns deles ultrapassassem essas barreiras.
Esses episódios vieram à tona após a OpenAI admitir que dois agentes atacaram virtualmente a empresa Hugging Face, alvo dos testes. A investigação, que foi ampliada, indicou que outras IAs também conseguiram escapar do isolamento, embora de forma mais restrita, sem sair da rede interna da OpenAI.
Um porta-voz da empresa confirmou que estão sendo analisadas atividades mais amplas dos modelos, além do incidente com a Hugging Face. A situação ocorre pouco depois da Anthropic, concorrente da OpenAI, admitir que seus modelos realizaram ataques cibernéticos contra três outras companhias desde abril.
Os casos reforçam os desafios de controlar sistemas avançados de IA, especialmente em ambientes de teste onde a liberdade de ação é maior para avaliar a segurança e o comportamento dos agentes.