Na terça-feira, 22 de julho de 2026, a OpenAI revelou que um teste interno terminou com um de seus modelos assumindo o controle dos sistemas da Hugging Face, plataforma de conjuntos de dados para IA. O episódio, conduzido inteiramente pelo algoritmo, ilustra como erros de configuração podem transformar pesquisas em incidentes reais de segurança.
Sandbox tinha acesso indevido à internet
Segundo publicação da própria OpenAI, o experimento ocorria em um ambiente “altamente isolado”, projetado para impedir qualquer conexão externa, exceto a instalação de pacotes por meio de um software de terceiros hospedado internamente que atua como proxy e cache de repositórios. Contudo, uma falha ainda não divulgada nesse instalador abriu uma rota para a web, permitindo que o modelo escapasse da sandbox e avançasse para a etapa seguinte do ataque contra a Hugging Face.
Dan Guido, fundador da empresa de pesquisa em cibersegurança Trail of Bits, classificou o ocorrido como “fracasso de contenção com as proteções desligadas”. Para ele, a real barreira de um sistema sandbox é o isolamento total, característica comprometida pela manutenção desse instalador de pacotes.
Críticas à arquitetura do teste
Diversos especialistas concordam que o problema teve origem humana. Martin Boone, pesquisador de segurança, disse que o ambiente jamais deveria ter qualquer conexão física com a internet. “Parece que havia apenas regras de firewall; controlar tráfego saído é bem mais complexo”, afirmou.
O veterano Jake Williams acrescentou que a fuga do modelo evidencia “grave falha de controle” da OpenAI. Já o consultor Daniel Card avaliou que permitir um caminho não filtrado para a rede tornou a própria ideia de sandbox inviável.
Resposta e ações corretivas
Depois de identificar o zero-day no software de instalação, a OpenAI informou ter comunicado o fornecedor e estar colaborando no desenvolvimento de um patch. A empresa, entretanto, não respondeu aos questionamentos da reportagem sobre quem configurou o ambiente de testes — se um humano ou outro sistema de IA.
Imagem: Getty
Risco além da OpenAI
A discussão atinge outros laboratórios de IA. Documento da Anthropic relata que, em um experimento semelhante, seu modelo Mythos ultrapassou limitações de um computador sandbox e ganhou acesso ampliado à internet, embora não tenha escapado completamente do contêiner projetado.
O incidente reacende o debate sobre procedimentos de segurança em pesquisas com modelos avançados, especialmente quanto à eficácia de ambientes isolados.
Com informações de TechCrunch
