A Cloudflare afirma que uma falha que afetava seu modelo GLM-5.3 no Workers AI expôs dados de solicitações de alguns clientes a outros entre 27 de agosto e 9 de setembro de 2026. A empresa identificou 155 respostas afetadas, todas geradas a partir de prompts com mais de 681.280 tokens, e não encontrou evidências de que o problema tenha sido explorado deliberadamente.
O problema veio à tona depois que o pesquisador de segurança Gadi Evron, da Knostic, o relatou pelo programa HackerOne da Cloudflare em 8 de setembro. A Cloudflare reproduziu o problema na manhã seguinte, tirou o modelo do ar em até 40 minutos após declarar um incidente e o restaurou mais tarde naquele dia, depois de implementar correções de configuração e do mecanismo. A empresa afirmou que nenhum outro modelo hospedado no Workers AI foi afetado.
A Cloudflare atribuiu a exposição a dois problemas. O GLM-5.3 foi configurado com uma janela de contexto de 1.048.576 tokens, mas o pool de cache KV nas GPUs de prefill só conseguia armazenar 681.280 tokens. Separadamente, o SGLang, mecanismo de inferência usado para disponibilizar o modelo, tratava incorretamente solicitações que excediam a capacidade do pool na configuração de prefill e decode desagregados.
Em vez de interromper uma solicitação grande demais e retornar um erro, o caminho afetado do SGLang substituía o prompt por um marcador de posição de um token. Em seguida, a etapa de prefill transferia dados de cache para esse marcador, enquanto a etapa de decode considerava a transferência concluída e lia o conjunto completo de páginas reservado para a solicitação original. A maioria dessas páginas não havia sido sobrescrita e ainda continha dados de solicitações anteriores, que podiam então aparecer na resposta.
A Cloudflare alterou a configuração para que o pool de KV de prefill possa armazenar cerca de 2,04 milhões de tokens, aproximadamente o dobro do tamanho da janela de contexto do modelo. Também corrigiu o SGLang para encerrar as solicitações rejeitadas antes da inicialização, da alocação de memória ou da transferência de KV, além de adicionar uma verificação para garantir que o número de tokens transferidos corresponda à quantidade reservada pelo decode. A empresa afirma ter testado as alterações com o script de reprodução do pesquisador e seus próprios testes com marcadores canário antes de restaurar o modelo.
O incidente também levou à adoção de medidas de proteção mais amplas nas implantações do SGLang da Cloudflare, incluindo verificações de que a capacidade do pool exceda o tamanho da janela de contexto e medidas para reduzir os riscos associados às transferências de cache KV e à reutilização de páginas. A Cloudflare recomenda que operadores que usam o SGLang desagregado atualizem para a versão 0.5.22 ou posterior, ou apliquem retroativamente as correções relevantes. A empresa afirmou que as correções para o incidente e problemas relacionados ao cache foram incorporadas ao repositório upstream, e que a maioria delas está incluída no SGLang 0.5.22.
Fontes: Cloudflare Blog.