Reavaliando o design de cache da web para a era da IA
Colaboradores
Yazhuo Zhang, Jinqing Cai, Avani Wildani, Ana Klimovic
Detalhes
ACM Symposium on Cloud Computing 2025
Resumo
Os caches da web têm sido eficazes por muito tempo na redução da latência e da carga de back-end, armazenando conteúdo popular perto dos usuários, explorando a localidade temporal e espacial dos padrões de acesso impulsionados por humanos. No entanto, o surgimento do tráfego gerado por IA está desafiando essa suposição. Agentes de IA, como crawlers de busca e raspadores de dados, emitem grandes volumes de solicitações diversificadas e de baixo referenciamento, com reaproveitamento mínimo, o que degrada a eficácia do cache, interfere com o conteúdo relevante para humanos e aumenta a pressão sobre os sistemas de back-end. Neste artigo de pesquisa, argumentamos que a infraestrutura de caching deve evoluir para atender a essa mudança. Analisamos os padrões de tráfego de IA emergentes e estudamos seu impacto no desempenho do caching usando um protótipo de CDN baseado na arquitetura da Wikimédia. Nossos resultados mostram que mesmo quantidades modestas de tráfego de IA levam a uma ineficiência de cache significativa. Propomos um novo paradigma de design de cache no qual os caches atuam como filtros leves para preservar a localidade para o tráfego humano e aplicam políticas ou níveis diferenciados para lidar com o tráfego de IA de forma mais eficiente.