Reavaliando o design de cache da web para a era da IA

Resumo

Os caches da web têm sido eficazes por muito tempo em reduzir a latência e a carga de back-end, armazenando conteúdo popular próximo aos usuários, explorando a localidade temporal e espacial de padrões de acesso impulsionados por humanos. No entanto, o surgimento do tráfego gerado por IA está desafiando essa suposição. Agentes de IA, como crawlers de busca e scrapers de dados, emitem grandes volumes de solicitações diversificadas e de baixo referrer, com reaproveitamento mínimo, o que degrada a eficácia do cache, interfere com o conteúdo relevante para humanos e aumenta a pressão sobre os sistemas de back-end. Neste artigo de pesquisa, argumentamos que a infraestrutura de caching deve evoluir para atender a essa mudança. Analisamos os padrões de tráfego de IA emergentes e estudamos seu impacto no desempenho de caching usando um protótipo de CDN baseado na arquitetura da Wikimédia. Nossos resultados mostram que mesmo quantidades modestas de tráfego de IA levam a uma ineficiência de cache significativa. Propomos um novo paradigma de design de cache no qual os caches atuam como filtros leves para preservar a localidade para o tráfego humano e aplicam políticas ou níveis diferenciados para lidar com o tráfego de IA de forma mais eficiente.