O que é Multi-armed Bandit?
Multi-armed bandit, também chamado de bandit ou teste bandit, é uma técnica de experimentação em que a divisão de tráfego muda ao longo do teste. Em vez de manter a proporção fixa entre as variações, o algoritmo observa os resultados parciais e passa a mandar mais visitantes para quem vem convertendo melhor.
O nome vem do problema clássico do jogador diante de várias máquinas caça-níqueis, cada uma com uma taxa de prêmio desconhecida. O jogador precisa decidir a cada rodada entre explorar máquinas pouco testadas e explorar a máquina que já parece boa. Esse equilíbrio entre exploração e aproveitamento é o núcleo da técnica.
O bandit resolve um custo específico do experimento. Em um teste A/B tradicional, metade do tráfego continua vendo a versão pior até o fim do teste. O bandit reduz essa perda enquanto o teste roda, ao preço de uma leitura estatística mais complexa sobre o quanto cada variação realmente vale.
Como funciona na prática?
O experimento começa com o tráfego dividido igualmente entre as variações. A cada ciclo de atualização, o algoritmo recalcula o desempenho de cada uma e ajusta a distribuição: as melhores recebem uma fatia maior, e as demais continuam recebendo uma parcela para seguir aprendendo. Sem essa parcela de exploração, o algoritmo se prende cedo a um vencedor que só parecia bom por acaso.
A escolha entre bandit e teste clássico depende do objetivo. Quando você quer aprender por que uma versão vence, com leitura limpa de vencedor estatístico e segmentações confiáveis, o teste A/B tradicional entrega isso melhor. Quando o objetivo é aproveitar ao máximo uma janela curta, como uma semana de Black Friday, o bandit reduz a perda durante a campanha.
O bandit tem armadilhas conhecidas. Conversões com atraso longo, como vendas que levam dias, confundem o algoritmo, que reage a dados incompletos. Efeitos de novidade e variações de comportamento entre dias da semana também distorcem a redistribuição.
Multi-armed bandit vs teste A/B: qual a diferença?
| Aspecto | Multi-armed bandit | Teste A/B |
|---|---|---|
| Divisão de tráfego | Muda durante o teste | Fixa até o fim |
| Objetivo principal | Maximizar conversões no período | Aprender qual versão vence e por quê |
| Custo de aprendizado | Menor exposição à versão pior | Metade do tráfego na versão pior |
| Leitura dos dados | Mais complexa, amostras desiguais | Direta, com base de cálculo estável |
Veredito: use o bandit quando o valor está em colher resultado agora e o teste A/B quando o valor está em aprender com confiança.
Exemplos de uso
- Uma loja testa cinco criativos de banner na semana da Black Friday. O bandit concentra o tráfego nos dois melhores já no segundo dia.
- Um portal de notícias testa oito títulos para a mesma matéria, cuja vida útil é de horas. Esperar significância em cada versão não faz sentido.
- Um e-commerce testa quatro faixas de valor mínimo para frete grátis durante uma campanha de dez dias e deixa o algoritmo priorizar as faixas com melhor desempenho.
Erros comuns
- Usar bandit com conversão de ciclo longo, em que o resultado só aparece dias depois do clique.
- Tratar a variação que recebeu mais tráfego como vencedora comprovada, sem análise estatística adequada.
- Rodar bandit para aprender sobre segmentos, quando as amostras desiguais dificultam essa leitura.
- Ignorar sazonalidade e deixar o algoritmo concentrar tráfego com base em um único dia atípico.
Perguntas frequentes sobre Multi-armed Bandit
Bandit substitui o teste A/B?
Não. As duas técnicas respondem a perguntas diferentes. O bandit otimiza o resultado dentro de uma janela de tempo e o teste A/B produz conhecimento confiável sobre o que funciona. Times maduros usam bandit em campanhas curtas e teste clássico nas decisões estruturais que vão guiar o site por meses.
Quanto tempo dura um teste bandit?
O bandit costuma rodar durante toda a campanha, já que ele otimiza enquanto entrega. Ainda assim, ele precisa de tempo mínimo para cobrir os ciclos naturais do seu público, como dias úteis e fim de semana. Encerrar cedo demais congela uma decisão tomada com dados de poucas horas.
Quais ferramentas oferecem multi-armed bandit?
Plataformas de otimização de sites, ferramentas de personalização e sistemas de anúncios costumam oferecer algum modo de alocação dinâmica de tráfego, às vezes com outros nomes, como otimização automática de criativos. Verifique na documentação da ferramenta que você já usa qual algoritmo está por trás e como ele lê as conversões.