Como Resolver Erro CUDA Out of Memory em 8GB (Guia 2026)

O erro CUDA Out of Memory (OOM) em GPUs domésticas de 8GB de VRAM durante o treinamento de modelos de machine learning ocorre quando o tamanho do batch, as ativações armazenadas para retropropagação ou o estado do otimizador excedem o limit...

Reduza o Batch Size: O método de mitigação mais direto é diminuir o parâmetro batch_size no seu DataLoader. Reduza gradativamente pela metade (de 32 para 16, depois para 8) até que o script de treinamento execute sem estourar a capacidade d...

Implemente Gradient Accumulation: Para compensar lotes menores sem comprometer a estabilidade matemática, implemente a gradient accumulation. Esta técnica soma os gradientes ao longo de vários sub-passos antes de executar a atualização dos...

Ative o Gradient Checkpointing: Esta configuração descarta seletivamente ativações intermediárias na passagem frontal (forward pass) e as recalcula sob demanda durante a passagem reversa (backward pass). Habilitar o gradient checkpointing c...