L'uscita anticipata combatte direttamente l'overfitting monitorando le prestazioni del modello su un insieme di esempi addizionale chiamato insieme di validazione (validation set). Quando la funzione obiettivo sul set di validazione smette di diminuire per un certo numero di iterazioni e anzi comincia a peggiorare l'addestramento viene interrotto in quanto c'è il sospetto di iniziare ad overfittare il problema.