Wat is een epoch in modeltraining?

Zo gaat een epoch in zijn werk

Je trainingsset wordt opgedeeld in batches, dus het model krijgt de data niet in één keer te zien. Als het model alle batches een keer verwerkt heeft, ben je bij het einde van één epoch. Met elke epoch zie je het effect op de modelgewichten. Ze verschuiven, gebaseerd op de fouten die het model net maakte. Heeft je model maar weinig epochs doorlopen, dan leert het niet genoeg (dat heet underfitting). Maar laat je het te vaak trainen, dan onthoudt het soms zelfs ruis: overfitting. Dus vaak wordt het aantal epochs niet van tevoren vastgezet, maar kies je bijvoorbeeld voor early stopping. Dat stopt het trainen als de validatiefout niet meer verbetert. Hoeveel epochs je uiteindelijk kiest? Hangt helemaal af van je dataset en je project. Soms zijn een stuk of vijftig epochs genoeg, soms heb je er honderden of meer nodig.

Epochs uitleggen naast batches en iteraties

Even duidelijk maken: een epoch is wat anders dan een iteratie. Een iteratie draait om één batch, dus één update aan de gewichten. Hoe vaak dat gebeurt in één epoch? Deel het aantal trainingsvoorbeelden door je batchgrootte, dan weet je het. Dus als je 10.000 plaatjes traint, batchgrootte 100, heb je 100 iteraties in een epoch. Met meer epochs zie je dezelfde data steeds opnieuw langskomen bij het model. Trainen in batches werkt sneller, omdat je hardware (denk aan een GPU) die data tegelijk kan verwerken. Wat je meestal doet: controleren hoe de fout op de trainingsdata en de validatieset zich ontwikkelt per epoch. Zie je de validatiefout stijgen terwijl de trainingsfout blijft dalen? Dat wijst op overfitting. Door zorgvuldig naar die cijfers te kijken, bepaal je hoeveel epochs je nodig hebt.

Dit toepassen in
jouw bedrijf?

We vertalen het naar jouw processen en laten binnen een week een werkend prototype zien.