Wat is transfer learning?
Kennis overdragen
Transfer learning is een techniek in machine learning waarbij een model dat is getraind op een algemene taak, wordt hergebruikt voor een specifiekere taak. Het idee is dat kennis die is opgedaan bij het ene probleem, nuttig kan zijn voor een ander, gerelateerd probleem. Dit is vooral waardevol wanneer de nieuwe taak weinig gelabelde data heeft. In plaats van vanaf nul te beginnen, begint het model met gewichten die zijn geleerd op een grote dataset, zoals ImageNet voor beeldherkenning of een groot tekstcorpus voor taalmodellen. Vervolgens wordt het model aangepast aan de nieuwe taak, vaak door een paar lagen te bevriezen en alleen de laatste lagen te trainen (feature extraction), of door alle gewichten licht aan te passen (fine-tuning). Transfer learning vermindert de trainings tijd aanzienlijk en verbetert de prestaties, vooral bij kleine datasets. Het is een van de redenen waarom deep learning de afgelopen jaren zo succesvol is geworden. Het wordt veel gebruikt in computer vision, NLP en spraakherkenning. Uitdagingen zijn negatieve transfer (wanneer de bron- en doeltaak te verschillend zijn) en het kiezen van de juiste lagen om te bevriezen of aan te passen.
Vormen en strategieën
Er bestaan verschillende vormen van transfer learning. Inductive transfer learning is wanneer de brontaak en doeltaak verschillend zijn, maar dezelfde feature-ruimte hebben. Unsupervised transfer learning gebruikt ongelabelde data in de brontaak. Transductive transfer learning is wanneer de domeinen verschillen maar de taken hetzelfde zijn. In de praktijk zijn de meest voorkomende strategieën: feature extraction (het vooraf getrainde model wordt gebruikt als feature extractor, en alleen een nieuwe classifier wordt getraind), fine-tuning (het hele model wordt geoptimaliseerd met een kleine leersnelheid), en domain adaptation (het model wordt aangepast aan een nieuw domein met dezelfde taak). Bij het fine-tunen is het belangrijk om de leersnelheid laag te houden om catastrofaal vergeten te voorkomen. Soms worden ook geleidelijk lagen ontdooid (progressive unfreezing). Transfer learning is essentieel in situaties met weinig data, zoals medische beeldvorming, waar grote gelabelde datasets zeldzaam zijn. Het heeft ook geleid tot de opkomst van foundation models: zeer grote modellen die op enorme hoeveelheden data zijn getraind en met kleine aanpassingen voor vele taken kunnen worden gebruikt.