Floating point precision fp32 fp16 int8 fp4
Verschillende precisies
Floating point precisie verwijst naar het aantal bits dat wordt gebruikt om getallen weer te geven in een computer. FP32 (32-bit) is de standaard voor wetenschappelijk rekenen en biedt hoge nauwkeurigheid. FP16 (16-bit) halveert het geheugengebruik en verdubbelt de snelheid op ondersteunde hardware, met minimaal verlies van nauwkeurigheid. INT8 (8-bit integer) is nog sneller en zuiniger maar vereist kwantisatietechnieken om nauwkeurigheid te behouden. FP4 (4-bit) is een zeer lage precisie die recentelijk mogelijk is geworden door geavanceerde kwantisatie. Het vermindert geheugen en rekenkracht drastisch maar kan de kwaliteit beïnvloeden. De keuze van precisie is een afweging tussen snelheid, geheugen en nauwkeurigheid. Voor training wordt vaak FP32 of FP16 gebruikt, voor inferentie vaak INT8 of FP4.
Kwantisatie en toepassingen
Kwantisatie is het proces waarbij een model wordt omgezet van hoge naar lage precisie. Dit kan post-training gebeuren of tijdens training (quantization-aware training). Kwantisatie maakt het mogelijk om grote modellen op kleinere hardware te draaien en verlaagt de energiekosten. Het wordt veel gebruikt in edge AI en mobiele toepassingen. Uitdagingen zijn het behouden van nauwkeurigheid, vooral bij complexe modellen. Technieken zoals mixed precision, waarbij verschillende lagen verschillende precisies gebruiken, helpen om het beste van beide werelden te krijgen. Het begrijpen van floating point precisie is essentieel voor het optimaliseren van AI-workloads en het kiezen van de juiste hardware.