Wat is een latent space?
Comprimeren van informatie
In deep learning verwijst latent space naar de interne representatie die een netwerk leert in zijn verborgen lagen. Deze ruimte is meestal veel kleiner dan de inputruimte en bevat de belangrijkste factoren die de data verklaren. Bij een autoencoder wordt de input gecomprimeerd naar een latent vector en vervolgens gereconstrueerd. De latent space vangt semantische relaties: vergelijkbare datapunten liggen dicht bij elkaar. In large language models is de latent space een hoogdimensionale vectorruimte waarin woorden en zinnen als embeddings worden weergegeven. Het manipuleren van latent vectors maakt het mogelijk om eigenschappen van data te veranderen, zoals het genereren van gezichten met bepaalde kenmerken. Latent space is daarmee een krachtig concept voor representatieleren en generatieve modellen.
Toepassingen en interpretatie
Latente representaties worden gebruikt in dimensionality reduction, clustering, recommendation systems en generatieve AI. Variational autoencoders (VAE's) en generative adversarial networks (GAN's) maken gebruik van latent spaces om nieuwe data te genereren. In NLP leren transformers contextuele embeddings waarin de positie en betekenis van woorden worden vastgelegd. Het interpreteren van latent space is uitdagend: dimensies zijn zelden direct interpreteerbaar. Technieken zoals t-SNE en UMAP visualiseren latent spaces in 2D of 3D. Disentanglement-onderzoek probeert latent spaces te ontwarren zodat individuele dimensies specifieke factoren vertegenwoordigen. Dit is belangrijk voor controleerbaarheid en uitlegbaarheid van AI-systemen.