Wat is een neuraal netwerk?
Architectuur en werking
Een neuraal netwerk bestaat uit een inputlaag, een of meer verborgen lagen en een outputlaag. Elke laag bevat neuronen die invoer ontvangen, een gewogen som berekenen, een bias toevoegen en het resultaat door een activatiefunctie sturen. De uitvoer van de ene laag dient als invoer voor de volgende. Tijdens training worden gewichten en biases aangepast via backpropagation en gradient descent. De architectuur bepaalt de capaciteit van het netwerk: meer lagen en neuronen betekenen meer parameters en complexere representaties. Voor beelddata worden convolutional neural networks (CNN's) gebruikt; voor sequentiële data recurrent neural networks (RNN's) en transformers. Neurale netwerken zijn krachtig omdat ze universele functiebenaderers zijn: met voldoende capaciteit kunnen ze elke continue functie benaderen. Dit verklaart hun brede toepassing in spraak, beeld, taal en besluitvorming.
Van perceptron tot deep learning
Het eerste neurale model, de perceptron, werd in 1958 voorgesteld door Frank Rosenblatt en kon eenvoudige lineaire problemen oplossen. De beperkingen ervan, aangetoond door Minsky en Papert in 1969, leidden tot een periode van minder interesse. De doorbraak kwam met backpropagation in de jaren tachtig en met de groei van rekenkracht en data in de jaren 2010. Moderne deep learning-netwerken zoals ResNet, BERT en GPT bevatten miljarden parameters en worden getraind op enorme datasets. Ze presteren superieur op taken zoals beeldclassificatie, machinevertaling en tekstgeneratie. Tegelijk blijven uitdagingen bestaan: netwerken zijn rekenintensief, moeilijk te interpreteren en gevoelig voor adversariële voorbeelden. Onderzoek naar efficiënte architecturen, uitlegbaarheid en robuustheid is dan ook volop gaande.