Ruime bibliotheek met houten tafels en planken vol boeken.

RAG of fine-tuning: bedrijfskennis in een taalmodel

Een taalmodel kent niet vanzelf de actuele regels, producten en werkwijzen van jouw organisatie. Na dit artikel weet je hoe RAG en fine-tuning bedrijfskennis aan een model koppelen, waar hun belangrijkste verschillen zitten en welke gevolgen ze hebben voor onderhoud en actualiteit.

RAG en fine-tuning geven bedrijfskennis op verschillende manieren aan een taalmodel

Een taalmodel pikt patronen op uit grote hoeveelheden tekst tijdens de training. Daardoor heb je wel een flinke basis, maar dingen als recente procedurewijzigingen zitten er gewoon niet in. RAG en fine-tuning pakken dat tekort ieder op hun eigen manier aan. Dus: met RAG haalt het systeem informatie direct uit bronnen als de productdatabase of een wiki, precies wanneer iemand een vraag stelt. Die tekst rolt dan als extra context mee het model in. Fine-tuning werkt heel anders. Je voedt het model met voorbeelden tot het gewenst gedrag onder de knie heeft, zoals altijd in een specifieke toon antwoorden. Dit onderscheid zie je terug in de praktijk. Moet je actuele retourtermijnen geven? Dan kun je beter brondata gebruiken. Moet een chatbot volgens een vast script werken, of een eigen categorie vinden? Dan geeft fine-tuning meer controle. Bij RAG blijven de modelgewichten gelijk; bij fine-tuning verander je ze. Maar geen van beide levert feilloze antwoorden. RAG mist informatie als bronnen niet vindbaar zijn. Fine-tuning kan achterlopen door verouderde voorbeelden. Denk daarom eerst na: moet het systeem kennis ophalen, of juist bepaald gedrag standaard aanhouden?

Zo haalt RAG relevante bedrijfsinformatie op voor een antwoord

RAG betekent retrieval augmented generation. Het systeem zoekt eerst, en maakt daarna het antwoord. Je begint met documenten verzamelen, opschonen en opdelen in kleine stukken tekst. Elk fragment wordt omgezet in een vector (ook wel embedding). Alles wordt opgeslagen in een doorzoekbare index. Komt er een vraag binnen? Die wordt ook naar een embedding omgezet. Het systeem zoekt dan de inhoudelijk meest passende tekstfragmenten en levert die aan het taalmodel als context. Het model verwerkt die erbij en rolt met een antwoord naar buiten, eventueel met bronvermelding.

Hoe die hele keten werkt, bepaalt welke antwoorden je krijgt. Sla je een procedure van twintig A4'tjes als één hap op, dan zoekt het systeem zich rot naar de juiste passage. Zet je alles in mini-fragmenten, dan vallen vaak context of uitzonderingen weg. Ook metadata is handig: denk aan afdelingsnaam, documenttype of productcategorie om snel de juiste bron te vinden. Hybride zoeken? Werkt goed: via begripsherkenning én met steekwoorden, zodat zowel "retourbeleid" als "artikelnummer 2345" wordt gevonden. Daar komt bij: RAG is niet 'even wat documenten uploaden'. Je hebt een slimme keten nodig voor de ingest, een goede index én instructies zodat het taalmodel niet zomaar gaten in de informatie zelf opvult.

Documentkwaliteit en toegangsrechten bepalen of RAG bruikbaar is

RAG hangt helemaal af van wat het systeem kan vinden en verwerken. In veel bedrijven slingeren relevante gegevens overal rond: pdf's, oude intranetten, ticketsystemen, productcatalogi, teamschijven. Er zitten vaak kopieën tussen, scans zonder tekstlaag, verouderde info, zelfs tegenstrijdige procedures. Je zult dus moeten inventariseren: wie bewaakt welke bron, waar staat de actuele versie, hoe geef je aan dat document X niet meer geldig is? OCR maakt scans doorzoekbaar, maar een kromgetrokken kolom of vergeten voetnoot levert al snel fouten op.

Toegang tot documenten heeft aandacht nodig. Als iemand geen recht heeft om een pagina te lezen, mag een RAG-module die informatie ook niet in de samenvatting stoppen. Dus: niet alleen via goede bedoelingen, maar via techniekinstellingen die bij iedere zoekactie controleren wie waarbij mag. Metadata over afdelingen of rollen helpt als extra filter, maar moet wel synchroon met de actuele rechten lopen. Wat gaat vaak mis? Een index bouwen met onbeperktuitlezen serviceaccount, zodat ineens iedereen elk stukje tekst terugziet. Of documenten zonder eigenaar, waardoor niemand merkt dat ze oud of onjuist zijn. Eerst bronbeheer regelen dus: RAG maakt bestaande problemen in documentatie pijnlijk zichtbaar, lost ze niet op.

Retrieval testen voorkomt overtuigende antwoorden uit de verkeerde bron

Het taalmodel klinkt soms overtuigend, zelfs als het de verkeerde bron aanhaalt. Dus: je moet RAG niet alleen testen op mooie antwoorden, maar op de kwaliteit van zoeken en beantwoorden apart. Begin met echte gebruikersvragen, inclusief zoektermen met typefouten, een verzoek om meerdere documenten tegelijk of een synoniem. Kijk per geval: zijn de juiste fragmenten opgehaald? Ga daarna pas de antwoordtekst zelf beoordelen. Is de juiste uitzondering genoemd? Is niets verzonnen? Dat een antwoord logisch klinkt betekent niet dat het klopt: een oud retourbeleid kan zomaar terugkomen als het fragment niet actueel is.

Zichtbare bronverwijzingen geven gebruikers meer grip, maar alleen als die verwijzen naar het exacte deel waar het antwoord vandaan komt. Check dus altijd of het juiste fragment is opgehaald, of het model dat gebruikt en of het systeem eerlijk aangeeft wanneer het iets niet zeker weet. Slechts bij twijfel zou het systeem een vervolgvraag moeten stellen of doorverwijzen. Veel projecten testen alleen simpele voorbeelden; daar leer je weinig van. In de praktijk krijg je samengestelde vragen, ontbrekende data en tegenstrijdige bronnen. Log anonieme zoekopdrachten en missers, gebruik die om fragmentering, filters en bronselectie te verfijnen.

Fine-tuning leert antwoordgedrag, maar is geen actuele kennisbank

Fine-tuning werkt door het model extra trainingsvoorbeelden te geven, met input en gewenst antwoord. Zo kun je het model leren precies op die manier te antwoorden of je eigen labelstructuur te volgen. Een chatbot kan zo klantvragen indelen volgens jullie eigen categorieën, of producteigenschappen in een vaste lay-out gieten. Het model past daarbij interne parameters aan: de kennis wordt onderdeel van het geheel, zonder dat je die als apart document kunt opzoeken. Je weet dus niet zomaar 'waarom' het model een bepaald antwoord kiest.

Voor snel veranderende feiten is fine-tuning een moeizame route. Nieuwe katalogusdata of policywijzigingen krijg je er niet tussendoor zonder opnieuw een trainingsrun en een flinke controle. Soms blijkt daarna alsnog dat het model een oud feit aanhoudt, of maar half is bijgewerkt. Consistent gewenst gedrag vraagt om veel en diverse voorbeelden. Met te weinig of eenzijdige trainingsdata leer je juist verkeerde patronen aan. Kwaliteit houden vraagt om duidelijke evaluatie met aparte testgevallen en up-to-date labels. Let daarbij op privacy en rechten: niet alles mag je zomaar hertrainen. Fine-tuning kan het model zelfverzekerder laten klinken, zonder fouten te verminderen. Gebruik het daarom vooral voor gedrag, niet als naslag voor actuele feiten met bronverwijzing.

Kies RAG voor veranderlijke feiten en fine-tuning voor terugkerend gedrag

Waar ligt het risico dat je wilt vermijden? Als foutgevoelige velden gaan over prijzen, voorraad, beleid, productspecificaties of procedures die geregeld veranderen, is ophalen uit een centrale bron zinniger. De bron kan worden aangepast zonder het model te hoeven hertrainen, en je toont de gebruiker direct waarop het antwoord is gebaseerd. Moet de output altijd dezelfde taak uitvoeren volgens een vast stramien? Denk aan het herkennen van een veld, rubriceren of tekst herschrijven volgens bepaalde regels. Dan is fine-tuning handig, maar kijk eerst of goede instructies of standaard logica dat niet eenvoudiger sturen.

Vergelijk ook de praktische kant. RAG vereist goede documentintegraties, rechtenbeheer en periodiek checken of de resultaten dekkend zijn. Fine-tuning vergt het organiseren van trainingsdata, versies, hertrainingsmomenten en controleren of eerdere functionaliteit niet ineens wegvalt. Heb je een taak die klein is, helder afgebakend en niet vaak verandert? Fine-tuning is te overzien. Moet je duizenden feiten up-to-date houden, dan is fine-tuning voor kennis soms niet bij te benen. RAG werkt weer niet als bronnen rommelig zijn. Maak daarom een proef met echte gebruikersvragen. Let niet alleen op direct antwoord, maar op typen fouten, beheeroverhead en de mogelijke gevolgen van onjuiste informatie.

Actualiteit en onderhoud vragen bij beide methoden om versiebeheer

In theorie wordt een RAG-systeem meteen actueel als bronnen veranderen, maar in de praktijk duurt het even. Een update in het bronsysteem moet worden opgepikt, daarna oud tekstfragment eruit, nieuw fragment erin en de index verversen. Slaat dat stuk over, dan blijft oude info hangen of krijg je dubbele fragmenten. Registreer dus: hoe vaak worden bronnen ververst, wat gebeurt er bij verwijderingen en hoe check je of de index echt synchroon loopt met de brondocumenten? Kijk niet alleen naar documentdatum, want een kopie kan blijven staan na een synchronisatiefout.

Onderhoud rond fine-tuning werkt weer anders. Een nieuw trainingsbestand geeft niet direct nieuwe modeloutput; er moet expliciet een training starten, een gewijzigde modelversie worden uitgerold en getoetst. Bij veel kleine updates raak je makkelijk het overzicht kwijt. Documenteer daarom goed welke dataset, instellingen en modelversie bij elkaar horen, en check of een aanpassing niet iets anders stukmaakt. Ook andere instellingen verdienen versiebeheer: een aanpassing van de prompt, andere retrieval-instellingen of veranderde filters kunnen antwoorden aanpassen, zonder dat je het model bestuurt. Zorg dat eigenaarschap, updatefrequentie, monitoring en terugzetten naar vorige versie geregeld zijn. Zo blijft het systeem beheersbaar.

Een hybride AI-oplossing scheidt actuele feiten van vaste uitvoerregels

RAG en fine-tuning kun je samen inzetten. Het systeem haalt de laatste product- of beleidsgegevens op via RAG, en gebruikt daarnaast een fijngetuned model om bijvoorbeeld klantvragen gestructureerd te beantwoorden. Zo kan een productassistent actuele voorraad en kenmerken tonen, maar ook zorgen dat productbeschrijvingen altijd eenvoudig en passend worden geformuleerd. Dit werkt alleen als het onderscheid duidelijk blijft: feiten komen uit de bedrijfsbron, gedrag uit fine-tuning of scherpe instructies. Anders krijg je dat het model oude trainingsvoorbeelden belangrijker vindt dan de nieuwste bron.

Hybride aanpak betekent ook extra controle: test niet alleen of de juiste informatie wordt opgehaald, maar of het model het correct verwerkt en binnen geldende rechten blijft. Stel een gewijzigde regel of een kennisconflict in de bronnen voor, en kijk of het antwoord klopt, waar het naar verwijst en of de rolverdeling helder is. Soms wil je dat het systeem een vraag afwijst of terugverwijst bij twijfel. In gevoelige processen kun je zelfs een verplichte menselijke controle inbouwen. Vergeet niet: iedere extra stap kost iets, of het nu tijd, geld of rekenkracht is. Zet de combinatie pas in wanneer die echt iets verbetert.

Veelgestelde vragen

Wanneer is prompt engineering voldoende en is fine-tuning niet nodig?

Prompt engineering volstaat zolang duidelijke instructies en een paar doeltreffende voorbeelden het gewenste gedrag opleveren. Probeer echte taken en test verschillende prompts op lastige gevallen, niet alleen op de makkelijke of positieve uitkomsten.

Fine-tuning komt pas aan bod als instructies of voorbeeldprompts niet werken en je genoeg zinvolle trainingsvoorbeelden hebt. Hou rekening met onderhoud: aanpassen van een prompt is vaak een stuk simpeler dan nieuwe trainingsdata, modelversies en hertraining organiseren en controleren.

Kan RAG actuele prijzen en voorraad uit een bedrijfsdatabase ophalen?

Ja, RAG kan direct actuele prijzen en voorraadinformatie uit een database of API halen, mits het systeem veilig toegang heeft tot deze bron. Voor gegevens die vaak veranderen, is het meestal slimmer om ze pas op te halen op het moment van de vraag, niet vooraf te indexeren in een documentenbank.

De koppeling moet wel afbakenen welke velden worden opgehaald, wie welke gegevens mag zien en hoe foutafhandeling werkt als de bron tijdelijk niet reageert. Laat waar mogelijk het antwoord melden om welk product en tijdstip het gaat. Zo blijft duidelijk dat voorraad of prijs kan wisselen en voorkom je dat gebruikers denken dat een oud resultaat actueel is.

Hoe voorkom je prompt injection via documenten in een RAG-systeem?

Prompt injection voorkom je door opgehaalde documenten als data te benaderen, niet als instructie aan het taalmodel. Een passage in een document kan het model anders proberen te verleiden om regels te negeren. Geef in je instructie dus duidelijk aan dat alleen inhoudelijke informatie uit de bron wordt gebruikt voor het antwoord.

Kies ervoor om alleen gecontroleerde bronnen te indexeren. Kijk verdachte passages na en geef het model geen onnodige rechten om acties direct uit te voeren. Test of het systeem zich niet laat aansturen door een tekstfragment dat probeert de prompt aan te passen. Laat gevoelige acties altijd extra bevestiging vragen of goedkeuren door een mens.

Kan een RAG-systeem vragen in meerdere talen beantwoorden?

Ja, een RAG-systeem kan werken met meer talen, maar alleen als vraag en bronnen goed worden verwerkt in die talen. De zoekresultaten hangen af van het embeddingsmodel en de gekozen zoekstrategie: sommige systemen vinden ook inhoud die vertaald is, anderen niet. Je zult gewoon moeten testen per taalcombinatie wat echt werkt.

Gebruik in je testset voorbeelden uit alle relevante talen, neem branchespecifieke termen en lokale schrijfwijzen op. Controleer of het antwoord in de gebruikers taal blijft én de juiste betekenis en nuances overneemt. Stel duidelijke richtlijnen in voor het gebruik van onofficiële vertalingen en vaste termen.

Hoe start je een veilige pilot met een bedrijfsassistent op basis van RAG?

Voor een veilige start kies je een pilot met een duidelijk afgebakend onderwerp, een beperkte groep gebruikers en bronnen waarvan het eigenaarschap vastligt. Pak een case waar fouten beheersbare gevolgen hebben. Leg vast wat de assistent wel en niet mag raadplegen, en let erop dat toegangsrechten altijd gecheckt worden bij het ophalen van bronfragmenten.

Bereid een set testvragen voor met veelvoorkomende én afwijkende gevallen, plus vragen zonder antwoord. Geef gebruikers ruimte om foute of ontbrekende antwoorden makkelijk te melden. Begin klein, zodat je snel kunt bijsturen. Breid pas uit zodra zoekfunctie en toegangscontrole naar behoren werken en je een proces hebt voor updates.

Foto: cottonbro studio

Verder lezen

Dit toepassen in
jouw bedrijf?

We vertalen het naar jouw processen en laten binnen een week een werkend prototype zien.