RAG: hoe je voorkomt dat AI je bedrijf verzint

Een klant vraagt je chatbot op de website hoe die tweestapsverificatie instelt in jouw product. Het antwoord klinkt zelfverzekerd en compleet, met stap 1, 2 en 3. Alleen kloppen die stappen niet, want zo werkt tweestapsverificatie helemaal niet in jouw product. De chatbot heeft het gewoon verzonnen, en de klant belt boos naar de klantenservice.

Dat komt doordat een standaard AI-model werkt als een nieuwe medewerker die veel algemene boeken over de branche heeft gelezen, maar jouw eigen handleiding nog nooit heeft ingezien. Vraag die medewerker iets specifieks over jouw product, en die vult de gaten in zijn kennis op met wat aannemelijk klinkt, ook al is het feitelijk fout. Beter is: geef die medewerker eerst je eigen handleiding erbij, laat die het relevante hoofdstuk opzoeken, en pas dan een antwoord formuleren op basis van wat daar echt staat.

Dat "eerst opzoeken, dan pas antwoorden" heeft een naam: RAG, kort voor Retrieval-Augmented Generation. Het model zoekt eerst relevante stukken tekst op in je eigen kennisbron, voegt die toe aan de prompt, en genereert pas dan een antwoord.

Zodra je doorhebt dat een standaard AI-model jouw bedrijf simpelweg niet kent, snap je waarom het soms overtuigend klinkende onzin verkoopt over je eigen product of beleid: het model vult de gaten in zijn kennis op zonder dat te melden, iets wat hallucineren heet (zelfverzonnen, foutieve antwoorden geven alsof ze feiten zijn). RAG lost dat op door het model te koppelen aan een actuele, doorzoekbare bron van eigen kennis.

Dat maakt AI bruikbaar voor praktische toepassingen zoals een klantenservice-chatbot die antwoordt op basis van je eigen handleidingen, of een interne assistent die vragen beantwoordt op basis van bedrijfsdocumentatie. En het scheelt kosten: je hoeft het model niet opnieuw te trainen telkens als er iets verandert, je ververst alleen de kennisbron.

• Ondernemer (MKB): een chatbot op je website die klanten antwoord geeft op basis van je eigen productinformatie, in plaats van generieke of verzonnen uitleg.
• Office/administratie: een interne assistent die vragen over verlofregelingen beantwoordt op basis van het actuele personeelshandboek.
• Verkoop: een assistent die tijdens een klantgesprek snel de juiste productinformatie en prijsafspraken opzoekt.
• Corporate teams (manager, HR, marketing, IT): de manager gebruikt een zoekassistent voor vragen over interne beleidsdocumenten, HR beantwoordt vragen over arbeidsvoorwaarden via het personeelshandboek, marketing checkt merkrichtlijnen via de eigen contentbank, en IT bouwt een supportbot die antwoord geeft op basis van interne documentatie en eerdere tickets.

1. Verzamel de documenten of gegevens die als kennisbron moeten dienen (handleidingen, beleidsdocumenten, productinformatie).
2. Knip die documenten op in behapbare stukken (chunks), meestal een alinea of sectie per stuk.
3. Zet die stukken om in een doorzoekbare vorm (een zogeheten vector-database) zodat relevante stukken snel gevonden kunnen worden op basis van een vraag.
4. Bouw de zoekstap in: als een gebruiker een vraag stelt, zoekt het systeem eerst de meest relevante stukken op.
5. Voeg die gevonden stukken toe aan de prompt die naar het AI-model gaat, samen met de oorspronkelijke vraag.
6. Laat het model een antwoord formuleren dat expliciet gebaseerd is op de aangeleverde stukken, niet op eigen aannames.
7. Laat het model, waar mogelijk, verwijzen naar de bron van het antwoord, zodat een gebruiker dit kan controleren.
8. Houd de kennisbron actueel: nieuwe of gewijzigde documenten moeten opnieuw verwerkt worden zodat het systeem up-to-date blijft.

Een softwarebedrijf zet een chatbot op de website die klanten helpt bij technische vragen over hun product. Zonder RAG verzint de chatbot antwoorden op basis van algemene kennis: bij een vraag over tweestapsverificatie noemt die stappen die niet bestaan, wat tot boze klanten en extra supportgesprekken leidt.

Met RAG wordt de volledige handleiding en kennisbank van het product opgeknipt en doorzoekbaar gemaakt. Bij dezelfde vraag zoekt het systeem eerst het relevante stuk uit de handleiding op, en gebruikt het model dat stuk om een correct antwoord te formuleren, met een verwijzing naar de exacte pagina. Wordt de handleiding bijgewerkt, dan ververst alleen dat deel van de kennisbron, zonder dat het hele model opnieuw getraind hoeft te worden.

• Gebruik dit morgen als startpunt om te bepalen of jouw organisatie een interne kennisbank heeft die goed genoeg gestructureerd is om als RAG-bron te dienen.
• Gebruik dit morgen om vast te stellen welke veelgestelde klantvragen het meest zouden profiteren van een op eigen documentatie gebaseerde chatbot.
• Gebruik dit morgen als toetsingskader bij een leveranciersgesprek: vraag expliciet of een aangeboden AI-oplossing RAG gebruikt, of alleen op een generiek model draait.
• Gebruik dit morgen om een klein experiment op te zetten: laat een AI-model (met een tool die documenten kan uploaden, zoals de projectfunctie in ChatGPT of Claude) een paar interne documenten doorzoeken voordat het een vraag beantwoordt.

ChatGPT / Claude (met documenten geüpload in een project of chat)

Ik heb de volgende documenten toegevoegd: [namen documenten].
Beantwoord mijn vragen uitsluitend op basis van de inhoud van
deze documenten. Als het antwoord er niet in staat, zeg dat
expliciet in plaats van iets te verzinnen. Verwijs bij elk
antwoord naar het document en, indien mogelijk, het onderdeel
waar de informatie vandaan komt.

Vraag: [jouw vraag]

Gemini (met Google Drive-koppeling of geüploade bestanden)

Gebruik alleen de aangeleverde bestanden als bron voor je antwoord.
Vat eerst kort samen welk deel van de bestanden relevant is voor
mijn vraag, geef daarna een antwoord gebaseerd op die informatie.

Vraag: [jouw vraag]

• Denken dat RAG hetzelfde is als het model "trainen" op je data; RAG voegt informatie toe tijdens het beantwoorden, het traint het model niet opnieuw.
• Documenten in te grote of te rommelige stukken opknippen, waardoor de zoekstap niet de juiste informatie vindt.
• De kennisbron niet actueel houden, waardoor het systeem alsnog verouderde informatie geeft.
• Geen bronvermelding inbouwen, waardoor gebruikers antwoorden niet kunnen controleren.
• Verwachten dat RAG hallucinaties volledig uitsluit; het vermindert het risico sterk, maar een model kan nog steeds fouten maken bij het samenvatten van de gevonden informatie.

• Zorg voor een goed gestructureerde, actuele kennisbron als basis; de kwaliteit van RAG staat of valt met de kwaliteit van de brondocumenten.
• Knip documenten op in logische, behapbare stukken in plaats van hele documenten in één keer.
• Bouw bronvermelding in zodat gebruikers antwoorden kunnen controleren en vertrouwen.
• Werk de kennisbron bij zodra brondocumenten veranderen, anders werkt het systeem alsnog met verouderde informatie.
• Test regelmatig met echte vragen van gebruikers om te checken of de juiste informatie wordt teruggevonden.

Upload een paar interne documenten (een handleiding, beleidsstuk of productinformatie) in een project of chat bij ChatGPT of Claude. Stel drie vragen die specifiek beantwoord moeten worden op basis van die documenten, met de promptstructuur hierboven. Controleer of het model daadwerkelijk verwijst naar de juiste bron, en test wat er gebeurt als je een vraag stelt waarvan het antwoord niet in de documenten staat.