NIEUWTraining AI Agents en automation met n8n: 3 dagen, klassikaal of live online.AI Agents met n8n. Bekijk de training →
Contact

Wat is RAG en wanneer heb je het nodig?

RAG staat voor retrieval-augmented generation. Je zoekt eerst de passages uit je eigen documenten die bij een vraag passen en geeft die mee aan een taalmodel. Het model antwoordt dan op basis van jouw bronnen, met een verwijzing erbij. Je hebt het nodig zodra een model vragen moet beantwoorden over informatie die het niet kent: interne documenten, actuele gegevens of klantspecifieke kennis.

Hoe RAG werkt

Een RAG-toepassing heeft twee fasen. Vooraf maak je de documenten doorzoekbaar:

  • Je deelt documenten op in stukken van een paar alinea’s.
  • Van elk stuk bereken je een embedding: een reeks getallen die de betekenis vastlegt.
  • Die sla je op in een index, vaak een vectordatabase.

Bij elke vraag gebeurt daarna dit:

  • De vraag wordt op dezelfde manier omgezet en vergeleken met de index.
  • De best passende stukken worden opgehaald.
  • Het taalmodel krijgt de vraag en die stukken, en formuleert een antwoord met bronvermelding.

RAG, fine-tuning of alles meegeven

RAGFine-tuningAlles in de prompt
Wat het isRelevante stukken opzoeken en meegevenHet model bijtrainen op eigen voorbeeldenDe volledige documenten meesturen
Goed voorVragen over veel of veranderende documentenEen vaste stijl, vorm of taak aanlerenEen klein aantal documenten
Nieuwe informatie toevoegenIndex bijwerkenOpnieuw trainenDocument vervangen
BronvermeldingJaNeeJa
Zwakke plekHet zoeken moet de juiste stukken vindenLeert geen feiten betrouwbaar aanDuur en traag bij veel tekst

Voor kennis uit documenten is RAG bijna altijd de eerste keuze. Fine-tuning lost een ander probleem op: hoe het model schrijft of beslist, niet wat het weet.

Waar de kwaliteit van afhangt

Een slecht antwoord komt bij RAG meestal niet van het taalmodel, maar van het zoeken. Als de juiste passage niet wordt opgehaald, kan het model niet goed antwoorden.

  • Opdelen: te kleine stukken missen context, te grote verdunnen de inhoud. Deel op langs koppen en alinea’s.
  • Zoeken: combineer zoeken op betekenis met zoeken op exacte woorden, zoals productcodes en namen.
  • Herordenen: laat een tweede model de opgehaalde stukken op relevantie sorteren.
  • Opschonen: verouderde en dubbele documenten leveren tegenstrijdige antwoorden op.

Waar het vaak misgaat

  • Rechten: een medewerker krijgt via de assistent informatie te zien waar hij geen toegang toe heeft. Filter bij het zoeken op de rechten van de gebruiker.
  • Verouderde index: het document is aangepast, de index niet.
  • Geen meting: zonder testvragen met bekende antwoorden weet je niet of een wijziging het beter maakt.
  • Tabellen en scans: tekst uit pdf’s met tabellen of gescande pagina’s komt vaak verminkt in de index.

Hoe je begint

Kies één afgebakende verzameling documenten en twintig tot vijftig vragen waarvan je het goede antwoord kent. Bouw de eenvoudigste versie, meet hoe vaak de juiste passage wordt gevonden en verbeter daarna gericht.

In de training Werken met Large Language Models in Python bouw je een RAG-toepassing en leer je de kwaliteit meten. Een agent die zelf bepaalt wanneer hij zoekt, is de volgende stap; zie Wat is een AI-agent?.

Veelgestelde vragen

Staat je vraag er niet bij? Bel of mail ons.

Wat is een vectordatabase?

Een vectordatabase slaat embeddings op en vindt snel de vectoren die het meest lijken op een zoekvraag. Er zijn gespecialiseerde producten, maar ook bestaande databases kunnen het: PostgreSQL met pgvector, Elasticsearch en MongoDB.

Voorkomt RAG hallucinaties?

Het vermindert ze, maar sluit ze niet uit. Het model kan nog steeds iets beweren dat niet in de bronnen staat. Bronvermelding per antwoord en de instructie om te zeggen wanneer het antwoord niet in de documenten staat, helpen.

Blijven mijn documenten privé bij RAG?

Dat hangt af van waar de index staat en welk model je gebruikt. De index kan in je eigen omgeving staan. De opgehaalde passages gaan wel naar het taalmodel; kies daarom een aanbieder met passende afspraken over gegevensverwerking, of een model dat je zelf host.

Plan een kennismaking

Vertel kort waar je mee bezig bent. Een van onze engineers neemt contact met je op.

info@codemode.nl · 06 40 85 93 86

Stuur een bericht

Vul je naam in.
Vul een volledig e-mailadres in, zoals naam@bedrijf.nl.

Bedankt, we nemen contact op.

Je bericht is verstuurd naar ons team.