Sammenligning
RAG vs. fine-tuning — hvad skal I bygge?
RAG er ofte det rigtige første skridt når svarene skal komme fra jeres dokumenter. Fine-tuning vinder på format, stil og snævre klassifikationer. Her er den ærlige forskel.
Beslutningen
De fleste ‘AI på vores data’-projekter skal starte med retrieval.
RAG (retrieval-augmented generation) henter relevante stykker fra jeres korpus og beder modellen svare ud fra dem. Det er stærkt når indholdet ændrer sig, og I har brug for kildehenvisninger.
Fine-tuning ændrer modellens adfærd. Det er stærkt når I vil have et bestemt output-format, tone eller klassifikation — ikke når I primært vil ‘søge i PDF’erne’.
Vi bygger RAG-systemer når use casen er dokument-Q&A med evaluering. Vi siger nej til fine-tuning som første svar på et retrieval-problem.
Hvad der typisk afgør det
Praktiske signaler fra discovery.
Hvis I genkender venstre kolonne i sammenligningen nedenfor, start med RAG.
Dokumenter der ændrer sig
RAG — indeksering og chunking I kan opdatere.
Krav om citations
RAG — vis kilden i UI.
Fast output-skema
Fine-tuning eller stærk prompting/structured output.
Klassifikation i høj volumen
Fine-tuning kan være billigere i drift end store prompts.
Agents der skal handle
Ofte RAG + tools — ikke kun finetune.
Ingen eval-set
Byg det før I scaler. Ellers gætter I.
RAG vs. fine-tuning
RAG
Hent viden ved query-tid fra jeres korpus.
- God til dokument-Q&A der ændrer sig
- Citations og ‘jeg fandt ikke noget’ er naturlige
- Opdateres via indexing-pipeline
- Kræver chunking, metadata og eval
- Permissions skal bygges ind
- Hallucinationer styres — fjernes ikke magisk
Fine-tuning
Tilpas modellens adfærd med træningsdata.
- God til format, stil og klassifikation
- Sværere at opdatere når facts ændrer sig
- Kræver træningsdata af høj kvalitet
- Dyrere og tungere at iterere forkert
- Løser ikke ACL på dokumenter alene
- Ofte et lag oven på solid retrieval
RAG eller fine-tune?
Flere venstre → RAG først. Flere højre → overvej fine-tuning (evt. efter RAG).
RAG når…
Svar skal komme fra specifikke dokumenter
Fine-tune når…
I skal have en meget bestemt stil eller et skema
RAG når…
Indholdet ændrer sig ofte
Fine-tune når…
Facts er stabile og adfærd er problemet
RAG når…
I har brug for kildehenvisninger
Fine-tune når…
I klassificerer eller ekstraherer i høj volumen
RAG når…
I kan bygge indexing + eval
Fine-tune når…
I har et rent træningssæt og et snævert mål
Pas på
Klassiske fejltagelser.
Fine-tune for at ‘huske’ dokumenter
Det er det forkerte værktøj. Retrieval er bygget til det.
RAG uden permissions
Hvis dokumenterne har ACL, skal retrieval respektere dem.
Ingen evaluering
Uden spørgsmål/svar-sæt ved I ikke om I bliver bedre.
ChatGPT på filerne som produktion
Fint som spike. Dårligt som system for følsomme data uden kontrol.
FAQ
RAG vs. fine-tuning
Kan vi kombinere begge dele?
Ja. Mange produktionssystemer bruger RAG til facts og finetune/prompting til format. Start med den del der gør mest ondt.
Hvilken vector database?
Den I kan drifte. Postgres + pgvector er et stærkt default hvis I allerede har Postgres.
Er agents det samme som RAG?
Nej. Agents bruger værktøjer og planlægning. RAG er en retrieval-strategi agents ofte har brug for.
Hvordan starter vi uden at overinvestere?
Et afgrænset korpus, et eval-sæt, og en UI med citations. Så ved I om det er værd at bygge videre.
Læs videre
Læs videre
Om RAG og AI i produktion.
- AI5 minutters læsning
Hvornår giver RAG mening — og hvornår er det det forkerte AI-projekt?
RAG er blevet standard-svaret på "vi vil bruge vores egne data med AI". Det er rigtigt ofte — og dyrt forkert når problemet egentlig er søgning, processer eller datakvalitet. Her er den ærlige sortering.
→Hvornår giver RAG mening — og hvornår er det det forkerte AI-projekt? - AI3 minutters læsning
AI-agenter i produktion — hvad der skal på plads før I shipper
En demo-agent der svarer smart i ChatGPT er ikke en produktionsagent. At shippe AI til rigtige brugere kræver grænser, observability og en klar definition af hvornår et menneske tager over.
→AI-agenter i produktion — hvad der skal på plads før I shipper
AI på jeres data?
Lad os sortere RAG fra fine-tune — før I bygger forkert.
Vi hjælper med use case, korpus og eval, så I får et system der kan gå i drift.