Spring til indhold

Sammenligning

RAG vs. fine-tuning — hvad skal I bygge?

RAG er ofte det rigtige første skridt når svarene skal komme fra jeres dokumenter. Fine-tuning vinder på format, stil og snævre klassifikationer. Her er den ærlige forskel.

Beslutningen

De fleste ‘AI på vores data’-projekter skal starte med retrieval.

RAG (retrieval-augmented generation) henter relevante stykker fra jeres korpus og beder modellen svare ud fra dem. Det er stærkt når indholdet ændrer sig, og I har brug for kildehenvisninger.

Fine-tuning ændrer modellens adfærd. Det er stærkt når I vil have et bestemt output-format, tone eller klassifikation — ikke når I primært vil ‘søge i PDF’erne’.

Vi bygger RAG-systemer når use casen er dokument-Q&A med evaluering. Vi siger nej til fine-tuning som første svar på et retrieval-problem.

Hvad der typisk afgør det

Praktiske signaler fra discovery.

Hvis I genkender venstre kolonne i sammenligningen nedenfor, start med RAG.

  • Dokumenter der ændrer sig

    RAG — indeksering og chunking I kan opdatere.

  • Krav om citations

    RAG — vis kilden i UI.

  • Fast output-skema

    Fine-tuning eller stærk prompting/structured output.

  • Klassifikation i høj volumen

    Fine-tuning kan være billigere i drift end store prompts.

  • Agents der skal handle

    Ofte RAG + tools — ikke kun finetune.

  • Ingen eval-set

    Byg det før I scaler. Ellers gætter I.

RAG vs. fine-tuning

RAG

Hent viden ved query-tid fra jeres korpus.

  • God til dokument-Q&A der ændrer sig
  • Citations og ‘jeg fandt ikke noget’ er naturlige
  • Opdateres via indexing-pipeline
  • Kræver chunking, metadata og eval
  • Permissions skal bygges ind
  • Hallucinationer styres — fjernes ikke magisk

Fine-tuning

Tilpas modellens adfærd med træningsdata.

  • God til format, stil og klassifikation
  • Sværere at opdatere når facts ændrer sig
  • Kræver træningsdata af høj kvalitet
  • Dyrere og tungere at iterere forkert
  • Løser ikke ACL på dokumenter alene
  • Ofte et lag oven på solid retrieval

RAG eller fine-tune?

Flere venstre → RAG først. Flere højre → overvej fine-tuning (evt. efter RAG).

  • RAG når…

    Svar skal komme fra specifikke dokumenter

    Fine-tune når…

    I skal have en meget bestemt stil eller et skema

  • RAG når…

    Indholdet ændrer sig ofte

    Fine-tune når…

    Facts er stabile og adfærd er problemet

  • RAG når…

    I har brug for kildehenvisninger

    Fine-tune når…

    I klassificerer eller ekstraherer i høj volumen

  • RAG når…

    I kan bygge indexing + eval

    Fine-tune når…

    I har et rent træningssæt og et snævert mål

Pas på

Klassiske fejltagelser.

  • Fine-tune for at ‘huske’ dokumenter

    Det er det forkerte værktøj. Retrieval er bygget til det.

  • RAG uden permissions

    Hvis dokumenterne har ACL, skal retrieval respektere dem.

  • Ingen evaluering

    Uden spørgsmål/svar-sæt ved I ikke om I bliver bedre.

  • ChatGPT på filerne som produktion

    Fint som spike. Dårligt som system for følsomme data uden kontrol.

FAQ

RAG vs. fine-tuning

  • Kan vi kombinere begge dele?

    Ja. Mange produktionssystemer bruger RAG til facts og finetune/prompting til format. Start med den del der gør mest ondt.

  • Hvilken vector database?

    Den I kan drifte. Postgres + pgvector er et stærkt default hvis I allerede har Postgres.

  • Er agents det samme som RAG?

    Nej. Agents bruger værktøjer og planlægning. RAG er en retrieval-strategi agents ofte har brug for.

  • Hvordan starter vi uden at overinvestere?

    Et afgrænset korpus, et eval-sæt, og en UI med citations. Så ved I om det er værd at bygge videre.

AI på jeres data?

Lad os sortere RAG fra fine-tune — før I bygger forkert.

Vi hjælper med use case, korpus og eval, så I får et system der kan gå i drift.