RAG — så får AI svara utifrån era egna dokument
RAG står för Retrieval-Augmented Generation och är det som gör att en AI kan svara på frågor om era avtal, rutiner och produkter istället för att gissa. Den här guiden går igenom hur tekniken är uppbyggd, vad som avgör kvaliteten, vad den kostar och när ni ska välja något annat.
Viktor Hadestrand
AI-utvecklare · · 12 min läsning
Uppdaterad
Snabbfakta
- Vad RAG betyder
- Retrieval-Augmented Generation
- Grundprincip
- Sök först i era källor, svara sedan utifrån träffarna
- Största kvalitetsfaktorn
- Sökningen och dokumentuppdelningen
- Vanligaste alternativet
- Finjustering — nästan alltid sämre för fakta
- Typisk byggkostnad
- 80 000–300 000 kr
- Typisk driftkostnad
- 5 000–20 000 kr/mån
- Vanlig ledtid
- 4–6 veckor till drift
- Krav ni bör sätta
- Källhänvisning i varje svar
Hur RAG är uppbyggt
En RAG-lösning består av två halvor. Först indexeringen: era dokument delas upp i avsnitt, görs om till vektorer och sparas i en vektordatabas så att de kan sökas på innebörd, inte bara exakta ord. Sedan frågeflödet: användarens fråga vektoriseras, de mest relevanta avsnitten hämtas och skickas till språkmodellen tillsammans med instruktionen att endast svara utifrån dem.
Det låter enkelt, och prototypen är enkel. Det som kräver hantverk är allt däremellan: hur dokumenten delas upp, hur behörigheter filtreras, hur träffarna rangordnas och vad som händer när ingen bra träff finns.
- 1Dokument samlas in från källsystem, filarkiv och sajt.
- 2Innehållet delas upp i avsnitt med bibehållen kontext.
- 3Avsnitten vektoriseras och lagras i en vektordatabas.
- 4Frågan vektoriseras och matchas mot avsnitten.
- 5Träffarna filtreras på behörighet och rangordnas.
- 6Modellen formulerar svar med källhänvisning.
Varför uppdelningen av dokumenten avgör allt
Delas ett avtal upp mitt i en paragraf tappar avsnittet sin innebörd, och sökningen hittar aldrig rätt. Delas det upp för grovt skickas femton sidor irrelevant text till modellen, vilket både kostar mer och försämrar svaret.
Rätt uppdelning ser olika ut för olika dokumenttyper. En produktmanual delas bäst per funktion, ett avtal per paragraf, en FAQ per fråga. Därför börjar våra projekt med att gå igenom era faktiska dokumenttyper.
| Dokumenttyp | Bra uppdelning | Vanligt fel |
|---|---|---|
| Avtal | Per paragraf med rubrikkontext | Fast antal tecken |
| Produktmanual | Per funktion eller moment | Per sida |
| FAQ | En fråga och ett svar per avsnitt | Hela sidan som ett avsnitt |
| Rutiner och policy | Per steg med dokumenttitel | Utan rubrikkontext |
| Tabelldata | Rad med kolumnrubriker bevarade | Rå text utan struktur |
RAG jämfört med finjustering
Den vanligaste feldiskussionen i AI-projekt är om modellen ska ”tränas på vår data”. För fakta är svaret nästan alltid nej — RAG är billigare, snabbare att uppdatera och går att spåra.
| Aspekt | RAG | Finjustering |
|---|---|---|
| Uppdatera fakta | Byt dokument — klart direkt | Ny träningsomgång krävs |
| Spårbarhet | Källhänvisning i svaret | Ingen |
| Kostnad att komma igång | Lägre | Högre |
| Bra för | Fakta, dokument, regelverk | Ton, format, fasta strukturer |
| Risk för faktafel | Låg när träff finns | Kvarstår |
Behörigheter är det som stoppar utrullningar
En RAG-lösning som inte filtrerar på behörighet blir en läcka. Om löneunderlag och styrelseprotokoll ligger i samma index som personalhandboken kommer någon förr eller senare att få ett svar de inte skulle sett.
Lösningen är att behörighet följer med i indexet som metadata och filtreras vid varje sökning — inte i efterhand i svaret.
- Behörighet lagras per avsnitt, inte per dokumentsamling.
- Filtrering sker före sökningen, inte efter.
- Loggning av vilka källor som använts i varje svar.
- Känsliga källor hålls utanför indexet när tveksamhet finns.
Vad RAG kostar
Byggkostnaden styrs av antalet källsystem och hur stökig informationen är, inte av datamängden i sig. Driftkostnaden består av modellanrop, vektordatabas och förvaltning.
| Post | Storleksordning | Kommentar |
|---|---|---|
| Förstudie och dokumentgenomgång | 25 000–50 000 kr | Avgör resten av projektet |
| Uppbyggnad och integration | 80 000–300 000 kr | Antal källsystem styr |
| Vektordatabas | 500–5 000 kr/mån | Beror på volym |
| Modellanrop | Några hundralappar–några tusen kr/mån | Sökning håller nere kostnaden |
| Förvaltning | 5 000–20 000 kr/mån | Utvärdering och uppdatering |
Så mäter ni om lösningen är bra
Utan mätning blir RAG en känslofråga. Bygg en uppsättning testfrågor med förväntade svar och kör dem vid varje förändring av prompt, modell, uppdelning eller källor.
- Träffsäkerhet: hämtades rätt avsnitt?
- Grundning: bygger svaret på de hämtade avsnitten?
- Täckning: hur ofta finns inget relevant underlag?
- Avstående: svarar lösningen ”vet inte” när den borde?
Vanliga misstag
De flesta RAG-projekt som fastnar har gjort samma saker.
- Indexerat allt istället för det som faktiskt behövs.
- Delat upp dokument på fast teckenlängd.
- Struntat i behörighetsfiltrering till efter pilottesten.
- Ingen källhänvisning, vilket gör att användarna inte litar på svaren.
- Ingen rutin för att uppdatera indexet när dokument ändras.
Erfarenheten bakom guiden
Vi har byggt RAG-lösningar för juridik, industri, IT-bolag och offentlig verksamhet, och förvaltar dem löpande. Utvecklarna bakom AI-byrån har arbetat med systemutveckling och integrationer sedan 2015 genom Empireweb.
Mönstret är tydligt: projekt som lägger tid på dokumentgenomgång och behörigheter tidigt går i drift. De som hoppar över det bygger om.