RAG vs fine-tuning: twee manieren waarop een AI je bedrijf leert kennen
RAG vs fine-tuning, in het kort: het zijn allebei manieren om een AI nuttig te maken voor je eigen bedrijf. Bij RAG zoekt de AI de informatie van je bedrijf op op het moment dat je vraagt en antwoordt hij uit wat hij vindt. Bij fine-tuning wordt de AI verder getraind op je eigen voorbeelden, zodat zijn gedrag blijvend verandert. RAG geeft hem kennis. Fine-tuning geeft hem gewoontes.
RAG: een examen met open boek
RAG staat voor retrieval-augmented generation. In gewone woorden: eerst opzoeken, dan antwoorden. Als je een vraag stelt, loopt er een zoekactie over je documenten en gegevens. De passages die het best passen, worden voor de AI gelegd en hij schrijft zijn antwoord daaruit. De AI zelf blijft precies zoals hij was.
Vraag je “Welke opzegtermijn hebben we met onze verhuurder afgesproken?”, dan vindt de zoekactie het artikel in het huurcontract. De AI antwoordt uit dat artikel en kan laten zien waar het vandaan komt.
Fine-tuning: extra training
Bij fine-tuning neem je een bestaande AI en train je hem verder op voorbeelden die jij klaarzet. Daar zijn meestal honderden of duizenden voorbeelden voor nodig, elk met een verzoek en het ideale antwoord. Het resultaat is een nieuwe versie van de AI die die patronen volgt zonder dat je het elke keer hoeft te zeggen.
Een bedrijf kan een AI fine-tunen op tweeduizend eerdere supportantwoorden, zodat elk concept in de huisstijl uitkomt.
Het verschil in één tabel
| RAG | Fine-tuning | |
|---|---|---|
| Wat verandert | Wat de AI te zien krijgt | De AI zelf |
| Goed voor | Feiten, documenten, actuele gegevens | Toon, opmaak, één smalle taak |
| Als informatie verandert | Het volgende antwoord gebruikt de nieuwe versie | De training moet worden herhaald |
| Laat zien waar een antwoord vandaan komt | Ja | Nee |
| Werk om te beginnen | Je inhoud moet doorzoekbaar zijn | Er moeten veel goede voorbeelden worden verzameld en gecontroleerd |
Een veelvoorkomend misverstand
Veel eigenaren denken dat fine-tuning is hoe je “de AI ons bedrijf leert”: stop het handboek, de prijslijst en de klantdossiers erin en hij kent ze. Fine-tuning werkt niet zo. Een AI slaat tekst niet op zoals een archiefkast. Hij pikt patronen op. Hij kan dan een prijs of een naam verkeerd noemen en toch overtuigd klinken. Feiten horen thuis op een plek waar ze kunnen worden opgezocht, bijgewerkt en gecontroleerd.
Welke heb je nodig? Vier vragen
- Heeft de AI feiten nodig over je klanten, producten of regels? RAG.
- Verandert die informatie in de loop van het jaar? RAG.
- Mogen verschillende mensen verschillende informatie zien? RAG. Een zoekactie kan elke persoon alleen laten zien wat hij mag zien. Een getrainde AI kan dat onderscheid niet maken.
- Klopt de inhoud en zijn alleen de toon of opmaak fout? Schrijf eerst duidelijkere instructies en voeg er een paar voorbeelden aan toe. Overweeg fine-tuning pas als dat niet genoeg is.
Voor de meeste kleine bedrijven beslissen de eerste drie vragen het. Fine-tuning vraagt een grote set goede voorbeelden en iemand die het beheert. Het loont vooral voor één smalle taak die heel vaak wordt gedaan.
Je kunt de twee ook samen gebruiken. De een bepaalt hoe het antwoord klinkt, de ander wat erin staat.
Waar RAG van afhangt
RAG is maar zo goed als wat hij kan vinden. Je inhoud moet op een plek staan waar de zoekactie bij kan. Hij moet actueel zijn. En er mogen geen drie oudere versies van hetzelfde bestand zijn die elkaar tegenspreken.
Zo pakt Worknano dit aan
Worknano kiest de route van opzoeken. Het semantisch zoeken, een zoekmethode die tekst op betekenis vindt, omvat documenten, taken, deals, contacten en OKR’s, inclusief tekst in geüploade PDF-, Word-, Excel- en PowerPoint-bestanden. De AI Assistant en de agents antwoorden uit de passages die het vindt. Nieuwe en gewijzigde inhoud wordt automatisch doorzoekbaar, dus er valt niets opnieuw te trainen. Mensen vinden alleen wat ze mogen lezen. Hoe de assistent moet klinken is ook een instelling: de huisstijl-toon staat onder Organization, Settings.
Maak een gratis workspace, upload een paar documenten en vraag de assistent wat erin staat.