RAG
Het model eerst laten opzoeken in jouw documenten en pas daarna laten antwoorden.
Voluit: retrieval-augmented generation. In gewone taal: we knippen jouw handleidingen en pagina's in stukjes, zoeken bij elke vraag de paar stukjes die erover gaan, en sturen alleen die mee. Het model antwoordt dan uit jouw tekst in plaats van uit zijn algemene kennis, en kan de bron erbij zetten.
Niet te verwarren met Finetunen. Bij RAG blijft je kennis in een eigen bestand dat je zo bijwerkt. Bij finetunen zit het in het model en moet je opnieuw trainen.
Finetunen
Een model bijtrainen op eigen voorbeelden, zodat het jouw stijl of vakgebied beter aanvoelt.
Nuttig als je duizenden voorbeelden hebt van hoe iets bij jou moet klinken. Duur en traag als je eigenlijk alleen wilt dat het model jouw prijslijst kent, want daar is opzoeken (RAG) beter en goedkoper voor. In het MKB is het antwoord bijna altijd RAG.
Token
Het stukje tekst waarin verbruik wordt afgerekend, ongeveer driekwart woord.
Je betaalt per token, apart voor wat erin gaat en wat eruit komt. Een mail van een half A4 is ruwweg 400 tokens. Dat klinkt abstract, maar het is de reden dat een agent die per bericht een heel handboek meestuurt tien keer zo duur is als eentje die alleen het relevante stukje meestuurt.
Prompt
De instructie die het model bij elke aanroep meekrijgt.
Niet het vraagje dat een gebruiker typt, maar de vaste opdracht eromheen: wie ben je, wat mag je, in welke vorm antwoord je, wat doe je bij twijfel. Bij een goed gebouwde agent is die instructie het resultaat van tientallen rondjes bijschaven, en staat hij in versiebeheer net als de rest van de code.
API
De stekkerdoos van een systeem: de manier waarop andere software er gegevens uit haalt.
Heeft jouw pakket een API, dan kunnen we eraan koppelen zonder de leverancier nodig te hebben. Heeft het er geen, dan wordt het lastiger en duurder: dan moet het via exports, een database of in het uiterste geval een robot die de schermen bedient.
Copilot
AI die meekijkt terwijl jij werkt, in plaats van werk overneemt.
Microsoft Copilot vat je vergadering samen, schrijft een concept in Word en zoekt in je documenten. Nuttig, maar er zit altijd een mens die klikt. Dat is het verschil met een agent: die doet zijn werk ook als er niemand achter het scherm zit.