Context engineering

Wat is context engineering?

Context engineering is het ontwerpen van alles wat een AI-model meekrijgt om een taak goed uit te voeren. Dat is meer dan de promptzin: ook system prompt, voorbeelden, bronnen, gesprekshistoriek, toolresultaten, gebruikersrol en outputregels horen erbij.

Bij simpele chatvragen merk je context nauwelijks. Bij productietoepassingen is context vaak de kern van het systeem. Het model moet precies genoeg weten om te antwoorden, maar niet zoveel dat de belangrijke stukken verdwijnen tussen irrelevante tekst.

Context engineering is dus informatiearchitectuur voor AI.

Wat zit er in AI-context?

• Vaste instructies
  De rol, regels, toon en grenzen van de toepassing.

• Gebruikersvraag
  Wat de gebruiker of het voorliggende systeem vraagt.

• Bronnen
  Documenten, passages, SQL-resultaten of API-antwoorden die het model moet gebruiken.

• Historiek
  Relevante eerdere berichten, keuzes en voorkeuren.

• Outputcontract
  Het format waarin het antwoord moet terugkomen, bijvoorbeeld JSON.

Waarom is context engineering nodig?

LLM's hebben een context window, maar dat is geen vuilnisbak. Je kan veel tekst meesturen, maar het model moet nog altijd weten wat belangrijk is en welke instructies voorrang krijgen.

In een interne kennisassistent wil je niet alle SharePoint-documenten meesturen. Je wil de drie meest relevante passages, de juiste taal, de rechten van de gebruiker en de instructie dat onbekende antwoorden niet ingevuld mogen worden.

Goede context maakt AI-systemen voorspelbaarder. Slechte context maakt ze duur, traag en wisselvallig.

Context engineering versus prompt engineering

Prompt engineering focust vaak op de formulering van de instructie. Context engineering kijkt naar de volledige informatiebundel rond die instructie.

Een betere prompt kan helpen, maar als de verkeerde documenten worden opgehaald of de gebruikersrechten ontbreken, blijft het antwoord fout. In productiesystemen verschuift het werk daarom van "de perfecte prompt" naar "de juiste context op het juiste moment".

Waar moet je op letten bij context engineering?

Houd context relevant
Meer context is niet automatisch beter. Overbodige stukken verhogen kost en verwarring.

Respecteer rechten
Een model mag geen documenten zien die de gebruiker zelf niet mag zien.

Test randgevallen
Wat gebeurt er als er geen bron is, bronnen elkaar tegenspreken of de vraag buiten scope valt?

FAQ over context engineering

1. Is dit een nieuwe naam voor RAG?
Nee. RAG is één techniek binnen context engineering. Context engineering omvat ook instructies, historiek, tools en outputregels.

2. Kan je context automatisch samenstellen?
Ja, maar je moet de selectie testen. Automatisch ophalen is pas nuttig als de juiste informatie bovenkomt.