Managed agent runtime

Wat is een managed agent runtime?

Een managed agent runtime is een dienst die je AI-agent voor jou draait. Jij beschrijft de agent: welk model, welke instructies, welke tools. De leverancier doet al de rest: het model aanroepen, tools uitvoeren in een afgeschermde sandbox, de sessiestatus bijhouden, geheugen bewaren tussen twee runs, pauzeren tot jij een risicovolle actie goedkeurt, terugkerende runs op een vast tijdstip starten en elke stap loggen.

Zet dat naast zelf bouwen op een model-API. Daar roept je eigen code het model aan, leest ze de tool-aanvraag die terugkomt, voert ze de tool uit, geeft ze het resultaat terug aan het model en herhaalt ze dat tot het werk klaar is. Die loop schrijven kost een dag. Hem urenlang laten draaien, hervatten na een crash, de code die hij uitvoert afschermen, wachtwoorden buiten het bereik van het model houden en achteraf kunnen zien wat hij gedaan heeft: daar gaan de maanden in. Dat stuk verkoopt de managed runtime.

Er bestaan twee smaken. Sommige runtimes leveren de loop zelf mee, samen met de hosting. Claude Managed Agents van Anthropic, sinds april 2026 in publieke beta, noemt zichzelf een vooraf gebouwde, instelbare agent harness die op beheerde infrastructuur draait. Andere runtimes hosten een loop die jij geschreven hebt. De hosted agents in Foundry Agent Service van Microsoft nemen je agent als container image, gebouwd met eender welk framework, en draaien hem in een sandbox per sessie, waarbij het platform identiteit, schaling en status regelt. Google zit met zijn Gemini Enterprise Agent Platform, vroeger Vertex AI Agent Engine, in dat tweede kamp: de Agent Runtime host agents gebouwd met ADK, LangGraph en gelijkaardige frameworks, met sessies en een memory bank ernaast. De details verschillen, de taakverdeling niet.

Wat de runtime voor jou uit handen neemt

• De sandbox. Tool-calls, shell-commando's en gegenereerde code draaien in een afgeschermde container, niet op jouw servers. De cloud sandboxes van Anthropic zijn Linux-containers met een voorraad talen en hulpprogramma's al geïnstalleerd, en met uitgaand netwerkverkeer dat je kan beperken tot een lijst van toegelaten hosts. Foundry geeft elke sessie een eigen sandbox met VM-isolatie en een blijvende home-map.

• De sessiestatus. Een sessie kan uren draaien, stilvallen terwijl ze op jouw antwoord wacht, en verdergaan met bestanden en gespreksgeschiedenis intact. Foundry geeft de rekenkracht vrij na een inactiviteitstimer van 5 tot 60 minuten en zet de bestanden van de sessie terug zodra de volgende aanvraag binnenkomt.

• Geheugen over runs heen. Anthropic koppelt een memory store als map in de sandbox, zodat de agent ze leest en schrijft met gewone bestandstools, en elke wijziging krijgt een versie voor audit en herstel.

• Goedkeuringen. Een beleid per tool bepaalt of een call automatisch loopt of de sessie pauzeert tot jij toelaat of weigert. Bij Claude Managed Agents vragen tools van een MCP-server standaard om toestemming; de ingebouwde bestands- en shell-tools mogen standaard gewoon door.

• Inloggegevens. De vaults van Anthropic houden API-sleutels buiten de sandbox: de agent ziet een vervangwaarde en het echte geheim wordt pas aan de rand van het netwerk ingevuld, enkel voor de hosts die jij opgegeven hebt. Foundry geeft elke agent een eigen Entra ID-identiteit om aan onderliggende Azure-diensten te kunnen.

• Planning. Een scheduled deployment start een verse sessie op een cron-expressie, met een uitgavenplafond dat op elke run gekopieerd wordt, zonder dat je zelf een scheduler moet hosten.

• Traceerbaarheid. Elke modelbeurt, elke tool-call en elk resultaat wordt als event opgeslagen dat je live kan volgen of later kan ophalen.

Wat jouw werk blijft

De runtime kent je zaak niet. Vier dingen blijven van jou, welke leverancier je ook kiest.

Instructies. De system prompt, de skills en de voorbeelden die de agent tonen wat goed werk is. Een gehoste loop met vage instructies levert sneller vaag werk.

Tools en toegang tot data. Jij beslist welke systemen de agent mag aanspreken en langs waar: een MCP-server, een custom tool die je eigen code uitvoert, een databank-account dat enkel mag lezen. De runtime voert uit wat jij gedeclareerd hebt; hij beslist niet wat er gedeclareerd hoort te worden. Least privilege blijft jouw regel om toe te passen.

Goedkeuringen. Het toestemmingsbeleid is een schakelaar. Welke acties een menselijke controle verdienen, wie de bevestiging beantwoordt en hoe snel: dat is een procesbeslissing aan jouw kant.

Evals. Of de agent echt een correct rapport of een correcte boeking aflevert, moet je zelf testen met je eigen gevallen, voor de lancering en na elke wijziging aan prompt of model. Geen enkele runtime meet dat voor jou.

Waar draaien je data en je tools?

Dit is de vraag die een KMO met klantendata eerst moet stellen, en het antwoord is niet één plek.

De cloud sandbox van de leverancier. De standaard. Bestanden, code en uitgaand verkeer zitten op de infrastructuur van de leverancier zolang de sessie leeft. Anthropic zegt het zelf: omdat sessies gespreksgeschiedenis, sandboxstatus en output aan de serverkant bewaren, komt Managed Agents op zijn cloud sandboxes vandaag niet in aanmerking voor zero data retention.

Een self-hosted sandbox. Bij Anthropic kan je een worker-proces draaien op je eigen Linux-machine. Het redeneren van het model blijft bij Anthropic; het uitvoeren van tools, het bestandssysteem en het netwerkbereik verhuizen naar jouw machine. De input en output van elke tool reizen nog altijd naar de leverancier, want het model moet ze kunnen lezen. Hou daar rekening mee bij wat je de agent uit die bestanden laat lezen.

Tunnels naar interne systemen. Om een interne MCP-server te bereiken zonder inkomende poorten te openen, biedt Anthropic MCP tunnels aan over een verbinding die enkel naar buiten opgezet wordt, in een research preview zonder garantie op beschikbaarheid. De hosted agents van Foundry kunnen hun uitgaand verkeer door je eigen virtuele netwerk in Azure sturen om aan private databanken en API's te geraken.

Hoe ziet de factuur eruit?

Drie vormen komen terug, vaak gecombineerd.

Per sessie-uur plus tokens. Claude Managed Agents rekent 0,08 dollar per sessie-uur aan, enkel geteld terwijl de sessie de status running heeft, bovenop de gewone tokenprijzen van het model. Tijd waarin de sessie op jouw bericht wacht, is gratis.

Per eenheid rekenkracht. Foundry factureert hosted agents op de CPU en het geheugen die alle actieve sessies samen verbruiken. Je kiest per versie van je agent een sandboxgrootte, van 0,5 vCPU met 1 GiB tot 2 vCPU met 4 GiB, en Microsoft waarschuwt in zijn eigen documentatie dat te ruim kiezen je kost vermenigvuldigt met het aantal gelijktijdige sessies, omdat elke sessie een eigen sandbox krijgt.

Per credit. Koop je via een cloud-marktplaats, dan komt hetzelfde verbruik als verbruikseenheden op je cloudfactuur. Anthropic rekent bijvoorbeeld sessie- en tokenkosten om naar Claude Consumption Units tegen een vaste prijs per eenheid wanneer je via AWS Marketplace koopt.

Een rekenvoorbeeld. Een wekelijkse rapportage-agent op Claude Sonnet 5 draait 25 minuten, leest 150.000 input-tokens en schrijft 20.000 output-tokens. De tokens kosten 150.000 keer 2 dollar per miljoen plus 20.000 keer 10 dollar per miljoen, dus 0,30 plus 0,20 dollar. De runtime kost 25/60 van een uur keer 0,08 dollar, ongeveer 0,03 dollar. Samen rond de 0,53 dollar per run, minder dan 30 dollar per jaar. Zet toch een sessiebudget van een paar dollar: het platform pauzeert de sessie zodra het plafond bereikt is, zodat een run die begint rond te draaien je niet kan verrassen.

Managed runtime of je eigen loop?

De eerlijke vergelijking loopt over één as: operationele last tegenover controle.

Een managed runtime draagt de operaties. Sandboxing, hervatten na een fout, beheer van inloggegevens, tracing en planning zijn er vanaf dag één, onderhouden door een leverancier die meer agentverkeer ziet dan jij ooit zal hebben. In ruil aanvaard je hun loopgedrag, hun sandbox-image, hun toestemmingsmodel, hun regio's en hun betastatus.

Je eigen loop, gebouwd op een AI harness of framework, geeft je elk van die beslissingen terug. Je logt naar je eigen systemen, je draait tools op je eigen netwerk zonder tunnel, je wisselt van model over leveranciers heen en je vormt goedkeuringen precies zoals jouw proces het vraagt. Je hebt ook de wachtdienst wanneer een sessie om drie uur 's nachts blijft hangen.

Een low-code agent builder is de derde optie en zit aan het uiteinde van dezelfde as: minste last, minste controle. De prompt-based agents van Foundry, die je volledig in een portaal definieert met prompts en toolconfiguratie, passen goed bij een supportassistent op een kennisbank en slecht bij een agent die code moet draaien of een uur lang onbewaakt moet werken.

De praktische regel: bouw je prototype op de runtime, want dat is de snelste manier om te weten of de agent überhaupt de moeite is. Haal de loop pas in huis wanneer een concrete eis het afdwingt, zoals data die je netwerk niet mag verlaten, een auditlog in het formaat dat je sector voorschrijft, of een kostprofiel bij volume waar de prijs per sessie niet meer bij past.

Wat je vraagt voor je tekent

Kan ik mijn agent meenemen? De definitie van de agent is een prompt, een lijst tools en wat skills, en die kan je als YAML-bestand onder versiebeheer bewaren. Tools die je via MCP aanbiedt en custom tools die je eigen code uitvoert, verhuizen mee. De sessiegeschiedenis, de inhoud van het geheugen en het loopgedrag van de leverancier verhuizen niet mee. Exporteer je memories dus op vaste tijdstippen via de API als er iets in zit dat je zou missen.

Waar staat mijn data en hoelang? Vraag naar bewaartermijnen per functie, niet per leverancier. De cloud sandbox en de self-hosted sandbox geven op hetzelfde platform een ander antwoord.

Wat stopt een sessie die op hol slaat? Een hard uitgavenplafond per sessie of per geplande run hoort een vinkje te zijn, geen functieaanvraag.

Wat zit nog in preview? Tunnels, geheugen en self-hosting kwamen elk op een ander niveau van rijpheid aan. Afhangen van een functie in research preview is afhangen van de roadmap van de leverancier.