Open-weight model

Wat is een open-weight model?

Een open-weight model is een AI-model waarvan de maker de gewichten vrij ter beschikking stelt. Die gewichten zijn de getrainde parameters: de miljarden getallen die het model tijdens de training heeft geleerd en waarin al zijn kennis zit. Wie de gewichten kan downloaden, kan het model zelf draaien, aanpassen en bijtrainen, zonder dat er nog iets van de maker nodig is.

Dat staat tegenover large language models zoals GPT-5 of Claude, die je alleen via een API gebruikt. Daar blijft het model op de servers van de leverancier staan en stuur je je vragen over het internet heen en weer.

Bekende open-weight families zijn Llama van Meta, Gemma van Google en de meeste modellen van Mistral AI. Zelfs OpenAI, lang het schoolvoorbeeld van gesloten modellen, bracht met gpt-oss open-weight modellen uit.

Open weights is niet hetzelfde als open source

Bij een open-weight model krijg je het afgewerkte, getrainde model. Wat je zelden krijgt: de trainingsdata en de volledige trainingscode. Je krijgt dus de taart, niet het recept. Je kan de taart versnijden en er een laagje bovenop leggen, maar je kan ze niet van nul opnieuw bakken.

De Open Source Initiative, de organisatie die al decennia bepaalt wat open source betekent, publiceerde daarom een aparte Open Source AI Definition. Die vereist naast de parameters ook de trainingscode en voldoende gedetailleerde informatie over de trainingsdata. De meeste open-weight modellen halen die lat niet.

Voor de praktijk maakt dat onderscheid op twee punten uit. Je kan een open-weight model wel draaien en bijtrainen, maar niet nabouwen of grondig doorlichten: wat er in de trainingsdata zat, blijft onzichtbaar. En als een leverancier zijn model "open source" noemt, zegt dat op zich weinig. Wat je precies mag, staat in de licentie.

De licentie verschilt per model

Open-weight betekent alleen dat je de gewichten kan downloaden. Wat je ermee mag doen, bepaalt de licentie, en die verschilt sterk per maker.

Mistral AI brengt de meeste van zijn open modellen uit onder Apache 2.0, een klassieke open licentie: commercieel gebruik, aanpassen en herverdelen mag allemaal, zonder drempels. Enkele modellen vallen onder eigen voorwaarden met een omzetdrempel, waarboven een bedrijf een commerciële licentie moet afsluiten.

Google verspreidt Gemma onder eigen gebruiksvoorwaarden. Bijtrainen en herverdelen mag, ook commercieel, maar je moet een lijst met verboden toepassingen naleven en die beperkingen mee doorgeven als je een afgeleid model deelt.

Meta hanteert voor Llama een eigen "community license". Commercieel gebruik is gratis, tenzij je diensten meer dan 700 miljoen maandelijkse gebruikers tellen: dan moet je bij Meta een aparte licentie aanvragen. Wie iets bouwt op Llama moet ook "Built with Llama" vermelden, en afgeleide modellen moeten "Llama" in hun naam dragen.

Voor een Vlaamse KMO zijn die drempels zelden een blokkade. Maar lees de voorwaarden van het model dat je kiest altijd zelf na, want ze veranderen per versie.

Open-weight model versus API-model

Vier punten bepalen de keuze tussen zelf hosten en een API.

Privacy
Een open-weight model draait volledig binnen je eigen omgeving. Er vertrekt geen prompt naar een externe verwerker, wat het gesprek met je DPO of je sectorregelgever een stuk eenvoudiger maakt. Bij een API-model moet je nagaan waar je data naartoe gaat, hoe lang ze bewaard wordt en onder welk contract.

Kost
Een API-model betaal je per token, en bij grote volumes loopt die teller hard op. Een open-weight model draait tegen een vaste kost: je betaalt de hardware, niet elke aanvraag apart. Bij lage volumes ligt het omgekeerd, want een GPU die staat te wachten kost ook geld.

Onderhoud
Bij een API doet de leverancier alles: servers, schaling, updates, beveiliging. Wie zelf host, beheert zelf de infrastructuur, volgt updates op en monitort de prestaties. Die werklast wordt vaak onderschat, zeker in een klein team.

Kwaliteit
De sterkste modellen van dit moment zitten achter een API. Voor brede, complexe taken winnen zij meestal. Voor een afgebakende taak, zeker na fine-tuning op eigen voorbeelden, komt een open-weight model vaak even ver of verder. Vergelijk dus per taak, op je eigen data, en niet op basis van algemene ranglijsten.

Waar vind je open-weight modellen en hoe draai je ze?

De centrale vindplaats is Hugging Face, een platform waar makers hun modellen publiceren en waar jij ze downloadt. Bij de modellen hoort een modelkaart met de licentie, de omvang en de technische details.

Voor het draaien zelf, de inferentie, heb je grofweg drie opties. Een eigen server met een of meer GPU's voor wie permanent volume draait. Gehuurde cloud-GPU's, per uur betaald, voor wie eerst wil testen of maar af en toe rekent. Of gewoon je eigen laptop, voor de kleinere modellen.

Voor dat laatste bestaan toegankelijke tools. Ollama is een open-source programma dat een model met één commando binnenhaalt en draait, op Windows, macOS en Linux. Foundry Local van Microsoft doet iets gelijkaardigs: het draait modellen zoals Phi, Mistral en Qwen volledig op je eigen toestel, zonder Azure-abonnement, en versnelt automatisch op de GPU of NPU die het vindt.

Wanneer kiest een KMO voor een open-weight model?

1. Gevoelige data verwerken
   Klantendossiers, personeelsgegevens, medische of financiële documenten: alles blijft binnen je eigen muren, zonder discussie over externe verwerkers.

2. Hoge volumes tegen een vaste kost
   Wie dagelijks duizenden documenten classificeert of e-mails routeert, weet vooraf wat het kost. Er loopt geen teller per aanroep.

3. Bijtrainen op je eigen vakgebied
   Fine-tuning op je eigen documenten en terminologie mag bij de meeste open-weight modellen, en het resultaat blijft van jou. Je bent niet afhankelijk van wat een leverancier toelaat.

4. Onafhankelijk blijven van één leverancier
   Een gedownload model verdwijnt niet en wordt niet duurder. Stopt de maker ermee of verandert die zijn prijzen, dan blijft jouw versie gewoon werken.

Waar moet je op letten bij het gebruik van open-weight modellen

De licentie is het eerste werkpunt. Lees ze echt, per model en per versie, en kijk naar de punten die voor jou tellen: commercieel gebruik, herverdeling, naamgeving van afgeleide modellen. Twijfel je, laat dan iemand met juridische kennis meekijken voor je erop bouwt.

Reken daarnaast de volledige operationele kost door: GPU-uren, stroom, beheertijd en monitoring. Voor een klein volume is een API vaak goedkoper dan een eigen server die grotendeels stilstaat.

En weet wie verantwoordelijk is als het misloopt: jij. Er is geen supportcontract, geen leverancier die patches uitrolt of rare output komt onderzoeken. Nieuwe modelversies moet je zelf evalueren voor je overschakelt. Een vaste testset met eigen voorbeelden en verwachte resultaten is daarbij de basis.

FAQ over open-weight modellen

Is een open-weight model gratis?
De download meestal wel. Het draaien niet: je betaalt hardware of cloud-GPU's, plus de werktijd om alles te beheren. En sommige licenties leggen drempels op voor grote bedrijven, zoals de gebruikersgrens bij Llama.

Is een open-weight model hetzelfde als een Small Language Model?
Nee. Veel open-weight modellen zijn klein, omdat klein nu eenmaal handig is om zelf te draaien. Maar er bestaan ook grote open-weight modellen, zoals Mistral Large 3, en omgekeerd is niet elk klein model vrij te downloaden.

Mag ik een open-weight model fine-tunen op mijn bedrijfsdata?
Bij de meeste modellen wel, ook voor commercieel gebruik. Check wel de voorwaarden per model: bij Llama moet een afgeleid model bijvoorbeeld "Llama" in de naam dragen.

Kan ik starten zonder eigen GPU?
Ja. De kleinere modellen draaien op een gewone laptop via Ollama of Foundry Local. Voor grotere modellen huur je cloud-GPU's per uur, zodat je kan testen zonder investering in hardware.