LLM Self-Hosting en AI Soevereiniteit

Beheer gegevens en modellen met zelfgehoste LLMs

Inhoud

Self-hosting van LLMs houdt gegevens, modellen en inferentie onder jouw controle - een praktische weg naar AI-sovereiniteit voor teams, bedrijven en naties.

Voor een praktische vergelijking van self-hosted en cloud LLM-infrastructuur - Ollama, vLLM, Docker Model Runner, LocalAI en cloudproviders - zie LLM-hosting: lokale, self-hosted en cloud-infrastructuur vergeleken. Hier: wat AI-sovereiniteit is, welke aspecten en methoden worden gebruikt om het te bouwen, hoe LLM self-hosting erin past, en hoe landen het probleem aangepakt hebben.

onprem-servers-self-hosted-llms

Wat is AI-sovereiniteit?

AI-sovereiniteit (of “sovereine AI”) is het idee dat een land, organisatie of individu AI-systemen kan ontwikkelen, uitvoeren en beheren op hun eigen voorwaarden - in lijn met hun eigen wetten, waarden en beveiligingsbehoeften - in plaats van volledig afhankelijk te zijn van vreemde of ondoorzichtige leveranciers.

Het gaat om controle over AI-infrastructuur, gegevens en modellen: het uitbreiden van gegevenssovereiniteit (waar gegevens opgeslagen en verwerkt worden) naar de hele AI-stapel - opleidingsgegevens, modellen, rekenkracht en governance. Typische doelen zijn: gevoelige gegevens en AI-activiteiten binnen een gekozen juridische jurisdictie behouden (bijvoorbeeld EU of Australië); naleving van lokale regels over privacy, beveiliging en AI-gevaar (GDPR, EU AI Act, nationale veiligheid); en het vermijden van overmatige afhankelijkheid van een klein aantal vreemde cloud- of AI-leveranciers.

Overheden zijn geïnteresseerd in nationale veiligheid, kritieke infrastructuur en openbare diensten; gereguleerde sectoren (gezondheidszorg, financiële sector, defensie) hebben naleving van strikte regels over gegevens en AI nodig; en grote ondernemingen willen strategische onafhankelijkheid en willen AI uitlijnen met hun eigen roadmap, niet die van een leverancier. In de praktijk verschijnt soevereine AI als nationale of regionale AI-clouds en datacenters, nationale of gezamenlijk ontwikkelde AI-modellen in plaats van vreemde “black-box”-systemen, en strikte regels voor gegevensresidantie, toegangsbewaking en audit van AI-systemen.

Aspecten en methoden: hoe soevereine AI wordt opgebouwd

Staten en organisaties bouwen soevereine AI meestal volgens verschillende aspecten (strategische pijlers) en gebruiken concrete methoden (technische en governance-maatregelen).

Zes strategische pijlers (aspecten)

De Wereld economische forum en vergelijkbare kaders beschrijven zes strategische pijlers die aangeven hoe landen soevereine AI bouwen:

  1. Digitale infrastructuur - Datacenters met voldoende rekenkracht, gegevenslocalisatiebeleid zodat gegevens gegenereerd binnen grenzen lokaal worden opgeslagen en verwerkt, en netwerken die AI-workloads ondersteunen. Dit is de basis voor het ontwikkelen en implementeren van AI onder nationale of regionale controle.

  2. Beroepsopleiding - STEM- en AI-educatie, bijgewerkte curriculum, beroepsopleiding en levenslang leren zodat een land de talenten heeft om soevereine AI-systemen te ontwikkelen en te beheren.

  3. Onderzoek, ontwikkeling en innovatie (RDI) - Openbare en private financiering voor fundamenteel en toegepast AI-onderzoek, stimulansen voor commercialisatie, en ecosystemen die startups, grote bedrijven en academie verbinden.

  4. Regelgevende en ethische kader - Duidelijke regels voor AI-ontwikkeling en implementatie: privacy, transparantie, gegevensbescherming, cyberbeveiliging en ethische gebruik, plus toezicht en aansprakelijkheidsmechanismen.

  5. Stimuleren van de AI-industrie - Belastingvoordelen, subsidies, vereenvoudigde patenten en publieksectoradoptie van AI om vraag te creëren en standaarden te stellen. Publiek-privé samenwerkingen (PPPs) helpen bij het implementeren van AI in hoogwaardige sectoren (energie, gezondheid, financiële sector, vervoer, productie).

  6. Internationaal samenwerking - Betrokkenheid met andere landen op standaarden, grensoverschrijdende gegevensstromen onder overeengekomen normen, en gedeelde uitdagingen (bijvoorbeeld privacy, cyberbeveiliging), zonder het vermogen om lokale regels te stellen op te geven.

Soevereine AI is niet over isolatie, maar over strategische veerkracht: het vermogen om en te innoveren op eigen voorwaarden, terwijl je nog steeds meedoet aan wereldwijde samenwerking.

Methoden gebruikt

Concreet gebruikte methoden om deze pijlers te implementeren omvatten:

  • Gegevensresidantie en localisatie - Vereisen dat bepaalde gegevens (vooral persoonlijke of gevoelige) binnen een jurisdictie worden opgeslagen en verwerkt. Dit ondersteunt naleving van GDPR, sectorspecifieke regels en nationale veiligheidsvereisten.

  • Sovereine of regionale AI-clouds - Bouwen of benoemen van cloud- en AI-infrastructuur (datacenters, GPU-clusters) die onder nationale of regionale juridische en operationele controle blijven, zodat workloads en gegevens binnen jurisdictie blijven.

  • Nationale of open-weight modellen - Ontwikkelen of adopteren van AI-modellen (inclusief LLMs) die kunnen worden geïnsp ecteerd, afgestemd en lokaal worden uitgevoerd in plaats van alleen afhankelijk te zijn van gesloten, vreemde APIs.

  • Risico-gebaseerde regelgeving - Kaders die AI-systemen classificeren op risico (bijvoorbeeld onaanvaardbaar, hoog, beperkt, minimaal) en vereisten (impactevaluatie, menselijke toezicht, transparantie, conformiteit) daarop afhankelijk maken. De EU AI Act is het voornaamste voorbeeld.

  • Governance-structuren - Dedicateerde organen (bijvoorbeeld AI-kantoren, adviesraad, marktonderzoeksautoriteiten) om implementatie te beheren, samenwerking te coördineren tussen overheid en industrie, en regels te toepassen.

  • Publiek-privé samenwerkingen - Gemeenschappelijke initiatieven tussen overheid en industrie om gedeelde infrastructuur te bouwen, gebruikscases te ontwikkelen (bijvoorbeeld voor publieke administratie), en belangen te alignen voor soevereine capaciteit.

  • Certificeringen en nalevingskaders - Certificeringen voor soevereine cloud of “vertrouwde AI” die garanderen dat gegevenslocatie, toegangsbewaking en naleving van lokale wetten wordt gegarandeerd, waardoor het voor publieke en gereguleerde sectoren makkelijker is om AI veilig te adopteren.

Samen vormen deze aspecten en methoden wat soevereine AI doelstellingen heeft (infrastructuur, talent, regelgeving, industrie, samenwerking) en hoe het wordt geïmplementeerd (residantie, clouds, modellen, regelgeving, governance, PPPs, certificering).

Self-hosting van LLMs als technische weg naar soevereine AI

LLMs uitvoeren op infrastructuur die je controleert is een van de meest directe technische manieren om soevereine AI in de praktijk te brengen. Je houdt prompts, modelgewichten en inferentielogboeken binnen of binnen een regio, wat ondersteunt gegevensresidantie, naleving van lokale regels en onafhankelijkheid van een handvol cloud API-leveranciers.

Vanuit technisch standpunt omvat een soevereine of self-hosted LLM-stapel meestal: een modellaag (open-weight modellen, embeddings, optionele rerankers); een servinglaag (inference-engine met APIs voor chat, compleeties, embeddings); een applikatielaag (orchestratie, tool calling, workflows); een kennislaag (bijvoorbeeld RAG met chunking, indexering, retrieval); gegevens en opslag (objectopslag, databases, vectorindices); en veiligheid en governance (PII-behandeling, beleidsuitvoering, auditlogboeken). Methoden omvatten on-prem of single-tenant implementatie, air-gapped operatie (bijvoorbeeld met tools zoals Ollama, llama.cpp of LM Studio) voor maximale isolatie, en gateway-architecturen die toegangsbewaking, routing en observabiliteit centraliseren, zodat alle prompts en antwoorden binnen gedefinieerde grenzen blijven.

Voor een praktische weg: een comprehensieve vergelijking van lokale LLM-tools-Ollama, vLLM, LocalAI, Jan, LM Studio en meer helpt je om de juiste stack te kiezen. Als je op beperkte GPU-geheugen draait, zie welke LLMs het beste presteren met Ollama op 16 GB VRAM voor benchmarks en compromissen. Om te beginnen met één van de populairste opties, bevat de Ollama cheatsheet de essentiële commando’s.

Hoe landen het probleem aanpakken

Landen verschillen in de manier waarop ze de pijlers en methoden hierboven combineren. Hieronder volgt een overzicht van hoe belangrijke jurisdicties soevereine AI aanpakken, gevolgd door een gerichte vergelijking VS-China.

Europese Unie

De EU heeft de eerste omvattende wereldwijde AI-wet aangenomen - de AI Act (Verordening (EU) 2024/1689) - met een risico-gebaseerde aanpak: toepassingen met onaanvaardbaar risico zijn verboden; hoogrisicostelsels ondergaan strikte vereisten (impactevaluatie, menselijke toezicht, conformiteit); beperkt- en minimaalrisicostelsels hebben lichtere verplichtingen. Governance is centraal in de Europese AI Office (binnen de Commissie), met de Europese Artificial Intelligence Board, een Wetenschappelijke Commissie en een Adviesforum die implementatie en toezicht ondersteunen over lidstaten. Dit creëert een enkele regelboek voor de enige markt en stimuleert “Europa-First” implementatie van conform AI.

Europese soevereine AI draagt ook op nationale model- en cloudproviders. Mistral AI (Frankrijk) volgt een open-source-vriendelijke aanpak, waarbij modellen worden vrijgegeven die overheden en bedrijven kunnen inspecteren en op Europese infrastructuur kunnen uitvoeren. Aleph Alpha (Duitsland) richt zich op uitlegbaarheid en veiligheid voor gereguleerde industrieën en soevereine Europese hosting. Beide zijn in lijn met de AI Act en helpen om afhankelijkheid van niet-EU leveranciers te verminderen - momenteel gaat slechts een klein deel van de wereldwijde AI-startup-fondsen naar de EU in vergelijking met de VS.

Frankrijk en Duitsland: gezamenlijke soevereine AI voor openbare administratie

Frankrijk en Duitsland hebben een gezamenlijke soevereine AI-initiatief gelanceerd met Mistral AI en SAP gericht op openbare administratie. Het centraal staat op vier pijlers: soevereine AI-native ERP-systemen voor Franse en Duitse administraties; AI-geïmplementeerde financiële beheer (bijvoorbeeld factuurclassificatie, auditcontroles); digitale agents voor ambtenaren en burgers (compliancetools, geschiktheidschatbots); en gezamenlijke innovatie labs plus medewerkerstraining. Een bindend Framework Agreement wordt verwacht tegen de helft van 2026, met geselecteerde gebruikscases geïmplementeerd tussen 2026 en 2030. Het initiatief wordt beheerd door een Franco-Duitse Europese Digitale Infrastructuur Consortium (EDIC)-raad met ministers van beide landen als voorzitter. Dit is een concreet voorbeeld van de “regionale cloud + nationale modellen + PPP” methode in de praktijk.

Verenigd Koninkrijk

Het VK heeft een Sovereign AI Unit opgericht in juli 2025 met een maximum van £500 miljoen in financiering om nationale AI-vaardigheden en beveiliging te bouwen. De Unit richt zich op: investeren in VK AI-bedrijven om nationale champions te ontwikkelen; het creëren van VK AI-activa (gegevens, rekenkracht, talent); en partnerschap met frontier AI-bedrijven om betrouwbare toegang en VK invloed over cutting-edge ontwikkeling te garanderen. De overheid heeft ook een AI Opportunities Action Plan (januari 2025) gepubliceerd, met nadruk op de rol van AI in economische groei en openbare diensten. De aanpak combineert infrastructuur en talent (pijlers 1 en 2) met industrie stimulering (pijler 5) en strategische samenwerkingen.

Verenigde Staten

De VS-strategie benadrukt privaatsectorleiding en federale coördinatie. In december 2025 heeft de administratie een Executive Order uitgevaardigd om een nationale beleidskader voor AI te waarborgen, gericht op het beschermen van Amerikaanse AI-innovatie en het behouden van VS wereldleiderschap via een “minimally burdensome” nationale kader. Het stelt de Justitie-Departement voor om “onerous” staat AI-wetten aan te vechten en versterkt federale voorkeur zodat staat regels de markt niet fragmenteren. Dit volgt op de juli 2025 “America’s AI Action Plan” en reageert op uitgebreide staat activiteit - meer dan 1.000 AI-gerelateerde wetten ingediend in VS staten en territoria in 2025. De VS gebruikt ook exportbeperkingen op geavanceerde chips om haar leiding in rekenkracht te beschermen en om te bepalen wie frontier AI kan bouwen. Soevereine AI in de VS wordt dus voornamelijk bereikt via privaat investering (bijvoorbeeld xAI, OpenAI), federale governance (59 federale AI-gerelateerde regelgevingen in 2024) en internationale deals (bijvoorbeeld Stargate met de Verenigde Arabische Emiraten) in plaats van een enkele staatseigendom AI-cloud.

Canada

Canada heeft een Canadese Sovereign AI Compute Strategy gelanceerd met $2 miljard over vijf jaar om nationale AI-rekenkracht te versterken. Het heeft drie componenten: mobiliseren van privaat investering (tot $700M via een AI Compute Challenge voor bedrijven en academie om geïntegreerde AI-datacenteroplossingen te bouwen); bouwen van publieke supercomputing infrastructuur; en een AI Compute Access Fund voor onderzoekers en bedrijven. Het doel is om Canadese gegevens en IP te beschermen terwijl het Canadas voordelen in energie, land en klimaat benut. Afzonderlijk heeft Canada zijn eerste AI Strategy for the Federal Public Service (2025–2027) gelanceerd in maart 2025, met prioritaire gebieden: een AI Center of Expertise, veilige en verantwoorde gebruik, training en talent, en transparantie. In september 2025 lanceerde de overheid een AI Strategy Task Force en een 30-daagse nationale betrokkenheid om een bredere nationale AI-strategie te ontwikkelen.

Australië

Australië’s Policy for the Responsible Use of AI in Government (Version 2.0) is van kracht geworden op 15 december 2025. Het geldt voor niet-corporate Commonwealth entiteiten en bevat nationale veiligheid carveouts: defensie- en inlichtingendiensten kunnen vrijwillig elementen adopteren terwijl ze veiligheidsbelangen beschermen. De beleidsrichtlijnen stellen verwachtingen voor verantwoorde adoptie, risicobeheer en transparantie binnen de overheid, die overeenkomen met de “regelgevende en ethische kader” pijler, terwijl ruimte wordt gelaten voor soevereine behandeling van gevoelige en nationale veiligheids AI.

Verenigde Arabische Emiraten en Saoedi-Arabië

De Verenigde Arabische Emiraten heeft een Nationale Strategie voor kunstmatige intelligentie 2031 (sinds 2017) die het doel stelt om de VAE wereldwijde AI-leider te maken over acht strategische doelen (bijvoorbeeld AI-destinatie, ecosystem, governance) en negen prioritaire sectoren (vervoer, gezondheid, ruimte, hernieuwbare energie, water, technologie, onderwijs, milieu, verkeer). Saoedi-Arabië strebt grote schaal AI en diversificatie onder Vision 2030, met multibillion-dollar-avonturen. Zowel de VAE als Saoedi-Arabië investeren in regionale datacenter en AI-infrastructuur: VAE’s Khazna Data Centers (de grootste operator in de regio) heeft zich uitgebreid naar Saoedi-Arabië met een 200 MW datacenter voor cloud en AI-hyperscale implementaties en werkt aan meer dan 1 GW van AI-geklaarde capaciteit over de VAE, Saoedi-Arabië, Italië en andere markten. De aanpak combineert nationale strategie (pijlers 4 en 5) met zware investeringen in digitale infrastructuur (pijler 1).

VS vs China: een vergelijkende snapshot

De VS en China streven AI-leiderschap aan via verschillende methoden. De VS vertrouwt op privaat kapitaal en exportbeperkingen: bijvoorbeeld $109B in private AI-investeringen in 2024 (ongeveer 12× China’s op dat moment), 59 federale AI-gerelateerde regelgevingen in 2024, en beperkingen op geavanceerde chip-uitvoer. China benadrukt staat geleide investeringen en zelfstandigheid: bijvoorbeeld $98B wordt voorspeld voor 2025 (inclusief $47,5B voor semiconductoren), nationale chipproductie (bijvoorbeeld Huawei Ascend), en ondersteunende nationale wetten plus open-source en infrastructuur diplomatie (bijvoorbeeld Belt and Road).

Aspect VS China Opmerking
Supercomputer deel (mei 2025) ~75% (~40M H100 equivalenten) ~14% (~400K equivalenten) VS 5×+ vooruit
Vlaggensysteem bijvoorbeeld xAI Colossus (200K GPUs) Tot ~30K GPUs (verschillende) VS schaalt groter
Datacenters Veel meer Minder, uitbreidende (bijvoorbeeld Digital Silk Road) VS voordeel
Beleidsstand Verdedigend (voorafgaand, exportbeperkingen) Proactief (ondersteunende wetten, open-source, diplomatie) Verschillende hefboom
Model en toepassingsfocus Frontier modellen (40+ in 2024), talent aantrekken Kostenefficiënte training (bijvoorbeeld DeepSeek-V3), onderzoeksvolume, apps (bijvoorbeeld Baidu autonome ritjes) Kloof verkleind

De VS profiteert van brede toegang tot NVIDIA en een diepe venture ecosystem; China bouwt alternatieven en investeert in energie en AI-infrastructuur in het Midden-Oosten en Azië. Modelprestatie kloven worden verkleind (bijvoorbeeld een 1,7% LMSYS voorsprong voor de VS in 2025).

Om self-hosted opties (Ollama, vLLM, LocalAI, Docker Model Runner) te vergelijken met cloudproviders - inclusief kosten en infrastructuurcompromissen - zie onze LLM-hosting: lokale, self-hosted en cloud-infrastructuur vergeleken.

Bronnen