De term duikt overal op: soevereine AI. Meestal betekent het dat een organisatie taalmodellen draait op eigen servers of in een Europees datacenter, in plaats van via een Amerikaanse clouddienst. Klinkt verstandig. Maar het is ook een investering, en niet elke organisatie heeft het nodig. Hier een eerlijke afweging.
Waar het om gaat
Als je een vraag stelt aan een clouddienst als ChatGPT, gaat de tekst van je vraag naar servers van die partij. Bij een zakelijk abonnement wordt die tekst meestal niet gebruikt om het model te trainen, maar hij verlaat wel je organisatie. Voor een vraag als "herschrijf deze alinea" is dat geen probleem. Voor "vat dit cliëntdossier samen" wel.
Het gaat dus niet om AI in het algemeen, maar om welke gegevens erin gaan.
Wanneer een eigen installatie logisch is
Er zijn situaties waarin we bijna altijd een soevereine installatie adviseren:
- Je verwerkt bijzondere persoonsgegevens (artikel 9 AVG): medische informatie, gegevens over kinderen, strafrechtelijke gegevens of financiële dossiers.
- Je bent een overheidsorganisatie of werkt in opdracht van de overheid, en je hebt te maken met eisen over dataopslag binnen de EU.
- Je hebt bedrijfsgeheimen die je concurrentiepositie bepalen: recepturen, tekeningen, prijsafspraken, broncode.
- Je hebt een privacyfunctionaris die terecht nee zegt tegen elke verwerker buiten Europa.
In die gevallen is de vraag niet óf je soeverein wilt draaien, maar hoe.
Wanneer een clouddienst prima kan
Aan de andere kant zien we ook organisaties die een eigen installatie overwegen terwijl dat niet nodig is. Als je AI vooral gebruikt voor marketingteksten, het samenvatten van openbare stukken of het herschrijven van eigen documentatie zonder persoonsgegevens, dan is een Europese clouddienst met een goede verwerkersovereenkomst vaak genoeg. Het is goedkoper, sneller opgezet en je hebt altijd het nieuwste model.
Een tussenweg bestaat ook. Je kunt gevoelige processen soeverein draaien en de rest in de cloud. Dat is wat we bij de meeste klanten uiteindelijk inrichten.
Wat een eigen installatie kost
De kosten bestaan uit hardware of gehuurde capaciteit, de inrichting en het beheer. Voor een organisatie tot een paar honderd medewerkers volstaat vaak één server met een goede grafische kaart. De inrichting is een project van enkele weken. Daarna zijn de kosten vast: je betaalt niet per bericht, wat bij intensief gebruik juist gunstig uitpakt.
Wat je ervoor terugkrijgt is controle. Je weet waar je data staat, wie erbij kan en wat ermee gebeurt. Je zit niet vast aan één leverancier en kunt van model wisselen als er een beter beschikbaar komt.
Zijn open modellen goed genoeg?
Dat is de vraag die we het vaakst krijgen. Het korte antwoord: voor de meeste zakelijke taken wel. Samenvatten, classificeren, herschrijven, vragen beantwoorden uit eigen documenten. Open modellen als Mistral, Llama en Qwen doen dat inmiddels op een niveau dat voor dagelijks gebruik ruim voldoende is. Voor een klein aantal taken, zoals heel complexe redeneringen, lopen de grootste clouddiensten nog voor. Dat verschil wordt elk half jaar kleiner.
Hoe je begint
Begin niet met de techniek, maar met een lijst van processen waar je AI wilt inzetten en welke gegevens daarin omgaan. Die lijst bepaalt of je soeverein moet, mag kiezen of gewoon in de cloud kunt beginnen. Wil je dat samen doen? Dat is precies wat we in een AI-verkenning uitzoeken.