Wat is private AI? Betekenis, vormen en wanneer u het nodig hebt

Private AI in één zin

Bij een AI-dienst als ChatGPT, Gemini of Claude stuurt u uw vraag naar de servers van de leverancier. Daar draait het model, daar wordt uw tekst verwerkt en daar gelden de voorwaarden van die leverancier. Bij private AI draait het model op hardware die van u is, of die exclusief voor u is gereserveerd. De verwerking vindt plaats binnen uw eigen beveiligingsgrenzen.

Dat verschil klinkt technisch, maar het verandert drie dingen die voor een CISO of FG zwaar wegen:

• Waar de data is. Niet bij een derde, maar op uw eigen node.
• Wie er toegang toe kan krijgen. Alleen wie u toegang geeft. Er is geen leverancier die kan worden gedwongen om gegevens af te geven, omdat die leverancier ze nooit heeft gehad.
• Wie de regels bepaalt. Uw IT-afdeling bepaalt welke modellen beschikbaar zijn, welke gegevens geblokkeerd worden en hoe lang logs bewaard blijven. Niet de productvoorwaarden van een ander.

Welke vormen van private AI zijn er?

De term wordt breed gebruikt, ook door leveranciers die er iets anders mee bedoelen. Het helpt om vier vormen te onderscheiden, van meest naar minst eigen:

Alleen de eerste twee zijn private AI in strikte zin: het model en de data staan op hardware die niemand anders gebruikt. Bij een private cloud-tenant of een zakelijk abonnement zijn de afspraken beter dan bij een gratis chatbot, maar de verwerking gebeurt nog steeds bij een externe partij. Voor organisaties die onder de CLOUD Act-discussie, het beroepsgeheim of sectorregels als NEN 7510 en DORA vallen, is dat precies het verschil dat ertoe doet. Meer daarover leest u in Microsoft Copilot of een eigen AI-omgeving.

Welke modellen draaien er op private AI?

Private AI werkt met open-weight modellen: taalmodellen waarvan de makers de gewichten publiceren, zodat u ze op uw eigen hardware kunt draaien. Bekende families zijn Llama (Meta), Mistral (het Franse Mistral AI) en Qwen (Alibaba). De gesloten modellen achter ChatGPT, Gemini en Claude kunt u niet zelf hosten; die bestaan alleen bij de leverancier.

Voor de meeste zakelijke taken zijn de grotere open-weight modellen goed genoeg: samenvatten, herschrijven, vragen beantwoorden over eigen documenten, e-mails opstellen, gegevens uit tekst halen. Waar het verschil met de beste gesloten modellen het grootst is, bij complexe redeneringen en lange programmeertaken, ruilt u een stuk prestatie in voor controle. Dat is een bewuste afweging, geen verborgen nadeel.

Wat er technisch nodig is om zo’n model te draaien, van GPU-geheugen tot beheer, staat in Een eigen LLM-server on-premise: wat heeft u nodig?

Wanneer is private AI de juiste keuze?

Private AI is duurder dan een AI-abonnement per gebruiker. U betaalt voor eigen hardware en voor controle. Het is daarom niet voor iedereen de juiste keuze. Het past vooral als een of meer van deze situaties op u van toepassing zijn:

• U verwerkt bijzondere of vertrouwelijke gegevens. Patiëntdossiers, cliëntstukken onder beroepsgeheim, financiële klantgegevens, persoonsgegevens van inwoners.
• Uw sector stelt eisen aan uitbesteding. Denk aan NEN 7510 in de zorg, de geheimhoudingsplicht van advocaten of DORA voor financiële instellingen.
• Medewerkers gebruiken al AI, buiten uw zicht. Dan is de vraag niet óf er AI wordt gebruikt, maar waar. Zie Shadow AI.
• U wilt niet afhankelijk zijn van één leverancier. Prijzen, voorwaarden en beschikbaarheid van een AI-dienst kunnen veranderen. Een eigen omgeving met open-weight modellen blijft van u.
• U moet kunnen aantonen wat er met data gebeurt. Een auditor, toezichthouder of klant vraagt niet of u een beleid hebt, maar wat er aantoonbaar is gebeurd. Met eigen logging kunt u dat laten zien.

Speelt geen van deze punten, dan is een zakelijk AI-abonnement met goede afspraken vaak voldoende en goedkoper.

Wat moet er naast het model geregeld zijn?

Een model op een server zetten is het makkelijke deel. Wat private AI bruikbaar en verdedigbaar maakt, is wat eromheen zit:

• Toegang per rol, gekoppeld aan uw identity provider, zodat finance een ander model en andere rechten krijgt dan de servicedesk.
• Safeguards die patronen als BSN, IBAN of broncode tegenhouden voordat ze een model bereiken.
• Logging en een audit trail: wie, welk model, wanneer, met een bewaartermijn die u zelf instelt en export naar uw SIEM.
• Beleid over inzicht: hoeveel ziet de organisatie van wat medewerkers vragen? Anoniem, per afdeling of per persoon? Dat is een keuze voor bestuur, FG en OR, geen standaardinstelling van een leverancier.
• Updates en modelbeheer: nieuwe modelversies testen en uitrollen, zonder dat er iets naar buiten gaat.

werqly levert dat als geheel: een dedicated AI-node in uw serverruimte (of, als u die niet hebt, in een afgesloten rack in ons Europese datacenter) met werqly AI Control als beheerconsole. Uw IT-afdeling beheert het zelf, of laat dat aan werqly over. Hoe dat in de praktijk werkt, staat op de pagina over AI Control.