Een eigen AI-omgeving opzetten: stappenplan van eerste proces tot productie
Kort antwoord
Een eigen AI-omgeving bestaat uit vier onderdelen: een node waar de modellen draaien, open-weight modellen die u zelf bezit, de eigen documenten als bron en een laag voor rollen, bronnen en logging. Het opzetten verloopt in acht stappen, van één concreet proces en een gegevensinventaris tot een proef met echte gebruikers en uitbreiding daarna. De grootste keuzes zijn waar de node staat en wie het beheer doet. Mislukkingen komen zelden door techniek, meestal door beginnen zonder proces en eigenaar.
De vier onderdelen
| Onderdeel | Wat het is | Waar het om draait |
|---|---|---|
| Node | Een server met GPU’s waar de modellen draaien, in uw serverruimte of als dedicated node in een datacenter | Alleen van u, nooit gedeeld |
| Modellen | Open-weight taalmodellen als bestanden die u zelf bezit en wisselt | Geen aanbieder in de keten, geen training op uw gegevens |
| Bronnen | Uw documenten, procedures en systemen, ontsloten zodat het model eruit citeert | Antwoorden met bronverwijzing in plaats van uit het geheugen van het model |
| Controle | Rollen per team, bronnen per rol, auditlog, modelbeheer | Aantoonbaarheid voor AVG, AI Act en uw toezichthouder |
Zie Wat is private AI? voor de begrippen en AI op uw eigen documenten voor hoe bronnen werken.
Acht stappen
- Kies één proces. Niet “AI voor iedereen”, maar bijvoorbeeld inkomende post, dossiers samenvatten of de kennisbank voor het klantcontact. Met een eigenaar en een meetbaar doel.
- Inventariseer de gegevens. Welke documenten en systemen horen bij dat proces, wie mag ze zien, en wat is er gevoelig aan.
- Kies waar de node staat. Eigen serverruimte als u die hebt en beheert; anders een dedicated node in een Nederlands datacenter. Zie AI-server hardware voor wat een node is.
- Kies het beheer. Eigen IT die de node beheert, of beheer uitbesteed met een contract dat meldtermijnen, updates en exit regelt.
- Kies de modellen. Een groot model voor schrijven en redeneren, een kleiner voor classificeren en samenvatten. Test ze op uw eigen vragen voor u kiest.
- Koppel de bronnen. Begin met de documenten van het gekozen proces. Toegang per rol vanaf dag één; achteraf rechten inperken is pijnlijk.
- Draai een proef. Eén team, echte documenten, vier tot zes weken. Meet correctiegraad, tijdwinst en de fouten die gebruikers melden.
- Evalueer en breid uit. Herzie de risicobeoordeling, leg de resultaten vast en neem het volgende proces.
De keuzes die het verschil maken
- Serverruimte of datacenter. In het eigen pand hebt u alles in de hand, ook bij uitval van de verbinding. In een datacenter hebt u stroom, koeling en fysieke beveiliging geregeld, maar vraagt u om een afgesloten rack dat alleen van u is.
- Zelf beheren of laten beheren. Zelf beheren vraagt mensen die GPU’s, modellen en updates kennen. Laten beheren vraagt een contract waarin staat wat de beheerder ziet en wanneer hij meldt.
- Eén omgeving of per afdeling. Eén omgeving met rollen is bijna altijd beter: één auditlog, één beheer, en de bronnen blijven toch gescheiden.
- Wanneer wisselen van model. Als u het bepaalt, niet de aanbieder. Elke wissel is een hertoets op uw eigen testset.
Veelgemaakte fouten
- Beginnen met de hardware. Een server zonder proces wordt een server zonder gebruikers.
- Alles tegelijk ontsluiten. Dan ziet de assistent meer dan de medewerker mag zien, en is de proef meteen een datalek.
- Geen alternatief voor publieke tools. Zolang de eigen omgeving trager of dommer is dan ChatGPT, blijft het schaduwgebruik.
- Geen meting. Zonder correctiegraad en tijdwinst is de uitbreiding een gokje.
Hoe werqly hierin past
werqly levert de vier onderdelen als één geheel: een werqly Node in uw serverruimte of als dedicated node in werqly Cloud, open-weight modellen, de koppeling van uw bronnen en werqly AI Control voor rollen, bronnen en het auditlog. Beheer doet u zelf of laat u aan werqly over. De uitrol voor een eerste proces duurt weken, niet kwartalen. Bereken hieronder wat de opzet voor uw organisatie is.
Veelgestelde vragen
Vragen over dit onderwerp
Hoe lang duurt het opzetten van een eigen AI-omgeving?
Een eerste proces draait meestal binnen enkele weken na de keuze voor een node: hardware plaatsen of een node in het datacenter activeren, modellen laden, de bronnen van het proces koppelen en de rollen instellen. De proef zelf duurt vier tot zes weken.
Hebben we een eigen serverruimte nodig?
Nee. Zonder serverruimte staat de node in een afgesloten rack in een datacenter, alleen voor uw organisatie. Dat is iets anders dan een gedeelde clouddienst: de hardware en de modellen zijn dan nog steeds van u.
Welke modellen draaien in een eigen omgeving?
Open-weight modellen als Llama, Mistral en Qwen, in de maat die bij uw node en uw taken past. Vaak een groot model voor schrijven en een kleiner voor classificeren. Kies op basis van een testset met uw eigen vragen.
Wat kost een eigen AI-omgeving?
Dat hangt af van het aantal medewerkers, de keuze tussen eigen serverruimte en datacenter, en wie het beheer doet. De rekentool op deze pagina laat vier opzetten voor uw organisatie zien; de offerte is daarna bindend.
Bronnen
Dit artikel is algemene informatie, geen juridisch advies. Regels en richtsnoeren veranderen; controleer bij twijfel de genoemde bronnen of vraag uw jurist of FG.