Een AI-assistent koppelen aan bedrijfsdata is een beslissing over autorisaties, geen productuitrol. Ga ervan uit dat alles wat de assistent kan lezen, door iedereen die ermee kan praten mogelijk te achterhalen is, en dat alles wat de assistent kan doen, mogelijk te activeren is door iedereen die de input kan beïnvloeden. Leg vijf zaken vast voordat de pilot begint: welke data is toegestaan, wat de assistent mag doen, wie hem mag gebruiken, wat wordt vastgelegd en wie het risico draagt.
Een opmerking over bronvermelding. Punten die afkomstig zijn van OWASP of NIST worden als zodanig genoemd en voorzien van een link. Al het overige in deze checklist is onze eigen aanbeveling en geen eis van een van beide organisaties.
Bepaal welke data erin mag
Begin met classificatie, want elke latere maatregel hangt daarvan af. Heeft u nog geen schema, dan volstaat een indeling in drie niveaus om mee te starten. Leg die vast voordat iemand een mailbox, een bestandsshare of een CRM koppelt.
| Niveau | Typische inhoud | Regel voor de assistent |
|---|---|---|
| Openbaar | Gepubliceerde websiteteksten, productbladen | Toegestaan |
| Intern | Beleid, projectnotities, interne wiki's | Alleen toegestaan voor goedgekeurde tools |
| Vertrouwelijk | Persoonsgegevens, contracten, credentials, broncode, financiële administratie | Uitgesloten totdat een benoemde eigenaar akkoord geeft |
Twee punten worden vaak over het hoofd gezien. Ten eerste nemen connectors doorgaans complete repositories of drives in, waardoor een map waarvan niemand meer weet dat die gedeeld is, toch wordt geïndexeerd. Ruim het delen van bestanden op voordat u koppelt, niet erna. Ten tweede veranderen secrets in documenten (API-sleutels op wikipagina's, wachtwoorden in tickets) een zoekfunctie in een lek voor credentials.
Ga ervan uit dat de assistent vijandige tekst leest
Beschouw alles wat de assistent leest (binnenkomende e-mail, webpagina's, gedeelde documenten, geüploade bestanden) als content die iemand anders kan hebben geschreven om de assistent te sturen. Wij raden aan de implementatie zo in te richten dat dit geen schade aanricht, in plaats van de system prompt als enige maatregel te hanteren.
In de praktijk betekent dit:
- Geef de assistent de minimale tools die hij nodig heeft. Begin met alleen-lezentoegang.
- Eis menselijke bevestiging voor elke actie met neveneffecten: e-mail versturen, gegevens wijzigen, code uitvoeren, betalingen doen.
- Houd onbetrouwbare content weg bij assistenten die ook toegang hebben tot vertrouwelijke data.
- Behandel de output van de assistent als onbetrouwbare input voor het systeem dat deze verwerkt. Voert een downstreamsysteem de output uit of geeft het die weer, valideer die dan zoals u gebruikersinput valideert.
Gebruik voor een referentielijst van risico's van LLM-applicaties de OWASP Top 10 for Large Language Model Applications. De projectpagina beschrijft het OWASP GenAI Security Project als een wereldwijd open-sourceinitiatief rond veiligheids- en securityrisico's van generatieve AI, waaronder LLM's, agentic AI-systemen en AI-gedreven applicaties. Volgens de pagina blijft de Top 10 een kernonderdeel, en er staat een versie uit 2025 op vermeld. De pagina verwijst voor de meest actuele lijst naar genai.owasp.org/llm-top-10/. Lees die lijst en gebruik de categorieën als structuur voor uw threat model, in plaats van er zelf een te verzinnen.
Toegangsbeheer en logging
De assistent hoort te handelen met de rechten van degene die de vraag stelt, niet met een ruim bemeten serviceaccount. Gebruikt hij één gedeelde identiteit met toegang tot alles, dan kan een junior medewerker mogelijk bestuursdocumenten opvragen door een vraag slim te formuleren. Controleer hoe de connector omgaat met rechten per gebruiker en test dit vóór go-live met twee accounts van verschillende senioriteit.
Bepaal daarna wat u logt. Minimaal wilt u genoeg vastleggen om een incident te kunnen reconstrueren:
timestamp, user id, assistant/tool name,
source documents retrieved, actions requested,
actions executed, confirmation (yes/no), result statusBepaal vooraf hoe lang u deze logs bewaart, wie ze mag inzien en of de prompts zelf persoonsgegevens bevatten. Gesprekslogs vormen een eigen gegevensopslag en vereisen dezelfde classificatie als de inhoud die ze bevatten. Stuur ze door naar degene die uw monitoring uitvoert, zodat een ongebruikelijk aantal opvragingen vanaf één account opvalt.
Beoordeel de leverancier vóór het contract
Stel de leverancier directe vragen en laat de antwoorden schriftelijk vastleggen:
- Worden onze prompts en documentdata gebruikt om modellen te trainen of te verbeteren? Kan dat contractueel worden uitgeschakeld, en niet alleen via een instelling?
- Waar wordt data verwerkt en opgeslagen, en welke subverwerkers zijn betrokken?
- Hoe lang worden prompts, output en geüploade bestanden bewaard, en kunnen wij ze verwijderen?
- Welke beheerfuncties zijn er: single sign-on, rolgebaseerde toegang, export van audittrails, allowlists voor connectors?
- Hoe worden securityincidenten gemeld, en binnen welke termijn?
Controleer of de antwoorden overeenkomen met de daadwerkelijke beheerconsole. Een beleidspagina en een configureerbare instelling zijn twee verschillende dingen. Biedt de tool plug-ins of connectors van derden, beoordeel die dan als afzonderlijke leveranciers.
Geef het risico een eigenaar
Governance klinkt als papierwerk, en dat is het ook, maar het is wel het onderdeel dat wildgroei van niet-goedgekeurde implementaties voorkomt. De NIST AI RMF Playbook bevat voorgestelde acties die aansluiten op de vier functies van het AI Risk Management Framework: Govern, Map, Measure en Manage. NIST stelt dat de Playbook geen checklist is en ook geen reeks stappen die volledig gevolgd moet worden, en dat de suggesties vrijwillig zijn. NIST merkt verder op dat AI RMF 1.0 wordt bijgewerkt en dat de Playbook zal volgen, dus controleer welke versie actueel is. Neem over wat past bij een bedrijf van uw omvang.
Wij raden aan een beknopt register bij te houden van elke AI-tool die in gebruik is, met per tool een eigenaar, de dataniveaus die de tool mag raken en een datum voor herbeoordeling. Voeg nog één kolom toe: of juridische zaken heeft bevestigd dat verplichtingen uit de EU AI Act of de AVG voor die toepassing gelden, en wat de conclusie was. Wij hebben die verplichtingen hier niet beoordeeld, dus laat dit vaststellen door een jurist of compliance-adviseur. Wilt u hulp bij het opzetten van het register en het beoordelingsproces, dan omvat onze adviesdienst ook readiness assessments.
Waar te beginnen
- Maak een lijst van elke AI-assistent die al in gebruik is, inclusief gratis accounts die medewerkers zelf hebben aangemaakt, en wijs voor elk een eigenaar aan.
- Stel de bovenstaande classificatie in drie niveaus op en bepaal in welk niveau elke gekoppelde databron valt. Haal vertrouwelijke bronnen uit de scope.
- Voer een pilot uit met alleen-lezentoegang, rechten per gebruiker en menselijke bevestiging voor elke actie. Test met twee accounts van verschillende senioriteit.
- Schakel logging in, stel een bewaartermijn vast en stuur de logs door naar degene die uw systemen monitort.
- Stuur de vragen aan de leverancier, bewaar de schriftelijke antwoorden bij het contract en vraag juridische zaken te bevestigen of verplichtingen uit de EU AI Act of de AVG van toepassing zijn.
- Laat de opzet vóór bredere uitrol testen door iemand die zal proberen deze aan te vallen. Een penetratietest met scenario's die zijn gebouwd rond uw daadwerkelijke connectors laat zien wat een threat model op papier mist.
