Naar de inhoud
EN Plan een startsprint

Compliance en security

AI en informatie­beveiliging: de risico's en wat je eraan doet

David Homan · 3 min lezen

Het korte antwoord

AI‑toepassingen brengen een paar risico's die klassieke software niet heeft: gegevens die via prompts bij een model terechtkomen, manipulatie via ingevoerde tekst (prompt injection) en agents die meer mogen dan nodig is. Je beheerst ze met dezelfde aanpak als de rest van je informatiebeveiliging: weten welke data waarheen gaat, rechten beperken, loggen en testen.

Wat is er anders aan AI-security?

Een AI-toepassing is software, dus alles wat je al doet aan beveiliging blijft gelden. Er komen een paar risico’s bij:

  • Gegevens lekken via prompts. Medewerkers plakken contracten, klantdossiers of broncode in een AI-tool. Afhankelijk van de voorwaarden kan die informatie bij de leverancier blijven staan.
  • Prompt injection. Een model leest tekst van buitenaf, zoals een e-mail of webpagina, en voert de instructies uit die daarin verstopt zitten. Een assistent die mail samenvat, kan zo worden overgehaald om informatie door te sturen. Het staat bovenaan de OWASP-lijst voor toepassingen met taalmodellen.
  • Agents met te veel rechten. Een agent die zelf systemen aanstuurt, kan alles wat zijn account kan. Een fout of manipulatie heeft dan meteen gevolgen.
  • Afhankelijkheid van één leverancier. Verandert de leverancier zijn model, voorwaarden of prijs, dan verandert jouw toepassing mee.
  • Hosting en jurisdictie. Waar het model draait en waar de data staat, bepaalt welk recht van toepassing is.

Wat je per risico doet

RisicoMaatregelWie regelt het
Data via promptsZakelijke tools met afspraken, gegevensklassen, trainingIT en compliance, via het AI-beleid
Prompt injectionInvoer van buiten scheiden van instructies, uitvoer controleren, gevoelige acties laten bevestigenOntwikkelaars
Agents met te veel rechtenMinimale rechten, een mens keurt gevoelige acties goed, alles loggenOntwikkelaars en beheer
Eén leverancierModelonafhankelijk bouwen, documentatie, een exitplanArchitect en inkoop
Hosting en jurisdictieBewust kiezen waar het model en de data staan, verwerkersovereenkomstenIT, privacy en inkoop

AI binnen ISO 27001

AI-toepassingen horen in je bestaande informatiebeveiliging. Wat je aan je managementsysteem toevoegt:

  1. Inventaris: AI-toepassingen en AI-functies in bestaande software in je overzicht van bedrijfsmiddelen.
  2. Risicoanalyse: de risico’s hierboven per toepassing.
  3. Leveranciersbeheer: de voorwaarden van modelleveranciers, waar zij data bewaren en of ze die gebruiken om te trainen.
  4. Logging en monitoring: wat de toepassing doet, wie hem gebruikt en wat er misgaat.
  5. Testen: naast je gewone tests ook gericht op prompt injection en misbruik.

Valt je organisatie onder de Cyberbeveiligingswet, de Nederlandse uitwerking van NIS2 die sinds 15 augustus 2026 geldt, dan vallen je AI-toepassingen onder dezelfde zorgplicht als je andere systemen.

Hosting en jurisdictie

Drie vragen bepalen veel van je risico: waar draait het model, waar staat de data, en onder welk recht valt de leverancier. De Amerikaanse CLOUD Act kan Amerikaanse bedrijven verplichten gegevens te overhandigen die zij beheren, ook als die in een Europees datacenter staan. Voor gevoelige data kies je daarom bewust: een Europese partij, of je eigen servers. Lees meer in AI op eigen servers en lokale AI.

Wat AI Heroes hier doet

  • We doen security-reviews en pentests van AI-toepassingen, ook als we ze niet zelf gebouwd hebben.
  • Bij elke bouw zitten logging, minimale rechten, menselijk toezicht en documentatie in het ontwerp. We bouwen modelonafhankelijk, met Europese hosting als optie.
  • We werken zelf toe naar ISO 27001-certificering.

De assistent op deze site is een voorbeeld: hij draait in Frankfurt met een database in de EU, bewaart gesprekken pseudoniem maximaal 30 dagen en staat beschreven op de transparantiepagina.

Bronnen

Veelgestelde vragen

Is het veilig om bedrijfsdata in ChatGPT of Copilot te zetten?

Met een zakelijke versie, goede contractuele afspraken en duidelijke regels over welke gegevens erin mogen, kan dat verantwoord. Met gratis consumentenaccounts heb je weinig grip op wat er met je gegevens gebeurt. Leg het vast in je AI‑beleid.

Wat is prompt injection?

Een aanval waarbij iemand instructies verstopt in tekst die het model leest, zoals een e‑mail, document of webpagina. Het model voert die instructies dan uit alsof ze van de gebruiker komen. Het is het bekendste risico op de OWASP‑lijst voor toepassingen met taalmodellen.

Moet AI in onze ISO 27001‑scope?

Als AI‑toepassingen met je informatie werken, horen ze in je risicoanalyse en je leveranciersbeheer. Meestal breid je uit wat je al doet. Wie verder wil, kijkt naar ISO 42001.

Valt AI onder NIS2?

NIS2 gaat over de beveiliging van je hele organisatie, welke technologie je ook gebruikt. Val je onder de Cyberbeveiligingswet, die sinds 15 augustus 2026 geldt, dan vallen je AI‑toepassingen onder dezelfde zorgplicht als je andere systemen.

Waar draait een AI‑model eigenlijk?

Bij de leverancier van het model, in een cloud die jij kiest, of op je eigen servers. Dat bepaalt waar je data heen gaat en onder welk recht. Lees AI op eigen servers.

Wil je weten hoe veilig je AI‑toepassing is? We doen security-reviews en pentests van AI‑toepassingen, en bouwen beveiliging vanaf de eerste versie in.

Laat je AI-toepassing testen

Verder lezen