Hoeveel risico is AI-efficiëntie waard?

Roozenburg maakt het verschil zichtbaar met een controletest op de beveiliging van laptops en werkplekken. Ondersteunende AI werkt binnen een vooraf geschreven script en mist apparaten die daarbuiten vallen. Agentische AI bepaalt zelf welke informatie nodig is, ontdekt nieuwe apparaattypes en past zich aan als systemen veranderen. Zo’n toepassing ziet zelfs patronen, bijvoorbeeld dat onveilige instellingen zich concentreren bij externe medewerkers. Maar die bredere blik vraagt ook bredere toegang. Daarmee groeit het risico op misbruik van rechten, lekken van vertrouwelijke informatie en manipulatie van de toepassing zelf.

Bestuurders moeten daarom volgens Roozenburg niet één algemene risicobereidheid vaststellen, maar per toepassing kijken naar de gevolgen: hoe gevoelig de informatie is, wat een fout of misbruik kan veroorzaken en of de organisatie kan reconstrueren wat de AI deed. Hij pleit voor minimale rechten, volledige logging en een scheiding tussen kijken, adviseren en wijzigen. In zijn voorbeeld mag AI analyseren en controles voorstellen, maar niet zelf beveiligingsinstellingen aanpassen. Autonomie hoort stap voor stap te groeien. Elke volgende stap moet niet alleen technisch mogelijk zijn, maar vooral aantoonbaar waarde toevoegen en goed beheerst blijven.

Dit is een samenvatting van het volledige artikel op de site van Financial Investigator.