itriskcarriere.nl

Als AI zelf gaat hacken: wie draagt dan de verantwoordelijkheid?

Nieuws
24-09-2026
Riskworld
Incidenten bij OpenAI, Anthropic en Meta laten zien dat autonome AI-systemen onverwacht buiten hun afgeschermde omgeving kunnen opereren. Voor organisaties maakt dat controle over AI-agents steeds nadrukkelijker een bestuurlijk risicovraagstuk.

De incidenten ontstonden niet doordat AI-modellen zelfstandig besloten regels te overtreden. Ze kregen een opdracht en ontdekten technische mogelijkheden die de beveiligde testomgeving onbedoeld bood. Daarbij bleek bovendien dat agents manieren kunnen vinden om beoordelingssystemen te omzeilen en te optimaliseren voor de meetlat in plaats van het achterliggende doel. Dat maakt klassieke technische beveiliging alleen onvoldoende. Organisaties moeten ook rekening houden met de manier waarop autonome systemen opdrachten interpreteren en uitvoeren.

Voor bestuurders en risicoprofessionals betekent dit dat vooraf duidelijk moet zijn wie verantwoordelijk is voor iedere AI-toepassing en hoeveel zelfstandigheid een agent krijgt. Ook toegang tot systemen, menselijke goedkeuring, monitoring en afhankelijkheid van leveranciers moeten expliciet worden geregeld. De Europese AI-verordening bevat wel zorgplichten, maar geeft nog geen sluitend antwoord op aansprakelijkheid wanneer schade ontstaat. Wie AI-agents inzet, kan verantwoordelijkheid daarom niet doorschuiven naar technologie of regelgeving: governance moet zijn ingericht vóórdat een agent zelfstandig aan het werk gaat.

Dit is een samenvatting van het volledige artikel op Riskworld.

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Top vacature
Achmea
5.246 - 7.670
Senior
Apeldoorn
Achmea Internal Audit conducts audits and provides proactive research and advisory services to enhance Achmea's risk management and internal control systems, contributing to strategic goals through transparency and collaboration.
Bunq
Marktconform
Senior
Amsterdam, hybride
As a Technology Risk Officer at bunq you make sure the ICT infrastructure can withstand and recover from disruption. As second line of defense you test whether controls work, lead...
CROP
Marktconform
Junior, Starter
Amersfoort, Arnhem, Ede, Utrecht
Als junior financial services IT-auditor bij CROP voer je IT-audits en SOC 1/SOC 2- en ISAE 3000/3402-opdrachten uit voor klanten in de fintech. Je analyseert IT-processen, autorisaties, dataflows en control...
Van Lanschot Kempen
3.900 - 4.900
Starter, Junior
Amsterdam, hybride
Als Analyst Security Operations Center bij Van Lanschot Kempen ondersteun je de dagelijkse activiteiten van het SOC. Je triageert en onderzoekt securitymeldingen, analyseert dreigingen en neemt deel aan incident response....