AI-agents worden nieuw doelwit van cybercriminelen

Steeds meer organisaties zetten AI-agents in voor het uitvoeren van operationele taken, klantcontact en administratieve processen. Daarmee krijgen deze systemen toegang tot gevoelige informatie en bedrijfskritische functies. Volgens Martin J. Krämer ontstaat hierdoor een nieuw cyberrisico: AI-agents kunnen net als mensen worden beïnvloed door misleidende instructies en social-engineeringaanvallen. Waar traditionele software vooraf vastgelegde regels volgt, nemen AI-agents zelfstandig beslissingen op basis van de informatie die zij ontvangen. Dat maakt hen kwetsbaar voor manipulatie door kwaadwillenden die proberen toegang te krijgen tot systemen, accounts of vertrouwelijke gegevens.

Voor accountantskantoren en andere kennisintensieve organisaties betekent dit dat cybersecurity een nieuwe dimensie krijgt. Niet alleen medewerkers, maar ook AI-agents moeten worden voorzien van duidelijke bevoegdheden, strikte toegangsrechten en voortdurende monitoring. Krämer pleit ervoor AI-systemen te behandelen als digitale collega’s, met dezelfde controles en beveiligingsmaatregelen als menselijke gebruikers. De ontwikkeling onderstreept dat de risico’s van kunstmatige intelligentie niet uitsluitend technisch van aard zijn. Naarmate AI een grotere rol krijgt in besluitvorming en bedrijfsprocessen, verschuift de aandacht van technologie naar governance, toezicht en risicobeheersing. Juist daar ligt volgens experts de sleutel tot een veilige inzet van AI binnen organisaties.

Dit is een samenvatting van het volledige blog op AccountantWeek.