itriskcarriere.nl

AI-hallucinaties: wat zijn het en hoe maken cybercriminelen er misbruik van?

Nieuws
24-07-2024
Nicole Carignan
Wat zijn AI-hallucinaties precies? En welke veiligheidsrisico’s kunnen voortkomen uit AI-hallucinaties?

door Nicole Carignan

Cybercriminelen maken effectief gebruik van generatieve AI-tools – denk aan de toenemende linguïstische complexiteit van social engineering en phishing e-mails. Tegelijkertijd kunnen ze ook gebruikmaken van zwakke plekken in het Large Language Model (LLM) achter generatieve AI-tools in wat Adversarial Machine Learning wordt genoemd, oftewel het aanvallen van de modellen zelf. Een ander voorbeeld is het profiteren van pakkethallucinaties bij softwareontwikkeling, waarbij hallucinaties van LLM-uitvoer worden gebruikt om potentiële kwetsbaarheden uit te buiten. Maar wat zijn AI-hallucinaties precies? En welke veiligheidsrisico’s kunnen voortkomen uit AI-hallucinaties?

AI-tools openen de deur voor cybercriminelen

Op 30 november 2022 werd het gratis ‘conversational language’ generatieve AI-model ChatGPT gelanceerd door OpenAI, een onderzoeks- en ontwikkelingsbedrijf op het gebied van kunstmatige intelligentie (AI). De lancering van ChatGPT was het hoogtepunt van een ontwikkeling die al sinds 2018 gaande is en vertegenwoordigde de nieuwste innovatie in de opkomst van generatieve AI. Met deze lancering maakt OpenAI generatieve AI-tools voor het eerst toegankelijk voor iedereen. Dit heeft de manier waarop mensen omgaan met machine learning drastisch veranderd, namelijk door het beschikbaar te maken in hun natuurlijke taal.

[....]

Lees verder op: techzine.nl

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Z-CERT
4.042 - 6.110
Medior
Amersfoort
Als Inkoopadviseur bij Z-CERT ben jij de schakel tussen interne afdelingen en externe leveranciers, verantwoordelijk voor het coördineren en begeleiden van inkoop- en aanbestedingstrajecten.
EY
Marktconform
Senior
Amsterdam
Als Senior Technology Risk Consultant - IT Audit bij EY ben je onderdeel van een technisch vaardig team dat verantwoordelijk is voor audit- en adviesopdrachten op het gebied van cybersecurity,...
EY
Marktconform
Senior
Amsterdam, Eindhoven, Rotterdam, Zwolle, Groningen en Den Haag
Als Manager - Cybersecurity en Privacy - Technology Risk bij EY leid je audit- en adviesopdrachten gericht op cybersecurity, privacy en IT-resilience. Je bouwt klantrelaties, begeleidt teamleden en zorgt voor...
Nederlands Forensisch Instituut
4.691 - 6.907
Senior
Den Haag
Als Senior Security Engineer bij het Nederlands Forensisch Instituut bouw je aan de digitale weerbaarheid door technische beveiligingsoplossingen te ontwikkelen en integreren. Je coördineert verbeterinitiatieven en optimaliseert systemen als SIEM,...