AI-hallucinaties: wat zijn het en hoe maken cybercriminelen er misbruik van?

Nieuws
24-07-2024
Nicole Carignan
Wat zijn AI-hallucinaties precies? En welke veiligheidsrisico’s kunnen voortkomen uit AI-hallucinaties?

door Nicole Carignan

Cybercriminelen maken effectief gebruik van generatieve AI-tools – denk aan de toenemende linguïstische complexiteit van social engineering en phishing e-mails. Tegelijkertijd kunnen ze ook gebruikmaken van zwakke plekken in het Large Language Model (LLM) achter generatieve AI-tools in wat Adversarial Machine Learning wordt genoemd, oftewel het aanvallen van de modellen zelf. Een ander voorbeeld is het profiteren van pakkethallucinaties bij softwareontwikkeling, waarbij hallucinaties van LLM-uitvoer worden gebruikt om potentiële kwetsbaarheden uit te buiten. Maar wat zijn AI-hallucinaties precies? En welke veiligheidsrisico’s kunnen voortkomen uit AI-hallucinaties?

AI-tools openen de deur voor cybercriminelen

Op 30 november 2022 werd het gratis ‘conversational language’ generatieve AI-model ChatGPT gelanceerd door OpenAI, een onderzoeks- en ontwikkelingsbedrijf op het gebied van kunstmatige intelligentie (AI). De lancering van ChatGPT was het hoogtepunt van een ontwikkeling die al sinds 2018 gaande is en vertegenwoordigde de nieuwste innovatie in de opkomst van generatieve AI. Met deze lancering maakt OpenAI generatieve AI-tools voor het eerst toegankelijk voor iedereen. Dit heeft de manier waarop mensen omgaan met machine learning drastisch veranderd, namelijk door het beschikbaar te maken in hun natuurlijke taal.

[....]

Lees verder op: techzine.nl

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
IT-auditor
Top vacature
UWV
5.053 - 6.691
Medior, Senior
Amsterdam
In deze rol als IT-auditor bij UWV draag je bij aan de verplichte externe verantwoording en ook draag je bij aan de interne beheersing door middel van rapportages aan de...
Meer lezen Direct solliciteren
Information Security Officer
Top vacature
ABN AMRO Pensioenfonds
In overleg
Senior
Amsterdam
Voor ABN AMRO Pensioenfonds zoeken wij een Information Security Officer. Je bent verantwoordelijk voor het identificeren van beveiligingsrisico’s en het ontwikkelen van passende maatregelen om deze risico’s te verminderen. Zodoende...
Meer lezen Direct solliciteren
Operational risk manager IT (38 uur)
Top vacature
TVM
Max. 7.598
Medior, Senior
Hoogeveen
Als Operational Risk Manager IT speel je een cruciale rol binnen het Risk Management-team en ben je primair verantwoordelijk voor het IT-domein.
Meer lezen Direct solliciteren
IT-audit Expert
Top vacature
VGZ
5.697 - 8.141
Medior, Senior
Eindhoven of Arnhem
Ben jij een top IT audit professional, die samenwerkt met ons gedreven team bij best in class audits die bijdragen aan gezondere toekomstige generaties, dan komen we graag met je...
Meer lezen Direct solliciteren
Alle vacatures