Hacking AI

Podcast luisteren

Shownotes

Wat is het hacken van ai?

Matthias: “Het hacken van AI is het bewust manipuleren of beïnvloeden van de uitkomsten van een AI-algoritme. Dit resulteert vaak in een uitkomst anders dan het beoogd gebruik.” Reinier: “Je probeert hiermee expres de AI om de tuin te leiden.”

Reinier: “Een goed voorbeeld is een AI-systeem dat getallen herkent. Stel: je hebt een plaatje van een 7. Dit plaatje bestaat uit allerlei kleine pixels. Hackers voegen een paar pixels toe aan het plaatje, waardoor het systeem de 7 herkent als een ander cijfer. Dit is echter niet zichtbaar met het blote oog, en dus moeilijk te herkennen.”

Is het hacken van AI gevaarlijk?

Reinier: “Het risico van het hacken hangt af van de AI-toepassing. Zo kun je een website hebben met een pagina vol veelgestelde vragen. Daarnaast is er een chatbot beschikbaar waar mensen hun vragen aan kunnen stellen. In dit geval is het niet erg als hackers de chatbot manipuleren, aangezien de mensen hun antwoorden ook nog kunnen krijgen op de pagina met veelgestelde vragen.”

Matthias: “Tesla heeft in een recente update verkeersbordherkenning toegevoegd. Mensen probeerden dit massaal te manipuleren door verkeersborden uit te printen en deze voor hun auto te houden. Hiermee lukte het ze soms om de camera en het algoritme van de Tesla te foppen, zodat het systeem getriggerd wordt om een bepaalde beslissing te maken. De auto, en daarmee ook de inzittenden, werden zo negatief beïnvloed. Dit kan natuurlijk wél slecht uitpakken.”

Op welke manier draagt het hacken van AI bij aan de digitale transformatie?

Matthias: “Je ziet binnen digitale transformatie veel meer digitalisering van processen, soms zelfs volledig automatisering. Door de komst van AI is een systeem steeds meer in staat om complexe beslissingen te nemen – en mensen moeten daarop vertrouwen. Daarvoor moet de nauwkeurigheid van je algoritme goed zijn, maar je moet je ook beschermen tegen bewust misbruik van je algoritme. Het bewaken en beschermen van jouw AI-systemen speelt daar dan weer een grote rol in.”

Hoe kun je het hacken van AI tegengaan?

Reinier: “Elke IT-software die je maakt, zal regelmatig updates moeten uitvoeren om goed beveiligd te blijven. Dat is precies zo bij Artificial Intelligence. Om hackers goed te bestrijden, kun je jouw machine learning modellen bijvoorbeeld aanleren om bepaalde aanvallen te herkennen. Je geeft ze tijdens de trainingsfase bewust afwijkingen mee die ook door hackers worden gebruikt, zodat ze deze bij een echte aanval herkennen.”

Ben je ooit volledig veilig van aanvallen op je software?

Matthias: “Eigenlijk niet. Veiligheid verandert regelmatig door nieuwe kennis en ontwikkelingen – ook aan de kant van hackers. Het is dus geen absolute factor en kan ook niet gegarandeerd worden. Daarom moet je veiligheid continu bewaken en onderhouden.”

Reinier: “Het is in ieder geval verstandig om jouw machine learning modellen te trainen tegen bestaande aanvallen waarvan je weet dat je die kunt voorkomen. Op die manier bouw je de zekerheid steeds meer op.”

Wat is het beste advies voor de beginnende AI-gebruiker?

Matthias: “Artificial Intelligence is een heel nieuw vakgebied en dat vergt expertise. Het gaat hierbij niet alleen om het gebruik van AI, maar ook om kennis van de kwetsbaarheden. Heb je deze kennis niet, dan zal jouw vertrouwen in de AI-oplossingen afnemen. En dat terwijl je je heel goed kunt voorbereiden op de gevaren en zwaktes van AI-systemen. Dus verdiep je daarin!”

Reinier: “Tegelijkertijd moet je je niet laten verhinderen door de mogelijkheid van aanvallen. Artificial Intelligence is erg belangrijk en je kunt er ontzettend veel voordeel mee behalen – het is de investering in veiligheid absoluut waard.”