Neem contact op

Podcast: Business vooruit met IT

Business vooruit met IT – 08 – Hacking AI

Podcast: Business vooruit met IT

Business vooruit met IT – 08 – Hacking AI

Hacken van Artificial Intelligence

In deze aflevering van de podcast Business vooruit met IT praten we met Matthias Walgers, Managing Consultant Data AI Solutions bij Info Support, en Reinier Joosse, eveneens IT Consultant bij Info Support, over het hacken van Artificial Intelligence. Wat is het hacken van AI precies, en hoe gevaarlijk is het? Welke technische oplossingen zijn er?

 

Het audiofragment “unlock front door” is afkomstig van: Adversarial Attacks (adversarial-attacks.net)

 

Wat is het hacken van AI?

Matthias: “Het hacken van AI is het bewust manipuleren of beïnvloeden van de uitkomsten van een AI-algoritme. Dit resulteert vaak in een uitkomst anders dan het beoogd gebruik.” Reinier: “Je probeert hiermee expres de AI om de tuin te leiden.”

Reinier: “Een goed voorbeeld is een AI-systeem dat getallen herkent. Stel: je hebt een plaatje van een 7. Dit plaatje bestaat uit allerlei kleine pixels. Hackers voegen een paar pixels toe aan het plaatje, waardoor het systeem de 7 herkent als een ander cijfer. Dit is echter niet zichtbaar met het blote oog, en dus moeilijk te herkennen.”

Is het hacken van AI gevaarlijk?

Reinier: “Het risico van het hacken hangt af van de AI-toepassing. Zo kun je een website hebben met een pagina vol veelgestelde vragen. Daarnaast is er een chatbot beschikbaar waar mensen hun vragen aan kunnen stellen. In dit geval is het niet erg als hackers de chatbot manipuleren, aangezien de mensen hun antwoorden ook nog kunnen krijgen op de pagina met veelgestelde vragen.”

Matthias: “Tesla heeft in een recente update verkeersbordherkenning toegevoegd. Mensen probeerden dit massaal te manipuleren door verkeersborden uit te printen en deze voor hun auto te houden. Hiermee lukte het ze soms om de camera en het algoritme van de Tesla te foppen, zodat het systeem getriggerd wordt om een bepaalde beslissing te maken. De auto, en daarmee ook de inzittenden, werden zo negatief beïnvloed. Dit kan natuurlijk wél slecht uitpakken.”

Door de komst van AI is een systeem steeds meer in staat om complexe beslissingen te nemen.

Matthias Walgers, Managing Consultant Data AI Solutions bij Info Support

Op welke manier draagt het hacken van AI bij aan de digitale transformatie?

Matthias: “Je ziet binnen digitale transformatie veel meer digitalisering van processen, soms zelfs volledig automatisering. Door de komst van AI is een systeem steeds meer in staat om complexe beslissingen te nemen – en mensen moeten daarop vertrouwen. Daarvoor moet de nauwkeurigheid van je algoritme goed zijn, maar je moet je ook beschermen tegen bewust misbruik van je algoritme. Het bewaken en beschermen van jouw AI-systemen speelt daar dan weer een grote rol in.”

Hoe kun je het hacken van AI tegengaan?

Reinier: “Elke IT-software die je maakt, zal regelmatig updates moeten uitvoeren om goed beveiligd te blijven. Dat is precies zo bij Artificial Intelligence. Om hackers goed te bestrijden, kun je jouw machine learning modellen bijvoorbeeld aanleren om bepaalde aanvallen te herkennen. Je geeft ze tijdens de trainingsfase bewust afwijkingen mee die ook door hackers worden gebruikt, zodat ze deze bij een echte aanval herkennen.”

Artificial Intelligence is de investering in veiligheid absoluut waard. –

Reinier Joosse, IT Consultant

Ben je ooit volledig veilig van aanvallen op je software?

Matthias: “Eigenlijk niet. Veiligheid verandert regelmatig door nieuwe kennis en ontwikkelingen – ook aan de kant van hackers. Het is dus geen absolute factor en kan ook niet gegarandeerd worden. Daarom moet je veiligheid continu bewaken en onderhouden.”

Reinier: “Het is in ieder geval verstandig om jouw machine learning modellen te trainen tegen bestaande aanvallen waarvan je weet dat je die kunt voorkomen. Op die manier bouw je de zekerheid steeds meer op.”

Wat is het beste advies voor de beginnende AI-gebruiker?

Matthias: “Artificial Intelligence is een heel nieuw vakgebied en dat vergt expertise. Het gaat hierbij niet alleen om het gebruik van AI, maar ook om kennis van de kwetsbaarheden. Heb je deze kennis niet, dan zal jouw vertrouwen in de AI-oplossingen afnemen. En dat terwijl je je heel goed kunt voorbereiden op de gevaren en zwaktes van AI-systemen. Dus verdiep je daarin!”

Reinier: “Tegelijkertijd moet je je niet laten verhinderen door de mogelijkheid van aanvallen. Artificial Intelligence is erg belangrijk en je kunt er ontzettend veel voordeel mee behalen – het is de investering in veiligheid absoluut waard.”

Whitepaper: Explainable AI

Steeds meer organisatie introduceren kunstmatige intelligentie (AI) en machine learning in hun bedrijfsvoering. Deze introductie levert veel voordelen op, maar ook nieuwe uitdagingen. Een daarvan is het uitleggen van uitkomsten van een AI-model. In deze whitepaper lees je waarom dat belangrijk is, en hoe je hiermee aan de slag kunt.