Neem contact op

Artikel

Minister van Digitale Zaken, voor toezicht op AI

Een minister van digitale zaken kan bijvoorbeeld werken aan een soort van bijsluiter voor nieuwe, getrainde algoritmen.

Artikel

Minister van Digitale Zaken, voor toezicht op AI

Een minister van digitale zaken kan bijvoorbeeld werken aan een soort van bijsluiter voor nieuwe, getrainde algoritmen.

15-6-2021 door Joop Snijder

Het debacle van de toeslagenaffaire zou voldoende moeten zijn om een minister van Digitale Zaken te introduceren om zo meer grip te krijgen op algoritmes en kunstmatige intelligentie.

Het heeft immers pijnlijk aangetoond dat er meer controle moet komen op het gebruik van algoritmes die autonoom beslissingen maken. Het is daarom van belang dat we hier een toezichthouder op introduceren.

Het oprichten hiervan kan echter veel tijd in beslag nemen, en daarom is een ministerie van Digitale Zaken een beter alternatief.

Wachten we hier namelijk nog eens 4 jaar op, dan zullen we geen grip hebben op de komende 4, ontzettend belangrijke jaren in de ontwikkeling van AI, waarvan de evolutie is opgelaaid afgelopen jaren mede door de coronapandemie. AI of autonome algoritmes kunnen dan wel zelf beslissingen maken, maar het is belangrijk dat wij weten hoe zo’n AI werkt, oftewel een ‘white-box AI’. Anders is er een verhoogd risico op ‘biased AI’of maken algoritmes fouten die we niet kunnen verklaren.

Er wordt hier gelukkig aandacht aan besteed, onder meer door het Europees Parlement. Nederland moet echter het heft in eigen hand nemen. Het is noodzakelijk dat er landelijke instituten voor digitaal beleid en toezicht worden opgericht. Zo kunnen we bijvoorbeeld eisen dat de veiligheid van een getraind algoritme moet worden aangetoond voordat deze in de publieke ruimte wordt toegepast. Net zoals we dat met nieuwe medicijnen doen. Gedegen onderzoek, aangevuld met een transparantierapportage, moet aantonen dat een getraind model niet schadelijk is voor de samenleving.

Nederland moet het heft in eigen hand nemen.

Joop Snijder - Head of Research Center AI

Is dat wel het geval, dan moet de rapportage aangeven welke bijwerkingen kunnen optreden, net als bij medicijnen. Zo staat in de bijsluiter van paracetamol dat bij 1 op 1000 gebruikers allergische reacties ontstaan.

Een gelijksoortige bijsluiter moet er ook komen voor nieuwe, getrainde algoritmen. Wat is de kans op negatieve bijwerkingen en wat zijn de mogelijke effecten? Op basis hiervan kan dan besloten worden of we de bijwerkingen accepteren of niet.

Met de huidige formatie is het een uitgelezen kans om hiermee te starten. Het optuigen van de benodigde instanties kost tijd. De minister van Digitale Zaken hoeft niet te wachten op de oprichting van die instantie.

Het belangrijkste waarvoor een minister van Digitale Zaken verantwoordelijk wordt, is de digitale wereld, en dan met name kunstmatige intelligentie, onder controle brengen van onze democratie.

Whitepaper: Explainable AI

Steeds meer organisatie introduceren kunstmatige intelligentie (AI) en machine learning in hun bedrijfsvoering. Deze introductie levert veel voordelen op, maar ook nieuwe uitdagingen. Een daarvan is het uitleggen van uitkomsten van een AI-model. In deze whitepaper lees je waarom dat belangrijk is, en hoe je hiermee aan de slag kunt.