EU AI Act in de zorg: remmer of stimulans van innovatie?

De EU AI Act classificeert AI-systemen op basis van risico. En AI in de gezondheidszorg valt in de hoogste risicocategorie. Dat betekent dat voor AI-systemen in de zorg straks de strengste eisen gelden op het gebied van transparantie, nauwkeurigheid en veiligheid. Of dat een gunstige ontwikkeling is, dat is wederom geen zwart-wit-kwestie. We zetten de argumenten vóór en tegen op een rij.

De EU AI Act in een notendop

Laten we eerst eens kijken naar de eisen die de EU AI Act stelt aan AI-systemen. Voor de zorg geldt dat deze uitlegbaar en interpreteerbaar moeten zijn. Er mag geen sprake zijn van een ‘black box’ waarvan de werking niet te doorgronden is. Ook moeten de systemen robuust en veilig zijn. Ze moeten bestand zijn tegen fouten en cyberaanvallen. Verder is er een verplichting om AI-systemen uitvoerig te testen in een gesimuleerde omgeving, voordat ze in een echte zorgcontext gebruikt mogen worden. Het doel van deze eisen: de veiligheid van patiënten en de kwaliteit van zorg te waarborgen.

Argumenten tegen

Critici waarschuwen dat de wet kan zorgen voor een remmend effect op innovatie. Het voldoen aan de regels kost geld en tijd; wie aan alle normen wil voldoen moet meer onderzoek doen, evenals uitgebreid testen en documenteren. Dit zou het voor start-ups en kleine bedrijven moeilijk kunnen maken om AI-producten voor de zorg te ontwikkelen. De kosten kunnen zo hoog zijn dat ze productontwikkeling vertragen of zelfs projecten moeten staken.

Ten tweede zorgt de verplichte uitgebreide testen en goedkeuring van AI-systemen mogelijk voor vertragingen. In een veld waar snelle innovatie cruciaal is, kan dit ertoe leiden dat levensreddende toepassingen pas later geïmplementeerd kunnen worden. Door de strenge regelgeving en hoge boetes kan er risico-aversie ontstaan: bedrijven mijden dan potentiële baanbrekende projecten uit angst voor de consequenties bij overtreding van de regels. Innovatie kan hierdoor afremmen.

Een ander argument is dat de strenge eisen grote techbedrijven kunnen afschrikken om de Europese markt te betreden, waardoor Europese landen de toegang tot bepaalde AI-innovaties.

Argumenten vóór

Voorstanders bepleiten dat de EU AI Act juist bijdraagt aan verantwoorde innovatie van AI in de zorg. Allereerst kan de regelgeving het vertrouwen in en acceptatie van AI-toepassingen vergroten bij zowel zorgverleners als patiënten. Dit bevordert de adoptie, en dat is juist gunstig voor innovatie. Daarnaast moedigen de regels aan om te focussen op ethisch verantwoorde en veilige AI. Dit voorkomt potentieel risicovolle investeringen in controversiële technologieën. Het stuurt innovatie in een maatschappelijk aanvaardbare richting.

Ook stimuleren de regels transparantie en verantwoording in AI-systemen. Dit kan leiden tot baanbrekende nieuwe technieken om AI uitlegbaar te maken. Europese bedrijven kunnen hiermee een concurrentievoordeel behalen. Tenslotte biedt naleving van de regels toegang tot de enorme Europese markt. Dit kan een sterke drijfveer zijn voor innovatie, om aan de voorwaarden te voldoen.

De EU als opkomende wereldmacht in AI-regulering

Deze discussie is extra belangrijk omdat het recente verleden heeft aangetoond dat de Europese Unie een steeds grotere rol speelt als wereldwijde wetgever op het gebied van digitale technologie. Standaarden en regels die de EU oplegt worden vaak wereldwijd overgenomen, omdat het eenvoudiger is voor internationale bedrijven om zich aan één set regels te houden.

Een bekend voorbeeld hiervan is de General Data Protection Regulation (GDPR), de Europese privacywetgeving. Ook buiten de EU passen veel bedrijven hun datasystemen aan om te voldoen aan de GDPR, om toegang tot de Europese markt te behouden.

De EU AI Act heeft dus ook de potentie om een wereldwijde standaard te worden voor het reguleren van AI-systemen. Als bedrijven hun AI-producten op de Europese markt willen aanbieden, zullen ze moeten voldoen aan de regels. En vaak zullen ze deze standaard doorvoeren in hun wereldwijde operaties, waardoor de EU-regels de facto een mondiale impact krijgen.

In de beperking toont zich de meester

Kortom: hoewel het begrijpelijk is (en zelfs constructief kan werken) dat critici kanttekeningen zetten bij de mogelijke nadelen van de wet, worden de bovengenoemde voordelen onderbelicht. Scherpe richtlijnen zijn absoluut nodig om het vertrouwen in en de acceptatie van AI te vergroten.

Voor ontwikkelaars betekent het dat we creatief moeten zijn om binnen de kaders te werken aan AI-oplossingen die impact maken. Immers: wie een onbeperkt budget en tijd heeft en niet gebonden is aan wet- en regelgeving, zal zich ook niet gedwongen voelen om creatief met oplossingen te komen. In de beperking toont zich de meester.