In deze aflevering van de AIToday Live Podcast praten Joop Snijder en Niels Naglé met Marijn van Aerle, CTO en medeoprichter van Floryn. Floryn is een bedrijf dat geld uitleent aan andere bedrijven met behulp van onder andere AI en software. Van Aerle legt uit hoe zij met behulp van explainable AI in staat zijn om snel te beoordelen of een bedrijf in aanmerking komt voor financiering en hoe zij ervoor zorgen dat hun besluitvorming transparant is.

Van Aerle legt uit dat Floryn zich richt op het uitlenen van geld aan bedrijven op een snelle en efficiënte manier. Zij beoordelen bedrijven op basis van hun transactiegegevens en kunnen zo veel sneller dan hun concurrenten beslissen of een bedrijf in aanmerking komt voor financiering of niet. Deze snelle besluitvorming is van groot belang voor ondernemers, omdat zij zo snel duidelijkheid krijgen over het al dan niet krijgen van financiering en verder kunnen met hun bedrijf.

Van Aerle legt uit dat Floryn al vanaf het begin van hun oprichting bezig is geweest met explainable AI, nog voordat dit een bekende term was. Dit komt doordat het uitlenen van geld een activiteit is die om veel transparantie vraagt. Van Aerle benadrukt het belang van een combinatie van mens en machine bij het nemen van beslissingen. Modellen zijn consistent en zonder bias, maar kunnen niet omgaan met nieuwe situaties. Door een team van underwriters aan het werk te laten gaan in combinatie met AI en ML, kan er snel beslist worden en zijn de underwriters in staat om feedback te geven op het proces.

Van Aerle legt uit dat Floryn gebruik maakt van transactiedata om hun beslissing te nemen. Ze kunnen in zes maanden tijd al een goed beeld hebben van een bedrijf en deze snelle beslissingsstructuur is van groot belang in een concurrerende markt. Het bedrijf bepaalt met behulp van onder andere machine learning modellen of een bedrijf in aanmerking komt voor financiering. Het team van underwriters kan feedback geven op deze modellen en zo tot een goede combinatie komen tussen mens en machine bij het nemen van beslissingen. Het uiteindelijke besluit wordt genomen door de onderwriters met ondersteuning van het model.

Van Aerle benadrukt dat Floryn altijd heeft gefocust op transparantie in hun beslissingen. Door explainable AI in te zetten zijn zij in staat om aan hun klanten uit te leggen hoe zij tot een beslissing zijn gekomen. Het bedrijf heeft inmiddels drie versies van hun explainability proces uitgerold en blijft hierin vernieuwen.

Hoewel goedkeuringen en afwijzingen volledig automatisch kunnen worden gedaan, vinden Snijder en Naglé het prettig om een mens naar de beslissingen te laten kijken. Met name bij afwijzingen, de belangrijkste categorie, is dit van belang. Een goedkeuring waarbij het misgaat, heeft namelijk een grotere impact dan een afwijzing. Daar komt bij dat wanneer geautomatiseerde beslissingen worden genomen die veel impact hebben op een persoon, de ondernemer verplicht is om uit te leggen hoe de beslissing tot stand is gekomen.

Doordat veel is geautomatiseerd, hebben medewerkers meer tijd over om persoonlijk contact met de ondernemer te hebben en beslissingen toe te lichten. Hierbij gaat het om het maken van duidelijke, begrijpelijke uitleg die op maat is gemaakt voor de individuele klant. Hierdoor kunnen eventuele onduidelijkheden worden weggenomen en kunnen ondernemers terugkomen voor een financieringsaanvraag in de toekomst.

Het verhaal van Floryn laat zien hoe belangrijk de uitlegbaarheid van AI-modellen is voor de toepassing ervan. Door te luisteren naar feedback van klanten en persoonlijk contact te onderhouden, kunnen AI-modellen beter worden gemaakt en kunnen klanten beter worden bediend. Uitlegbaarheid en persoonlijk contact blijven van groot belang, ook in een tijd waarin technologie steeds meer de boventoon voert.