‘Kunstmatige intelligentie gaat over technologie én over ethische afwegingen’
Kunstmatige intelligentie is bijzonder geschikt om data te analyseren en te doorgronden. Een ideale technologie voor de financiële sector dus. Maar hoe pas je dat op een mensgerichte en verantwoorde manier toe? AI-specialist Jim Stolze heeft daar uitgesproken ideeën over. ‘Er is behoefte aan extra aandacht voor de ethische kant van AI.’
“Vijf jaar geleden gaf ik in Amsterdam een TEDx-presentatie over kunstmatige intelligentie,” vertelt Stolze. “Toen stelde ik dat we niet bang moeten zijn dat robots onze jobs overnemen, maar dat we vooral moeten opletten voor ‘de robot in onszelf’. Want we doen dagelijks nog veel repetitieve en saaie taken waar we geen voldoening uit halen. Denk bijvoorbeeld aan cijfers overtypen in een spreadsheet. Spreadsheets zijn een vooruitgang tegenover papieren boekhouding, maar AI zal ons uiteindelijk ook daar weer van bevrijden.”
Minder tijd voor dom werk
Hoewel zijn publiek toen positief reageerde, was men nog niet volledig overtuigd. “Achteraf noemde men mij een techno-optimist,” lacht hij. “Maar kijk nu, vijf jaar later. De kijk op AI is grondig veranderd. En dat komt onder meer door het personeelstekort in veel sectoren. Hoe minder tijd mensen kwijt zijn aan onzinnig werk, hoe beter. De businesscase voor AI ligt vandaag voor het rapen.”
Meer aandacht voor ethiek
Volgens Stolze zijn we het experimenteerfase voorbij. Steeds meer bedrijven integreren AI in hun processen. Maar dat roept ook nieuwe vragen op. Daarom verkocht hij eerder dit jaar zijn AI-bureau Aigency, en richtte mee de Keuringsdienst van Data op.
‘Wij zijn, zeg maar, de “witte jassen” die bij organisaties de data checken op “bias”. Ook onderwerpen we hun algoritmen aan stresstesten waarbij we kijken hoe het zit met de uitlegbaarheid, reproduceerbaarheid en eerlijkheid. Aan die extra aandacht voor de ethische kant van AI is nu veel behoefte. Naast data engineers en een jurist, zitten er dus ook twee ethici en een filosoof in ons team.’
Socratische methode
Ook in de financiële sector blijkt die aanpak nuttig. Zo klopte de Autoriteit voor Financiële Markten (AFM) aan met de vraag om een blauwdruk voor AI-gebruik in de financiële dienstverlening.
‘We zeggen niet wat ze moeten doen, maar stellen vragen. Welke algoritmen gebruiken ze? Op welke datasets zijn die getraind? Welke data gebruiken ze wel en welke niet? Wie heeft die data aangeleverd? En welke labels zijn er gebruikt, die de data identificeren en markeren? Vraag voor vraag gaan we zo steeds meer de diepte in. De Socratische methode dus. En dat werkt goed, want op die manier komen bedrijven er snel achter wat nog aandachtspunten zijn.’
Als Keuringsdienst van Data zeggen we niet wat bedrijven moeten doen, maar stellen we vragen. Welke algoritmen gebruiken ze? En welke data? Zo gaan we de diepte in.
– Jim Stolze, medeoprichter Keuringsdienst van Data.
Binnen een paar seconden gepiept
‘Op het vlak van kunstmatige intelligentie gebeuren er in de financiële wereld momenteel al interessante dingen’, vervolgt hij. ‘Zo is het al mogelijk om via een app op je mobiele telefoon een woonverzekering af te sluiten. Het bedrijf achter die app kan dan op basis van je locatie en de data van bijvoorbeeld de woningmarkt en de omgeving binnen razendsnel bepalen welk bedrag je moet betalen. De verzekering afsluiten is daardoor binnen een paar seconden gepiept.’
Bij dit voorbeeld gaat het om supervised learning: het algoritme weet precies welke data belangrijk zijn en hoe het daarmee moet omgaan. Bij unsupervised learning wordt het vaak nóg interessanter. In dat geval kan een algoritme op basis van verschillende parameters aangeven welke transacties op elkaar lijken en daar dus clusters van maken. Blijven er transacties over die in geen van de clusters passen en waar het algoritme eigenlijk geen raad mee weet? Dan is dat volgens Stolze het ‘bakje’ waar je juist naar moet kijken. ‘Grote kans dat je daar informatie vindt waardoor je tot nieuwe inzichten komt. Ik zie AI dan ook als een samenwerking tussen mens en machine. Kunstmatige intelligentie is niet iets magisch en ook niet iets wat zijn eigen leven gaat leiden. Ik zie het vooral als een krachtig hulpmiddel dat mensen op allerlei vlakken verder kan helpen. Wat dat betreft ben ik nog steeds een techno-optimist.’
Ik zie AI als een samenwerking tussen mens en machine. Het is een krachtig hulpmiddel dat mensen verder kan helpen.
– Jim Stolze, medeoprichter Keuringsdienst van Data.
Voorspellen wanneer facturen worden betaald: de AI-oplossing van Payt
Algoritmen worden steeds geavanceerder. Zo ook de kwaliteit van de data. En waar het voor mensen heel lastig is om duizenden financiële transacties door te spitten en daarbij op zoek te gaan naar dingen die afwijken, zijn AI-toepassingen daar juist heel goed in. Dus besloot Payt om zelf een AI-toepassing te ontwikkelen. Maatschappelijk verantwoorde keuzes ‘Bij de bouw van onze AI-toepassing zijn we klein en simpel begonnen’, benadrukt Laura Baakman, software engineer bij Payt. ‘En dat zijn we nu stapje voor stapje aan het uitbreiden. Daarbij kijken we allereerst hoe we het algoritme kunnen leren om zo nauwkeurig mogelijk te voorspellen wanneer de debiteuren van onze klanten hun rekening zullen betalen. Daarbij spelen veel verschillende factoren een rol. Om welke branche gaat het? Gaat het om een particuliere klant of juist een zakelijke? We voegen steeds meer parameters toe. Daarbij zijn er ook zaken die een uitdaging vormen. Het toevoegen van de postcode bijvoorbeeld. Want is dat wel wenselijk, om de wijk waar iemand woont mee te laten wegen? Zelf vinden we het een twijfelgeval. Het gaat niet alleen om wat er technisch mogelijk is, maar ook hoe we dit op een maatschappelijk verantwoorde manier kunnen doen.’
De praktijk
De AI-module van Payt is sinds begin 2022 in bèta bij enkele klanten. Bij elke factuur zien medewerkers van de debiteurenadministratie wat de kans is dat een factuur te laat betaald wordt en wat de verwachte betaaldatum is. Met deze informatie kan de debiteurenadministratie hun aanpak beter bepalen. Zo kan de mededeling dat een debiteur waarschijnlijk te laat gaat betalen ervoor zorgen dat die klant net even sneller een betalingsherinnering ontvangt dan wat gebruikelijk is. Op termijn zal Payt de mogelijkheid bieden om over te gaan tot geautomatiseerde vervolgacties op basis van de betaal-kansberekening. ‘Dat doen we echter zeer zorgvuldig met aandacht voor alle kanten van AI, inclusief de ethische. Het begin is er en we kijken ernaar uit om de AI-module op korte termijn beschikbaar te stellen voor al onze klanten. Een ding is zeker, de mogelijkheden zijn enorm.’
Publicatie FD.nl: 03-04-2022
