Balans tussen streng en soepel

Veel bedrijven verwerken enorme hoeveelheden informatie en nemen op basis daarvan beslissingen. Dat kunnen banken en verzekeraars zijn, maar ook overheidsinstanties als de Belastingdienst of het UWV. Artificial intelligence (AI) maakt het mogelijk om deze data razendsnel te verwerken om op basis van algoritmen beslissingen te nemen. Wanneer komt iemand in aanmerking voor de vergoeding van geleden schade? Voor een hypotheek? Voor belastingaftrek of uitstel van betaling? Voor een arbeidsongeschiktheidsuitkering?

Meestal gaat dit goed. In het merendeel van de gevallen zal een datagedreven beslissing goed, redelijk en volgens de regels zijn en niet ter discussie staan. Algoritmen zullen ontworpen zijn volgens de meest voorkomende aspecten en variabelen. Maar net als mensen maken ook machines fouten. Bijvoorbeeld als er geen sprake is van een standaardsituatie en iemand onterecht geen uitkering, hypotheek of vergoeding ontvangt. Of andersom: als iemand die onterecht juist wél krijgt. Dit leidt tot een afweging: staat u toe dat de machines fouten maken of wil u elke fout voorkomen. Bent u streng of soepel?

Wij kunnen u helpen bij het beantwoorden van de volgende vragen:

  • Zijn de criteria die ik AI meegeef, in lijn met mijn purpose en waarden?
  • Voldoen ze aan wetten en regels? Ben ik er bijvoorbeeld zeker van dat mijn criteria niet discrimineren op grond van afkomst en religie? 
  • Wat is mijn rectificatieprocedure, mocht de machine tot een verkeerde beslissing zijn gekomen? 
  • Is er een procedure voor het regelmatig valideren van AI. Zijn er geen ongewenste resultaten door het zelfdenkend vermogen van de machine? 
  • Levert het mij daadwerkelijk besparingen op in het proces. Kan ik hierdoor beter, eenduidiger, of sneller handelen? Helpt dit mij om mijn klant beter te bedienen?

Compliance-expert Sylvie Bleker-van Eyk over de balans tussen streng en soepel

‘Je moet artificial intelligence je ziel meegeven’

‘Te streng of te soepel is nooit goed. Elk woord waar je ‘te’ voor zet, leidt tot problemen, In mijn vak is een accent op soepel niet acceptabel. Je moet de regels gewoon naleven. Compliancerisico’s zou je daarom wat strenger moeten benaderen. Maar als je de regels te streng naleeft, loop je het risico dat je in een afvinkcultuur terechtkomt of de hele supplychain stillegt. Je moet zoeken naar een evenwicht. Het is niet het een of het ander. Dat geldt ook voor het ontwerpen van algoritmes. 

Algoritmes moet je zorgvuldig ontwerpen en valideren. En je moet na een tijdje opnieuw valideren. Je bent niet in één keer klaar met programmeren. We staan aan het begin van een ontwikkeling en we kunnen nog niet overzien wat een zelfdenkende machine uiteindelijk doet. De keuzes die het algoritme maakt, moeten voldoen aan wetten en regels, maar ook aan de visie en de waarden waarbinnen je wilt werken. Die gebruik je voor het aangeven van criteria. AI kan zelf geen dilemmabeslissingen nemen. Daarom is het ontwerpen van een algoritme zo belangrijk. Wat voor mens of bedrijf ben je? Hoe kijk je tegen de wereld aan? Welke keuzes maak je op het grensvlak van technologie en mensen? Het is van belang dat als je AI inzet, je ook aan AI waarden en normen meegeeft die helpen bij het maken van keuzes. Je moet AI je ziel meegeven!

AI is zeer behulpzaam bij het nemen van goede beslissingen. AI heeft te maken gehad met meerdere vergelijkbare situaties. Als een machineonderdeel niet uitgevoerd mag worden wegens exportbeperkingen, geeft de computer een seintje. Maar hij komt ook met alternatieven, omdat hij die situatie al eerder bij de hand heeft gehad. En als de computer fouten heeft gemaakt? Dan moet je dat toegeven en oplossen. Je moet een rectificatietraject inrichten en daarvoor criteria opstellen, maar je hoeft echt niet meteen AI buiten werking te stellen.’ 

Uiteindelijk is artificial intelligence heel menselijk. Het maakt van ons perfecte, analytische denkers, door verbanden te leggen in een tijd en op een schaal die wij zelf nooit kunnen bereiken. Ik zie dat veel mensen angstig kijken naar de opmars van technologie, maar dat is niet nodig. Technologie kan veel goeds brengen. De computer neemt soms betere en meer objectieve  beslissingen dan wij kunnen. Een computer heeft geen moeite de rug recht te houden.’ 

Contact

Sylvie Bleker-van Eyk

Sylvie Bleker-van Eyk

Senior Director, PwC Netherlands

Tel: +31 (0)68 380 20 37

Volg ons