Opkomst kunstmatige intelligentie vraagt om ethische kaders

Datagedreven organisaties en gelijke kansen

Veel bedrijven zitten midden in de transitie naar een meer datagedreven organisatie. De grote hoeveelheden data die we tot onze beschikking hebben, stelt ons in staat sneller, efficiënter en meer gestandaardiseerd te werken. Maar als we ook in het contact met klanten steeds nadrukkelijker varen op een algoritme, moeten we er wel op kunnen vertrouwen dat die iedereen een gelijke kans geeft. Het aloude ‘the computer says no’ als einde van alle tegenspraak blijft daarin het schrikbeeld.

Juridische kaders voor betrouwbare AI

Om dat te voorkomen, komen toezichthouders en brancheorganisaties steeds vaker met regels en richtlijnen. De Europese Commissie publiceerde in april 2021 conceptmaatregelen voor ‘excellente en betrouwbare’ AI. Ook nationaal bestaan er inmiddels normenkaders die zijn geïnspireerd op de Europese normen. Zo heeft het Verbond van Verzekeraars een ‘Ethisch kader data-toepassingen’ opgesteld die normen voor verzekeraars definieert. 

Waardengedreven discussie ethiek is grijs gebied

Ingewikkeld aan het voldoen aan deze normen is dat ethiek over waarden gaat, en daardoor een grijs gebied is. Het bedrijfsleven is snel geneigd die complexe discussie over te laten aan academici. Bovendien, worden klanten niet per definitie ongelijk behandeld? Ook nu hebben klanten van verschillende groottes te maken met verschillende tarieven. Ook nu al krijgen mensen met een kleine portemonnee minder snel een hypotheek. Ongelijkheid is een ‘fact of life’, daar hebben we AI niet voor nodig.

Inzichtelijke algoritmes voor eerlijk en transparant proces

Toch is het te makkelijk om de discussie daarmee af te doen. Hoewel we structurele ongelijkheid niet makkelijk kunnen wegnemen, is het wél mogelijk een proces eerlijk en transparant te laten verlopen. Het kan inderdaad gebeuren dat een algoritme een aanvraag afwijst. Maar dan is het vooral zaak het oordeel inzichtelijk te maken voor de klant en na te gaan of het oordeel niet afhankelijk is van zaken die er niet toe zouden moeten doen, zoals geslacht, huidskleur of geloofsovertuiging. En als de klant een medewerker wil spreken voor uitleg, moet dat mogelijk zijn. Zoals de Europese Commissie terecht stelt: ‘Mensen moeten vertrouwen hebben in wat AI hun biedt.’

Bedrijven, tuig een professionele ‘data science’-organisatie op

Daar ligt de opdracht voor bedrijven: doordenk alle methodes, organiseer interne tegenspraak en voorkom dat inconsistenties of vooroordelen ongemerkt de code insluipen. Een absolute voorwaarde voor ethisch gebruik van data en algoritmes is een professionele ‘data science’-organisatie, in de vorm van functionerend ‘change management’ op de gebruikte computercode, het gebruik van kwalitatief hoogwaardige train- en testdata, duidelijke processen en governance rondom het gebruik van data en algoritmes, en grondige documentatie. Pas daarna kun je beoordelen of je voldoet aan de (branchespecifieke en/of wettelijke) normen rond AI en ethiek.

Versnelde acceptatieprocessen bieden commerciële kansen

In het licht van het voorstel van de Europese Commissie – dat onderscheid maakt in risicoklassen – zouden bedrijven zichzelf op dit punt kritisch tegen het licht moeten (laten) houden. Dat is ook broodnodig, omdat er nog veel onzekerheid bestaat rondom dit onderwerp doordat wet- en regelgeving nog volop in ontwikkeling is. Acceptatieprocessen rond AI-toepassingen binnen bedrijven kunnen daardoor soms maanden in beslag nemen; als de juridische afdeling twijfelt doordat richtlijnen rondom het gebruik van AI binnen het bedrijf ontbreken, is het in de praktijk een ‘nee’. Daarmee laten bedrijven veel commerciële kansen liggen en maken zij niet optimaal gebruik van wat data-wetenschappers te bieden hebben.

Bovendien is het een mooi gesprek voor bedrijven om te voeren. Ethiek raakt de kern van de cultuur en de waarden van een bedrijf. Ga het gesprek met open vizier aan. Wie erin slaagt duidelijke ethische kaders te scheppen en te borgen in processen voor gebruik van data voorkomt niet alleen reputatieschade, maar blijft ook de concurrentie voor op weg naar een datagedreven toekomst.