Wie controleert straks het algoritme van mijn zelfrijdende auto?

Hebt u ook wel eens een vacature en moet u daarvoor tientallen binnengekomen cv’s doornemen? Die tijd kunt u zich binnenkort besparen. Als het tenminste aan het Chinese bedrijf Seedlink ligt. Het bedrijf, dat dit jaar in Amsterdam zijn Europese hoofdkantoor opende, heeft een algoritme ontwikkeld waarmee het personeel voor multinationals selecteert.

André Mikkers – PwC-expert op het gebied van data-analyse

De sollicitanten beantwoorden drie vragen en hup, het talent komt vanzelf bovendrijven. De vraag is alleen of de selectie wel eerlijk gebeurt en het systeem niet onbedoeld mensen uit bepaalde bevolkingsgroepen bevoordeelt.

De ingebouwde computer maakt keuzes

Ander voorbeeld: als ik met mijn auto de weg op ga, moet ik nu nog beide handen aan het stuur houden en heb ik in principe controle over mijn rijgedrag. Straks, met mijn zelfrijdende auto wordt dat anders. Dan maakt de ingebouwde computer keuzes op basis van een door de fabrikant geprogrammeerd algoritme. Maar ben ik het daar dan wel mee eens?

Klopt het wat de fabrikant zegt?

Stel, er springt plotseling een spelend kind voor mijn zelfrijdende auto. Rijdt de auto dan links tegen een boom en is het maar de vraag of ik het overleef? Of stuurt hij naar rechts, waar een oude man loopt? En als ik op dat moment slechts vijf kilometer per uur rijd en de kans groter is dat het kind de aanrijding overleeft. Welke beslissing neemt mijn zelfrijdende auto dan? Voordat ik achter het stuur kruip, wil ik van de autoproducent graag horen welke opties er mogelijk zijn. En nog belangrijker: ik wil kunnen checken of het wel klopt wat de fabrikant zegt.

Voorspellend gedrag wordt groter

Het zijn spannende, maar tegelijk ook griezelige tijden. Door het analyseren van grote hoeveelheden data, oftewel big data, gaan we steeds meer naar voorspellend gedrag. We kunnen steeds meer in kaart brengen waar mogelijk risico’s ontstaan en daarmee zijn we ook in staat voortijdig in te grijpen.

Duidelijkere afspraken over privacy

Nu de digitale ontwikkelingen en daarmee de mogelijkheden toenemen, wordt het tijd dat we duidelijkere afspraken maken over privacy en het trekken van grenzen. Als ‘internetminded’ land kan Nederland daarbij het voortouw nemen of toch in elk geval de discussie aanzwengelen. Bij de vorming van het nieuwe kabinet zou het mooi zijn als er in het regeerakkoord een hoofdstukje aan de gevolgen van digitalisering wordt besteed.

Toezichthouders trekken aan de bel

Toezichthouders trokken daarover ook al aan de bel. De Autoriteit Financiële Markten (AFM) heeft de minister van Financiën gevraagd het toezicht in Europees verband te versterken. De AFM verwacht namelijk dat de financiële sector steeds meer gaat vertrouwen op data-analyses van externe bedrijven, zoals bij de bepaling van het risicoprofiel van de consument. De vraag is echter wie die externe bedrijven controleert.

Rol voor accountants

Daar zie ik een mooie rol voor accountants. Zij kunnen bij de controle van big data onderzoeken of bedrijven bij het gebruik van klantgegevens geen privacyregels schenden. Ook kunnen zij controleren of de verwerking van data door kunstmatige-intelligentiesystemen tot eerlijke conclusies leidt. En ze checken of het wel klopt wat de producent over de geprogrammeerde keuzes van mijn zelfrijdende auto zegt.

Concurreren op transparantie

Op den duur krijgt elke sector met datacontrole te maken en transparantie daarover zal de standaard worden. Bedrijven en organisaties kunnen zich dan van hun concurrenten onderscheiden door open te zijn over de manier waarop zij data gebruiken.

Contact

André Mikkers
Partner
Tel: +31 (0)88 792 63 48
E-mailadres

Volg ons