Wanneer AI overgaat van conversatie naar actie: governance van agentic AI

De afgelopen jaren hebben organisaties onder meer AI-inventarisaties, risicoclassificaties, goedkeuringsprocessen en beheersmaatregelen voor privacy, security, fairness, transparantie en menselijk toezicht ontwikkeld. Die basis blijft relevant. Wel introduceert agentic AI een ander governancevraagstuk.

Een AI-agent kan systemen benaderen, in meerdere stappen naar een doel toewerken, communiceren met klanten of leveranciers, gegevens aanpassen, transacties initiëren en samenwerken met andere agents. Het onderliggende managementvraagstuk is vertrouwd: hoe delegeer je bevoegdheden zonder de controle te verliezen?

De focus van AI-governance verschuift van voornamelijk modellen en use cases naar gedelegeerde bevoegdheden binnen bedrijfsprocessen en, in toenemende mate, netwerken van agents. Neem een inkoopproces als voorbeeld. Een generatieve AI-assistent kan leveranciersvoorstellen analyseren en een voorkeursleverancier aanbevelen. Een mens besluit vervolgens wat er gebeurt. Een agentic AI-systeem kan verder gaan: offertes opvragen, communiceren met systemen van leveranciers, aanbiedingen vergelijken, binnen bepaalde kaders onderhandelen, het inkoopsysteem bijwerken en een bestelling initiëren.

De onderliggende AI hoeft niet wezenlijk anders te zijn, maar de gevolgen voor de organisatie zijn dat wel. Een aanbeveling met hallucinaties is een betrouwbaarheidsprobleem. Een hallucinatie die resulteert in een inkooporder heeft een tastbaar bedrijfsgevolg. Bestaande AI-governance kan daarom niet één-op-één worden toegepast op agents.

Twee dimensies zijn in dit kader specifiek van belang: autonomie en handelingsruimte. Autonomie beschrijft hoe zelfstandig een agent kan bepalen hoe een doel wordt bereikt. Handelingsruimte beschrijft wat de agent op basis van zijn tools en toegangsrechten daadwerkelijk kan doen. Een agent kan veel vrijheid hebben om te bepalen hoe een taak wordt uitgevoerd, maar bijvoorbeeld alleen interne informatie kunnen lezen. Een andere agent kan een strak voorgeschreven proces volgen, maar wel bevoegd zijn om geld over te maken. Beide dimensies zijn relevant. De praktische implicatie voor organisaties is duidelijk: de gevolgen die een agent kan veroorzaken zijn minstens zo relevant als de kwaliteit van wat de agent genereert.

Veel organisaties hebben governanceprocessen ingericht waarin een AI-use case wordt geregistreerd, op risico wordt geclassificeerd, beoordeeld en goedgekeurd. Dat blijft nuttig, maar voor een agentic use case zoals een ‘klantenservice agent’ is dit niet toereikend.

Stel dat deze agent klantgegevens kan ophalen, een adres kan wijzigen, een bestelling kan annuleren, zelfstandig een terugbetaling tot 50 euro kan uitvoeren, voor een hogere terugbetaling menselijke goedkeuring kan vragen en een contract kan beëindigen. Dat is niet één governanceprofiel. Het zijn verschillende vormen van gedelegeerde bevoegdheid, met verschillende mogelijke gevolgen.

Hier kan een digitaal mandaat uitkomst bieden. In plaats van de agent als één geheel goed te keuren, beschrijft het mandaat welk doel de agent heeft, welke beslissingen hij kan nemen, welke acties hij zelfstandig kan uitvoeren, tot welke systemen en data hij toegang heeft, waar grenzen gelden en wanneer menselijke betrokkenheid nodig is.

De kern is om autonomie toe te kennen aan afzonderlijke beslissingen en acties, in plaats van een volledige agent als ‘autonoom’ of ‘human-in-the-loop’ te bestempelen. Binnen hetzelfde mandaat kan een agent sommige beslissingen zelfstandig nemen, voor andere goedkeuring nodig hebben en bepaalde beslissingen escaleren naar een persoon. Dat leidt tot een relevante organisatievraag: ‘Voor welke beslissingen zijn we bereid te verschuiven van “AI adviseert en een mens beslist” naar “AI beslist en een mens houdt toezicht”?’

Het versnellen van agentic AI hoeft niet te betekenen dat agents overal maximale autonomie krijgen. Een meer bruikbare aanpak is om de mate van autonomie af te stemmen op de gevolgen van een actie en op het vermogen van de organisatie om fouten te detecteren en terug te draaien. Vier factoren die daarbij praktisch relevant zijn om mee te nemen: de mogelijke impact van een onjuiste actie; de mate waarin de actie kan worden teruggedraaid; de gevoeligheid van de betrokken data of systemen; en de mogelijkheid om op een betekenisvolle manier menselijk toezicht in te richten.

Een agent voor het plannen van afspraken kan bijvoorbeeld relatief zelfstandig werken, omdat fouten zichtbaar en eenvoudig te herstellen zijn. Een klantenservice-agent kan zelfstandig kleine bedragen terugbetalen, maar boven een bepaalde grens om goedkeuring vragen. Een HR-agent kan sollicitatiegesprekken plannen en vragen over HR-beleid beantwoorden, terwijl beslissingen over aanname, disciplinaire maatregelen en ontslag bij mensen blijven.

Autonomie wordt daarmee een managementkeuze in plaats van alleen een technische eigenschap. Die autonomie kan bovendien in de loop van de tijd worden uitgebreid. Als monitoring laat zien dat een agent binnen een afgebakend mandaat betrouwbaar functioneert, kan de organisatie ervoor kiezen dat mandaat verder uit te breiden. Governance wordt daarmee een mechanisme dat opschaling mogelijk maakt in plaats van belemmert.

Bij eerdere vormen van AI-governance wordt menselijke beoordeling vaak als laatste waarborg ingezet. Dat wordt lastiger naarmate het volume en de snelheid van agentic activiteiten toenemen. Als een agent tien aanbevelingen per week doet, kan een medewerker die daadwerkelijk beoordelen. Als meerdere agents duizenden acties uitvoeren, kan het toevoegen van goedkeuringsmomenten bij iedere stap vooral de schijn van controle creëren, terwijl tegelijkertijd alert fatigue en automation bias ontstaan. In plaats van te vragen ‘Is er een mens in de loop?’, is het nuttiger om te vragen: ‘Op welke momenten verlaagt menselijk oordeel het risico daadwerkelijk?’

Dat kan bijvoorbeeld betekenen: goedkeuring vóór een onomkeerbare actie, interventie wanneer vooraf bepaalde risico-indicatoren worden geraakt, menselijke behandeling van uitzonderingen in plaats van routinematige controles, of steekproefsgewijze controle achteraf bij activiteiten met een laag risico. Ook de effectiviteit van dat toezicht kan worden gevolgd, bijvoorbeeld aan de hand van het aantal keren dat mensen een beslissing van de agent aanpassen, de doorlooptijd van goedkeuringen, terugkerende uitzonderingen en signalen dat beoordelaars aanbevelingen van de agent vrijwel automatisch accepteren.

Hier speelt ook een personeelsvraagstuk. Als mensen steeds vaker toezicht houden op werk dat zij niet meer zelf uitvoeren, heeft de organisatie nog steeds voldoende expertise nodig om te herkennen wanneer de agent een fout maakt. Een beheersingsomgeving die afhankelijk is van menselijk vakmanschap wordt zwakker wanneer dat vakmanschap in de praktijk niet langer wordt ontwikkeld.

Agentic workflows kunnen het eigenaarschap minder zichtbaar maken. Een ontwikkelaar bouwde de agent. IT beheert het platform. Een leverancier levert het model. De business is eigenaar van het proces. De Risk-functie bepaalde het beleid. Een medewerker startte de workflow. Wie is dan verantwoordelijk voor de uitkomst? Het antwoord kan in ieder geval niet ‘de agent’ zijn. Autonomie kan worden gedelegeerd; organisatorische verantwoordelijkheid niet.

Voor ieder agentic proces met mogelijk significante gevolgen kan een specifieke menselijke eigenaar worden aangewezen die het mandaat begrijpt, het restrisico accepteert, de toegekende bevoegdheden kan aanpassen en de agent indien nodig kan stopzetten. Die persoon hoeft niet iedere actie goed te keuren, net zoals managers niet iedere handeling van medewerkers goedkeuren. Voor het senior management is vooral inzicht nodig in welke agents namens de organisatie handelen, welke bevoegdheden zij hebben, wie voor die bevoegdheden verantwoordelijk is en of deze nog steeds passend zijn.

Bestaande AI-governance heeft data governance al nadrukkelijker op de agenda gezet. Agents introduceren een aangrenzend vraagstuk: op welke kennis binnen de organisatie mogen zij vertrouwen wanneer zij acties uitvoeren?

Neem een HR-agent die een vraag van een medewerker behandelt. De agent vindt een beleid dat vorige maand is bijgewerkt, een oudere procedure op SharePoint, een e-mail van een manager waarin een uitzondering wordt beschreven en historische gevallen waarin teams verschillend hebben gehandeld. Een medewerker begrijpt mogelijk dat deze bronnen niet allemaal hetzelfde gezag hebben. Voor een agent moet die hiërarchie expliciet zijn in de omgeving waarin hij opereert.

Dit is relevant omdat de gevolgen van kennis van lage kwaliteit veranderen zodra AI op basis daarvan kan handelen. Bij generatieve AI kan verouderde informatie leiden tot een antwoord van lage kwaliteit. Bij agentic AI kan diezelfde verouderde informatie honderden verkeerde acties aansturen. Wanneer AI verschuift van het genereren van informatie naar het handelen op basis daarvan, wordt knowledge governance onderdeel van de operationele beheersingsomgeving. Daarbij komen vragen naar voren zoals: welke bronnen zijn leidend, wie is eigenaar, hoe wordt verouderde informatie verwijderd, hoe worden tegenstrijdigheden opgelost en kan de organisatie achteraf reconstrueren op welke informatie een agent zijn handelen heeft gebaseerd?

De governance-uitdaging wordt complexer wanneer agents met andere agents gaan communiceren. Een inkoopagent kan bijvoorbeeld communiceren met de verkoopagent van een leverancier. Een logistieke agent kan afstemmen met een vervoerder. De persoonlijke agent van een klant kan rechtstreeks communiceren met de service-agent van een organisatie. Op dat moment heeft de organisatie niet langer controle over de volledige interactie. Zij kan haar eigen agent beheersen, maar niet noodzakelijk de agents waarmee deze communiceert. Wanneer agents over organisatiegrenzen heen communiceren en transacties uitvoeren, gaat governance daarom niet alleen meer over de eigen agent. Ook relevant wordt de vraag welke andere agents deze agent kan vertrouwen, welke informatie ermee kan worden gedeeld en welke afspraken zij namens partijen mogen maken.

Dit wijst op een opkomende risicocategorie: tegenpartij-risico van agents. Wanneer de ene agent transacties uitvoert met een andere, ontstaan nieuwe vragen. Namens wie handelt de andere agent? Welke afspraken mag deze maken? Welke informatie mag onze agent delen? Kan de andere agent weer andere agents inschakelen? En wie is verantwoordelijk als er iets misgaat?

Een volledige governancearchitectuur voor een ‘agent network’ is vandaag nog niet nodig. Organisaties die agents willen opschalen kunnen er in hun ontwerp wel rekening mee houden dat toekomstige wederpartijen niet altijd mensen zullen zijn.

Het doel van deze zes aandachtsgebieden is niet méér governance, maar governance die meer autonomie mogelijk maakt:

1. Agentregister. Een uitbreiding van de bestaande AI-inventarisatie kan inzicht geven in welke agents actief zijn, wie eigenaar is, tot welke tools en systemen zij toegang hebben, op welke kennis zij vertrouwen, welke bevoegdheden zij hebben en met welke externe agents of diensten zij kunnen communiceren.
2. Agentmandaten. Een mandaat maakt onderscheid tussen technische mogelijkheden en organisatorische bevoegdheden. Het kan vastleggen welke beslissingen en acties zijn toegestaan, welke grenzen gelden, wanneer escalatie nodig is en wie verantwoordelijk is. Een prompt kan een agent vertellen wat hij mag doen. Toegangsrechten en systeemcontroles bepalen wat hij daadwerkelijk kan doen.
3. Autonomieniveaus. Acties kunnen worden ingedeeld op basis van impact, omkeerbaarheid, gevoeligheid en onzekerheid. Acties met beperkte gevolgen kunnen meer autonomie krijgen, terwijl bij acties met grotere gevolgen controlepunten kunnen worden ingebouwd of de beslissing bij mensen kan blijven.
4. Menselijk toezicht. Menselijk oordeel voegt vooral waarde toe op momenten waarop het risico daadwerkelijk verandert, in plaats van bij iedere stap. Patronen in menselijke goedkeuringen en correcties en terugkerende uitzonderingen kunnen laten zien of het toezicht betekenisvol blijft en of beoordelaars voldoende expertise behouden om de agent kritisch te beoordelen.
5. Knowledge governance. Agentic handelen hangt af van welke bronnen de agent als gezaghebbend beschouwt. Duidelijk eigenaarschap en correctiemechanismen helpen het operationele risico van verouderde, tegenstrijdige of onjuiste data en kennis te beheersen.
6. ‘Agent-to-agent’-interactie. Wanneer agents over organisatiegrenzen heen met elkaar communiceren, worden identiteit, authenticatie, toegangsrechten, het delen van informatie, logging en beheersing van wederpartijrisico onderdeel van het governanceontwerp.

Governance en versnelling van AI-toepassing worden vaak als tegengestelde doelen gepresenteerd: meer autonomie creëert meer waarde, maar ook meer risico; meer governance verlaagt het risico, maar vertraagt de adoptie. Agentic AI biedt een andere manier om naar die afweging te kijken.

Als een organisatie geen onderscheid kan maken tussen een agent die een document leest en een agent die geld kan overmaken, ligt het voor de hand om beide voorzichtig te behandelen. Wanneer mandaten, toegangsrechten, autonomieniveaus, escalatiepaden en verantwoordelijkheden expliciet zijn, ontstaat een duidelijkere basis om te bepalen waar meer autonomie passend is.

De eerste generatie AI-governance draaide grotendeels om de vraag: kunnen we het systeem en zijn output vertrouwen? Agentic AI voegt daar een tweede vraag aan toe: welke bevoegdheden kunnen we aan het systeem toevertrouwen? En wanneer agents over organisatiegrenzen heen met elkaar gaan communiceren, volgt een derde: hoe beheersen we gedelegeerde bevoegdheden wanneer geen enkele organisatie de volledige interactie controleert?

Organisaties beginnen daarbij niet vanaf nul. Bestaande manieren om gedelegeerde bevoegdheden te beheersen omvatten al mandaten, goedkeuringslimieten, least privilege, functiescheiding, gezaghebbende beleidsdocumenten, toezicht, audit trails en accountability. Een deel daarvan is goed toepasbaar op agents. Andere mechanismen zullen zich verder moeten ontwikkelen, omdat agents op machinesnelheid kunnen handelen, fouten op grote schaal kunnen herhalen en kunnen communiceren met systemen buiten de controle van de organisatie.

Het doel van agentic AI-governance is niet om mensen bij iedere actie betrokken te houden. Het is om de voorwaarden te creëren waaronder organisaties bevoegdheden kunnen delegeren zonder de controle te verliezen.

De vraag voor bestuurders is daarom niet langer alleen: ‘Wat kan AI voor onze organisatie doen?’ De vraag wordt ook: ‘Welke bevoegdheden zijn we bereid aan AI te geven - en hebben we de organisatie zo ingericht dat we daarbij de controle behouden?’