AI-agents vragen om mandaat, niet alleen om controle op output

Het verschil laat zich goed illustreren met inkoop. Een AI-assistent beveelt een leverancier aan, waarna een mens beslist. Een agent vraagt zelf offertes op, onderhandelt binnen kaders en plaatst de bestelling. De technologie kan vergelijkbaar zijn, maar de gevolgen zijn tastbaar. Een hallucinatie leidt dan direct tot een onjuiste order, en verouderde kennis kan honderden verkeerde acties aansturen. Ook dreigt de verantwoordelijkheid diffuus te worden, omdat ontwikkelaars, IT, leveranciers en de business allemaal een rol spelen.

De Boer pleit daarom voor een agentregister en voor heldere mandaten die vastleggen wat een agent mag, waar de grenzen liggen en wanneer escalatie nodig is. Een prompt beschrijft wat een agent mag, maar pas toegangsrechten en systeemcontroles bepalen wat hij kan. De mate van autonomie hangt af van de impact en omkeerbaarheid van acties. Menselijk toezicht hoort vooral op de momenten waarop het risico verandert, zoals vóór een onomkeerbare handeling. Agentic AI-governance draait daarmee niet om het afremmen van autonomie, maar om het besef dat je taken kunt delegeren, maar verantwoordelijkheid niet.

Dit is een samenvatting van het volledige artikel op de site van PwC.