Wat is een AI-agent? Een duidelijke definitie en de drie dingen die er een veilig maken

Een AI-agent is software die een doel krijgt, zelf bepaalt welke stappen nodig zijn en tools gebruikt om die uit te voeren. U geeft de agent een opdracht, bijvoorbeeld: "controleer deze factuur aan de hand van de inkooporder en markeer alles wat niet overeenkomt". De agent bepaalt zelf in welke volgorde de stappen uitgevoerd worden, maakt verbinding met de systemen die hij nodig heeft en rapporteert vervolgens wat hij heeft gedaan. Dat maakt een agent anders dan een script: bij een script worden de stappen vooraf door een ontwikkelaar vastgelegd, terwijl een agent tijdens het uitvoeren zelf bepaalt welke stappen nodig zijn.

De definitie is bewust kort gehouden, zodat een manager deze in een vergadering kan herhalen. Op deze pagina leest u waaruit een agent bestaat, waar het mis kan gaan en welke drie dingen nodig zijn om een agent veilig te kunnen inzetten.

Deze vier termen worden vaak door elkaar gebruikt. Eén vraag maakt het verschil duidelijk: wie bepaalt de volgende stap?

	Wie bepaalt de stappen	Waar het bij kan	Sterkst in
Chatbot of assistent	U, per bericht	Het gesprek	Vragen beantwoorden, teksten opstellen
Automatiseringsscript	Een ontwikkelaar, vooraf vastgelegd	Alleen wat de ontwikkelaar heeft geprogrammeerd	Steeds dezelfde taak op dezelfde manier uitvoeren
Workflowtool	Iemand legt de stappen één keer vast, de tool herhaalt ze	De apps die u ermee verbindt	Grote volumes van "als dit, dan dat"
AI-agent	Een model, terwijl de taak wordt uitgevoerd	De tools die u de agent laat gebruiken	Werk waarbij de stappen per geval verschillen

Twee opmerkingen. Ten eerste lopen deze categorieën in de praktijk door elkaar: een workflowtool kan een agentstap bevatten en een agent kan worden opgedragen een vaste reeks stappen te volgen. Als u zelfgehoste workflowtools vergelijkt, behandelen we die in ons artikel over alternatieven voor zelfgehoste n8n. Ten tweede is "het model bepaalt" zowel het sterke punt als het risico: een agent kan omgaan met situaties waar niemand vooraf rekening mee heeft gehouden, maar kan daardoor ook een stap kiezen die u zelf niet zou hebben gekozen.

Uit vier onderdelen. Als u ze niet alle vier kunt zien, dan kijkt u naar iets anders.

• Een model. Het taalmodel dat de situatie leest en de volgende stap uitkiest. Het kan vervangen worden: dezelfde agent kan op een ander model draaien.
• Tools. Functies die de agent kan aanroepen: een bestand lezen, een database raadplegen, een e-mail versturen of een ticket openen. Via tools kan een agent daadwerkelijk iets veranderen. Zonder tools kan de agent alleen praten.
• Geheugen en kennis. Waartoe de agent toegang heeft: uw documenten, de status van de huidige taak en eerdere uitvoeringen. Hierdoor kan de agent resultaten leveren die specifiek zijn voor uw organisatie.
• Een runtime. De software waarin de agent wordt uitgevoerd: deze beheert de loop, roept het model aan, voert de tools uit, houdt de registratie bij en stopt de agent wanneer dat nodig is. Over de eerste drie onderdelen wordt veel gesproken, maar uiteindelijk koopt u het vierde.

De grens tussen een agent en al het andere is in elke serieuze definitie hetzelfde: bij een workflow ligt het pad al vóór de uitvoering vast in de code, terwijl bij een agent het model tijdens de uitvoering bepaalt welke route wordt gevolgd.

Drie problemen komen steeds weer terug. Geen van deze problemen is een modelprobleem.

De uitvoer van het model is niet de registratie. Een model kan tekst schrijven die leest als een verslag van wat het heeft gedaan. Dat is geen bewijs. De registratie moet uit de runtime komen: welke tool is uitgevoerd, met welke input en wat kwam eruit?

De menselijke controle verschuift. Teams beginnen met iemand die elk resultaat controleert. De agent blijkt meestal gelijk te hebben, het blijven controleren wordt vervelend en er wordt ongemerkt minder controle uitgevoerd. Er gaat niets mis en niemand krijgt een waarschuwing: de controle die u had ingebouwd is verdwenen, terwijl het proces op papier er nog hetzelfde uitziet.

Tools maken verbinding met echte systemen. Een agent met een databasetool kan gegevens in de database schrijven. De kostbare fout is zelden dat het model iets verkeerds zegt; het is een tool die daadwerkelijk iets uitvoert. Elke tool die u inschakelt, vergroot wat één verkeerde stap kan bereiken.

"Veilig" heeft hier een eenvoudige betekenis: u kunt de agent inzetten op plekken waar fouten geld kosten en achteraf aan een auditor uitleggen wat er is gebeurd.

1. Een registratie van elke uitvoering. De runtime schrijft deze, niet het model. Bewaar de stappen, invoer, uitvoer en tijdstippen zolang uw eigen regels dat voorschrijven en zorg dat u ze naar uw eigen systemen kunt exporteren. Dat is het verschil tussen iets beweren en bewijs.

2. Een duidelijke grens voor de machtigingen van tools. Bepaal welke tools elke agent mag aanroepen voordat de agent wordt uitgevoerd, niet pas nadat iets misgaat. Geef de agent de kleinst mogelijke set tools die nodig is om de taak uit te voeren en stel voor elke tool afzonderlijke grenzen in: welke map, welk account, welke gegevens. Begin met niets toestaan.

3. Een pauze bij stappen waarbij fouten grote gevolgen hebben. Bepaal die stappen op basis van de kosten van een fout, niet op basis van hoe vaak de stap voorkomt. Een document lezen is niet zo erg om fout te doen; een betalingsopdracht versturen of een bericht naar een klant sturen wel. Een ingebouwde pauze is betrouwbaarder dan een controle waarvan u hoopt dat mensen die blijven uitvoeren.

Deze drie beantwoorden wat een auditor of risicoverantwoordelijke zal vragen: wat heeft de agent gedaan, wat mocht hij doen en wie heeft de belangrijke onderdelen goedgekeurd?

Een agent leest uw documenten, gebruikt uw inloggegevens en maakt verbinding met uw systemen. Daarom hoort de vraag waar u de agent uitvoert bij de technologie zelf: op wiens infrastructuur draait hij, welk model wordt aangeroepen en wie beheert de registratie daarna? Als de registratie in de cloud van een leverancier staat, bent u voor uw overzicht van wat er is gebeurd afhankelijk van die leverancier. Als u de agent in uw eigen omgeving uitvoert, hebt u de drie bovenstaande zaken zelf in handen. We behandelen die kant in ons artikel over soevereine AI.