Als de instructies van uw AI agent niet meer in het vak passen

Een agent beantwoordt vragen van leveranciers. In de eerste week zijn zijn instructies tien regels lang: voor wie hij werkt, welke toon hij gebruikt en wanneer hij een vraag doorgeeft aan een mens.

In de derde maand zijn er regels voor late leveringen, voor de twee leveranciers die in dollars factureren, voor vragen over de nieuwe raamovereenkomst en een lijst met woorden die de agent nooit mag gebruiken. Op een middag voegt iemand nog één regel toe, maar het scherm wil niet meer opslaan. Het vak is vol.

Iemand vraagt een AI-assistent om de tekst korter te maken. Nu past hij wel. Niemand controleert regel voor regel of de ingekorte tekst nog hetzelfde zegt als de oorspronkelijke versie.

Eén bouwer meldde dat hij al kort na de start tegen een limiet van 8.000 tekens voor agentinstructies aanliep. Hij liet een AI-assistent de tekst inkorten tot ongeveer 5.000 tekens, hield de tekst leesbaar en gaf aan dat de agent even consistent bleef werken.

Een andere bouwer meldde dat een agent, nadat deze meer instructies en kennis had gekregen, af en toe vastliep op een tokenlimiet. Dat is de grens aan hoeveel tekst een model kan verwerken. Een andere deelnemer aan hetzelfde forum merkte op dat er geen waarschuwing verschijnt voordat die grens is bereikt.

Twee meldingen, twee verschillende grenzen. De eerste betrof de limiet van het invoervak. De tweede betrof de limiet van het model. Inkorten hielp bij de eerste, maar verandert niets aan de tweede. Het zorgt er alleen voor dat u die grens later bereikt.

Een AI agent is een model dat op basis van instructies werkt en tools gebruikt (lees wat een AI agent is). De instructies lopen tegen drie grenzen aan:

• Het invoervak: hoeveel tekst de tool u laat opslaan.
• Het model: hoeveel tekst het model in één keer kan verwerken. De instructies delen die ruimte met al het andere in de aanroep: de taak, de resultaten van tools en het gesprek tot dan toe. De instructies worden meestal bij elke aanroep opnieuw naar het model gestuurd. Elke extra alinea telt dus telkens mee.
• De reviewer: hoe langer de tekst, hoe moeilijker het voor iemand is om te zien wat er is veranderd en waarom.

In EpicStaff vormt het invoervak geen beperking. EpicStaff stelt geen lengtelimiet aan de instructies van een agent. De werkelijke grens wordt bepaald door hoeveel tekst het door u gekozen model accepteert.

Daarmee verandert de vraag. Het gaat niet langer om de vraag of de tekst past, maar om de vraag of alles erin thuishoort. Vraag bij het vergelijken van agentbuilders naar alle drie de grenzen. Lees meer in waar u op let bij een AI-agentbuilder.

Lees uw lange instructies door en deel elke regel in bij een van deze drie soorten.

• Regels voor elke taak. Voor wie de agent werkt, welke toon hij gebruikt, wat hij nooit mag doen en wanneer hij een vraag doorgeeft aan een mens. Dit zijn de instructies van de agent.
• Aanwijzingen voor één taak. De stappen die moeten worden gevolgd bij een vraag over een late levering, of de opmaak van één rapport. Deze horen bij de betreffende taak.
• Naslagmateriaal. Prijslijsten, contractvoorwaarden en leverancierslijsten. De agent zoekt hierin informatie op, maar deze documenten zijn geen instructies die hij moet opvolgen.

Naslagmateriaal vormt vaak het grootste deel van de tekst en is meestal het makkelijkst te verplaatsen. Veel platforms laten een agent dit materiaal doorzoeken wanneer hij het nodig heeft. Maar informatie opzoeken is niet hetzelfde als instructies opvolgen. De agent ziet de fragmenten die bij zijn zoekopdracht worden gevonden, niet noodzakelijk de volledige tekst. Een regel die de agent altijd moet volgen, hoort daarom niet in doorzoekbaar materiaal. Die hoort in de instructies.

De eigen instructies van een agent zijn vaste tekst die bij de agent wordt opgeslagen. De instructies van een taakstap kunnen {placeholders} bevatten. Tijdens een run worden deze ingevuld met waarden die eerdere stappen in de flow hebben opgeleverd.

De regels die voor elke taak gelden, legt u dus één keer vast bij de agent. Aanwijzingen voor één specifieke taak zet u in de taakstap die deze uitvoert. Waarden die per run verschillen, zoals de naam van een leverancier of een ordernummer dat een eerdere stap heeft gevonden, neemt u als placeholder op in de instructies van de stap.

Zo blijven de instructies van de agent kort en stabiel. Elke stap bevat alleen wat die stap nodig heeft.

Een opgeslagen flowversie bewaart de eigen instructies van elke taakstap. De hoofdinstructies van de agent worden bij de agent opgeslagen en door verschillende flows gedeeld. Daarom gebruikt een oudere flowversie de huidige instructies van de agent.

Dat is belangrijk wanneer u teruggaat naar een oudere flowversie. De taakstappen worden hersteld zoals ze waren, maar de hoofdinstructies van de agent blijven zoals ze nu zijn. Wijzigt u de hoofdinstructies van een agent, dan werkt elke flow die deze agent gebruikt voortaan met de nieuwe tekst.

Bewaar daarom zelf een kopie van elke versie van de hoofdinstructies van de agent, met de datum en de reden voor de wijziging.

Wie een flow heeft gewijzigd, en wanneer: Iemand heeft de flow vrijdag gewijzigd. Niemand weet wie.

U kunt agents en hun instructies aanmaken en wijzigen via de REST API van EpicStaff. U bent daarvoor dus niet beperkt tot het scherm.

Zo geeft u de lange tekst een betere plek dan een invoervak. Bewaar de instructies van de agent als tekstbestand in uw eigen versiebeheer. Beoordeel wijzigingen zoals u dat bij andere wijzigingen doet. Stuur de nieuwe tekst daarna via de API naar de agent.

Wees duidelijk over wat dit inhoudt. De agent leest het bestand niet zelf. Telkens wanneer u de tekst verstuurt, wordt deze bij de agent opgeslagen. Het bestand legt vast wat de tekst was, wie deze heeft gewijzigd en waarom.

Meer over agents als code: Als uw agents alleen in een scherm bestaan, zijn ze niet echt van u.

Stel uzelf bij elke nieuwe regel vier vragen, in deze volgorde.

1. Geldt deze regel voor elke taak van de agent? Dan hoort hij in de instructies van de agent. Houd er rekening mee dat elke flow die deze agent gebruikt, de regel ook meekrijgt.
2. Gaat de regel over één specifieke taak? Dan hoort hij in de betreffende taakstap.
3. Verschilt de waarde per run? Dan gebruikt u een placeholder die door een eerdere stap wordt ingevuld.
4. Gaat het om informatie die de agent moet opzoeken, en niet om een instructie die hij moet opvolgen? Dan blijft die informatie buiten de instructies, als naslagmateriaal.

Past een regel bij geen van deze vier categorieën, vraag u dan af of de agent die regel wel nodig heeft.

De leveranciersagent uit het begin had geen groter invoervak nodig. De tekst moest beter worden ingedeeld.