Dataresidentie voor AI agents: waar staat welke data en wat legt u vast in het contract?

Kort samengevat. Dataresidentie verwijst naar het land of de regio waar gegevens worden opgeslagen. Een AI agent verwerkt minstens vijf soorten gegevens, die elk op een andere locatie kunnen staan: de documenten die u aanlevert, de zoekindex die daarvan wordt gemaakt, de prompts en antwoorden die naar een modelprovider worden gestuurd, de systemen waarmee de tools van de agent werken en de registratie van elke run. Stel voor elk onderdeel afzonderlijk vragen en leg de antwoorden vast in het contract.

Dataresidentie betreft waar gegevens worden opgeslagen. Soevereiniteit omvat de bredere vraag wie het systeem beheert en welke wetgeving erop van toepassing is. Daarover leest u meer in Wat is sovereign AI?. Een cloudregio is een instelling in de console van een leverancier en heeft doorgaans alleen betrekking op de opslag van die leverancier.

Deze drie zaken worden vaak behandeld alsof ze hetzelfde betekenen. Een leverancier zegt dat het systeem in de EU wordt gehost. De klant leidt daaruit af dat alle gegevens in de EU blijven, terwijl het model achter de agent misschien ergens anders wordt aangeroepen. Niemand heeft gelogen. De vraag was simpelweg te algemeen om een bruikbaar antwoord op te leveren.

Splits de vraag daarom op. Waar bevindt elk gegeven zich, en wie kan er vanaf welke locatie bij?

De documenten die u aanlevert. Denk aan rapporten, contracten, tickets en spreadsheets. Deze zijn het eenvoudigst te lokaliseren en worden ook het makkelijkst over het hoofd gezien, omdat een pilot vaak begint met iemand die een map met bestanden uploadt.

De zoekindex die op basis van die documenten wordt opgebouwd. De meeste platforms zetten uw documenten om in een index waarin een agent informatie kan zoeken. Voor het opbouwen van die index wordt de tekst doorgaans naar een embeddingdienst gestuurd. Standaard is dat vaak een clouddienst. Dit is de stap die inkopers het vaakst verrast. Vraag er daarom expliciet naar: welke dienst bouwt de index, waar draait die en kunt u een dienst gebruiken die u zelf host?

De prompts en antwoorden. Elke stap die de agent uitvoert, stuurt tekst naar een model. Die tekst bevat de informatie waarmee de agent werkt. Draait het model bij een provider, dan vormt dit de grootste en meest continue stroom van inhoud die uw organisatie verlaat. De hostingregio van de leverancier dekt deze gegevensstroom niet automatisch.

De systemen waarmee de tools werken. Een tool die de agent aanroept, communiceert met een systeem dat zelf ook een locatie heeft. Wanneer een tool een database in het ene land raadpleegt en een samenvatting opslaat bij een dienst in een ander land, wordt daarmee een keuze gemaakt over de locatie van gegevens die nergens in het inkoopdossier is vastgelegd.

De registratie van de run en alle kopieën daarvan. Denk aan wat de agent heeft gedaan, plus back-ups, monitoringgegevens en eventuele toegang voor ondersteuning. Dit onderdeel wordt vaak als laatste onderzocht, terwijl een auditor er juist naar kan vragen. De locatie ervan is daarom net zo belangrijk als die van de documenten.

Wanneer u deze vijf onderdelen afzonderlijk bekijkt, ziet een eerlijk antwoord er meestal ongeveer zo uit: de documenten en de registratie blijven hier, de modelaanroepen gaan daarheen, de locatie van de zoekindex hangt af van de ingestelde embeddingdienst en ondersteuning komt vanaf een derde locatie, tenzij die toegang is uitgeschakeld.

Dat is een prima antwoord. Het is controleerbaar en maakt duidelijk waar u uw aandacht op moet richten. Eén algemene zin over het hele product, zoals 'alle gegevens blijven in de EU', is dat niet. Vraag in plaats daarvan om een overzichtelijke tabel met één rij per onderdeel hierboven, waarin voor elk onderdeel de locatie en de verantwoordelijke partij worden vermeld.

Eisen vastleggen voordat u een demo bekijkt, kost niets extra's. Legt u dezelfde eisen pas na de pilot vast, dan moet u mogelijk opnieuw onderhandelen.

• Een benoemde locatie per gegevenstype. Gebruik de vijf bovenstaande onderdelen als afzonderlijke rijen, niet één algemene verklaring voor alle gegevens.
• Welke modelproviders worden gebruikt. Leg ook vast wat er gebeurt als de leverancier een nieuwe provider wil toevoegen. Een nieuwe provider betekent een nieuwe locatie voor uw prompts.
• Of u de dienst voor het opbouwen van de zoekindex zelf kunt hosten. Leg ook vast wat de standaardinstelling is als u niets wijzigt. In de praktijk bepalen standaardinstellingen vaak waar gegevens terechtkomen.
• Toegang voor ondersteuning. Wie heeft toegang tot het draaiende systeem, vanuit welk land, met welke goedkeuring en wordt die toegang geregistreerd?
• Verwijdering en export. Welke gegevens krijgt u mee wanneer u vertrekt, in welk formaat en hoelang blijven kopieën in back-ups bewaard? Vraag expliciet naar de registraties van runs, niet alleen naar 'uw gegevens'.
• Melding van wijzigingen. U wilt vooraf bericht krijgen over een nieuwe subverwerker of een gewijzigde regio, niet pas achteraf via de release notes.

Laat één vraag over aan uw eigen juridisch adviseur, omdat die niet technisch van aard is: welke wetgeving is op de gegevens van toepassing zodra u weet waar ze zich bevinden? Locatie en rechtsbevoegdheid hangen met elkaar samen, maar betekenen niet hetzelfde.

Wanneer u de software in uw eigen omgeving draait, kunt u meerdere onderdelen tegelijk regelen. De documenten die u uploadt, de zoekindex die ervan wordt gemaakt en de registratie van elke run staan dan op infrastructuur die u zelf hebt gekozen. U bepaalt hoelang gegevens worden bewaard en wie toegang krijgt voor ondersteuning, en wanneer. Voor de zoekindex geldt wel een voorbehoud: het opbouwen ervan maakt gebruik van de ingestelde embeddingdienst. U weet dus pas waar dat deel van de gegevensverwerking plaatsvindt nadat u hebt gecontroleerd welke dienst is geconfigureerd.

Daarmee is de locatie van het model nog niet geregeld. Als de agent een model bij een provider aanroept, gaan prompts en antwoorden naar die provider, ongeacht waar de software zelf draait. Zelf hosten geeft u de keuze: u kunt de agent laten communiceren met een model dat u zelf host, of met een provider die u hebt geselecteerd en vastgelegd. Voor de inkoop is vooral van belang dat u die keuze zelf maakt en schriftelijk vastlegt.

Wees voorzichtig met productclaims waarin wordt beloofd dat er nooit gegevens naar buiten gaan. Een bruikbaardere belofte is specifieker en controleerbaar: de software maakt verbinding met de providers die u configureert, en een ingeschakelde tool bereikt het systeem waarnaar u die verwijst.