Waarom wij geen Amerikaanse AI gebruiken

Vorige week zat ik in een gesprek met een ondernemer die net een nieuwe onderneming had opgezet. Halverwege begon hij over zijn team. Wie er was opgestapt, wie er al maanden ziek thuis zat, en wie er eigenlijk niet goed genoeg was maar op afstand werkte waardoor niemand het aandurfde te benoemen.

Dat is normaal in zo'n gesprek. Je moet die dingen weten om iemand te kunnen helpen. Maar het zette me wel aan het denken, want in mijn eigen systeem gaat zo'n gesprek automatisch door een AI die er een samenvatting van maakt. En die AI stond in Amerika.

Diezelfde week hebben we alles omgezet. Dit stuk gaat over waarom, en waarom ik denk dat jij er ook naar moet kijken, ook als je nooit software bouwt.

Het gaat niet over of het veilig is

Laat ik beginnen met wat het níet is, want daar gaat het gesprek meestal de mist in.

De grote Amerikaanse AI-aanbieders zijn niet onveilig. Ze lekken je data niet, ze verkopen hem niet door, en onder hun zakelijke voorwaarden trainen ze hun modellen ook niet op wat jij erin stopt. Dat staat gewoon in hun contracten en daar houden ze zich aan. Wie roept dat je data "op straat ligt" zodra je een Amerikaanse dienst gebruikt, verkoopt je meestal iets.

Het echte punt zit ergens anders. Het gaat over wie de baas is over jouw gegevens, onder welk recht dat valt, en wat er gebeurt als de omstandigheden veranderen.

Waar het wel over gaat

Amerikaanse bedrijven vallen onder Amerikaans recht. Dat betekent onder meer dat Amerikaanse autoriteiten in theorie toegang kunnen vorderen tot gegevens die een Amerikaans bedrijf beheert, ook als die gegevens fysiek in Europa staan. Dat is niet een complottheorie, dat is gewoon wetgeving die er is.

Voor de meeste bedrijven is dat een theoretisch risico waar ze nooit last van krijgen. Maar er zijn twee situaties waarin het van theoretisch naar praktisch verschuift.

De eerste is als je klant het vraagt. Wij verkopen aan scale-ups, en een deel daarvan zit in accountancy, zorg of financiële dienstverlening. Die doen leveranciersonderzoek voor hun beroep. Zij vragen niet "is het veilig", ze vragen "welke partijen krijgen onze gegevens te zien en onder welk recht vallen die". Op die vraag is "in Frankfurt, bij een Frans bedrijf" een beter antwoord dan "in Amerika, maar ze bewaren het maar even".

De tweede is als het politieke klimaat verandert. Handelsafspraken tussen Europa en Amerika over gegevensuitwisseling zijn de afgelopen vijftien jaar twee keer door de rechter ongeldig verklaard. Twee keer moesten duizenden bedrijven halsoverkop hun contracten herzien. Er is geen enkele reden om aan te nemen dat de huidige afspraken de laatste zijn.

En dat is het punt dat ik echt wil maken.

Het probleem is niet vandaag, het is over twee jaar

Als je nu een AI-functie bouwt in een Amerikaanse tool, werkt dat prima. Vandaag, morgen en volgend jaar waarschijnlijk ook.

Het probleem ontstaat als je er twintig functies op hebt gebouwd, driehonderd klanten aan hangen, en dan iets verandert. Een regel, een uitspraak, een klant die het contractueel eist. Op dat moment is overstappen geen middagje werk meer. Dan is het een project van maanden waarin je elk stukje van je product opnieuw moet nakijken, terwijl je klanten wachten.

Dat is precies de val waar generieke tools je in lokken. Je bouwt je processen in Monday, je automatiseringen in een Amerikaanse AI-koppeling, je gespreksverwerking in weer een andere Amerikaanse dienst. Elk voor zich een prima keuze. Bij elkaar een web waar je niet meer uitkomt zonder alles overhoop te halen.

Wat wij hebben gedaan

Drie dingen, en ik zet ze er expres concreet bij, want "wij nemen privacy serieus" is geen mededeling.

De AI-analyse is Frans. Alles wat je strategie, je cijfers, je doelen en je team analyseert draait op Mistral, een Frans bedrijf dat verwerkt op servers in de EU. Geen Amerikaanse aanbieder, geen Amerikaans moederbedrijf. Training op klantdata staat uit, en dat is een instelling die we kunnen laten zien in plaats van beloven.

De gespreksverwerking is Duits. We namen gesprekken op met een Amerikaanse dienst die vervolgens het hele transcript verwerkte. Dat is bij ons de gevoeligste stroom die er is, want in een goed gesprek zegt iemand alles. Dat loopt nu via tl;dv, een Duits bedrijf met opslag in Europese datacentra.

Namen van medewerkers gaan er sowieso niet uit. Dit is de belangrijkste, en hij staat los van welk land je kiest. Ons kwartaalrapport kijkt naar hoe individuele mensen presteren. Die namen worden vervangen door een neutrale aanduiding voordat er iets naar de AI gaat. De AI ziet dus wel dat iemand achterblijft, maar niet wie. In de app zie jij gewoon de naam.

Dat laatste is het soort maatregel waar je niets van merkt, en precies daarom deed niemand het. Een beoordeling van een medewerker die zelf niet weet dat hij naar een externe partij gaat, is niet iets wat je met een vinkje in een contract oplost.

De keuze die je zelf hebt

Je hoeft mijn keuze niet over te nemen. Er is een goed verhaal te maken voor het tegenovergestelde: de Amerikaanse modellen zijn op de zwaarste taken nog steeds beter, het aanbod is breder, en de koppelingen liggen klaar. Als je een consumentenproduct bouwt waar geen gevoelige gegevens in staan, is dit een non-discussie en moet je gewoon nemen wat het beste werkt.

Maar stel jezelf wel drie vragen voordat je de volgende AI-functie aanzet.

Ten eerste: wat gaat er precies naartoe? Niet in grote lijnen, maar letterlijk. Bij ons bleek dat er regels vertrokken in de vorm van "Jan de Vries: C-speler, prestatie 4 uit 10". Dat wist ik niet tot ik het naging.

Ten tweede: wat kost het me om over te stappen? Als het antwoord "dat weet ik niet" is, dan is het antwoord waarschijnlijk "veel". Zorg dat de aanbieder één instelling is en niet zesentwintig plekken in je systeem.

Ten derde: wat vertel ik mijn klant als hij het vraagt? Niet of je een goed antwoord kunt bedenken, maar of het antwoord waar is en waar blijft als hij doorvraagt.

Waarom dit meer is dan een technische keuze

Het aardige is dat deze exercitie ons meer heeft opgeleverd dan een beter verhaal. Doordat we alle AI-aanroepen op één plek moesten brengen, kwamen we erachter dat twee functies geen enkele begrenzing hadden op hun verbruik. Dat had zomaar een rekening kunnen worden. Ook vonden we een garantie in onze eigen verwerkersovereenkomst die we niet konden waarmaken, omdat hij verwees naar een regeling die we nooit hadden aangevraagd.

Dat is wat er meestal gebeurt als je één ding echt goed uitzoekt. Je vindt drie andere dingen die al een tijdje scheef stonden.

En dat is uiteindelijk waar het bij een besturingssysteem om draait. Niet dat je overal het beste gereedschap hebt, maar dat je weet wat er in je bedrijf gebeurt en dat je het kunt veranderen wanneer je dat wilt. Een AI die je niet kunt vervangen is geen gereedschap. Dat is een afhankelijkheid die je nog niet gevoeld hebt.

---

Wil je weten hoe wij dit precies hebben ingericht, of vraagt jouw klant naar je gegevensverwerking? Kijk op onze security- en compliancepagina of stuur me een bericht.