Agentic AI rukt op maar gebrek aan toezicht bedreigt consumentenvertrouwen

Onderzoek van Genesys, wereldwijd leider in cloudgebaseerde, door AI ondersteunde experience orchestration, laat een grote kloof zien tussen hoe bedrijven omgaan met AI en wat consumenten nodig hebben om het met vertrouwen te gebruiken. 

Terwijl vier op de vijf ondervraagde consumenten aangeven duidelijke regels te willen voor AI-interacties, zegt minder dan een derde (31 procent) van de zakelijke leiders dat hun organisatie beschikt over een volledig, organisatiebreed AI-beleid en bijbehorend toezicht.

Het onderzoek werd door Genesys samen met een onafhankelijk onderzoeksbureau uitgevoerd onder 4.000 consumenten en 1.600 CX- en IT-beslissers in meer dan tien landen. Ongeveer 200 respondenten kwamen uit Nederland.

Complex beeld

Nu agentic AI, autonome systemen die zelfstandig kunnen denken, handelen en beslissingen nemen, steeds vaker wordt ingezet in strategieën voor klantbeleving (Customer Experience, CX) van bedrijven, verwacht 91 procent van de ondervraagde CX-verantwoordelijken dat dit hen in staat zal stellen hun dienstverlening sneller, effectiever en persoonlijker te maken. Toch schetsen de gegevens een complex beeld: het enthousiasme over de transformatieve waarde van agentic AI is groot, maar de governance-structuren blijven achter, met risico’s voor consumentenvertrouwen, merkreputatie en naleving van regelgeving.

“Agentic AI opent nieuwe mogelijkheden waarmee organisaties hun klanten kunnen bedienen, maar het winnen van consumentenvertrouwen moet wel gelijke tred houden met die vooruitgang”, stelt Olivier Jouve, chief product officer bij Genesys. “Naarmate deze systemen meer verantwoordelijkheid krijgen, is het cruciaal dat bedrijven transparant en verantwoordelijk blijven in het gebruik ervan. Door van meet af aan de juiste waarborgen in te bouwen kunnen bedrijven blijvend vertrouwen opbouwen door klantbelevingen op een verantwoorde manier te innoveren, met een ongekend niveau van personalisatie en effectiviteit.”

Governance-kloof ondermijnt vertrouwen

Meer dan 90 procent van de ondervraagde CX-verantwoordelijken is het erover eens dat sterk toezicht essentieel is om:

· de merkreputatie te beschermen (91 procent),
· langdurig vertrouwen en loyaliteit bij klanten op te bouwen (91 procent),
· en het consumentenvertrouwen in autonome systemen te vergroten (90 procent).
· Toch zijn veel organisaties nog onvoldoende voorbereid. Meer dan een derde (35 procent) van de AI-verantwoordelijken geeft eerlijk toe dat hun organisatie weinig tot geen formeel beleid voor AI-governance heeft. Nog zorgwekkender: 28 procent van degenen zonder enig beleid denkt desondanks dat hun organisatie klaar is om agentic AI in te zetten.

Deze governance-kloof wordt nog problematischer in het licht van de zorgen van consumenten. Veel consumenten blijven terughoudend door een gebrek aan transparantie over hoe hun gegevens worden gebruikt en het ontbreken van duidelijk toezicht.

Zorgen over gebruik persoonlijke gegevens door AI

Duidelijkheid over hoe AI persoonlijke gegevens gebruikt is volgens het onderzoek de belangrijkste zorg onder respondenten. Daarbovenop denkt 37 procent van de ondervraagde consumenten dat AI ‘hallucineert’ of informatie verzint. Een zorg die wordt gedeeld door maar liefst 59 procent van de CX-verantwoordelijken, die erkennen dat hallucinaties ernstige risico’s vormen voor klantloyaliteit, juridische kwesties en merkreputatie. Dit gevoel van onbetrouwbaarheid ondermijnt het vertrouwen verder en benadrukt de noodzaak van waarborgen die nauwkeurigheid en verantwoording in AI-gedreven ervaringen garanderen.

De kloof tussen wat leiders weten dat nodig is en wat organisaties daadwerkelijk hebben geïmplementeerd, is extra zorgwekkend gezien de duidelijke vraag van consumenten naar transparantie en toezicht. Het is daarom noodzakelijk dat bedrijven deze kloof dichten vóór ze agentic AI grootschalig uitrollen.

Consumentenvertrouwen blijft fragiel

Hoewel 81 procent van de CX-verantwoordelijken agentic AI vertrouwt met gevoelige klantgegevens, geldt dat slechts voor 36 procent van de consumenten. Dit verschil wordt nog groter bij situaties met een grotere gevoeligheid.

Bedrijven tonen veel vertrouwen in het gebruik van agentic AI voor cruciale klantfuncties: 74 procent zegt zich comfortabel te voelen bij het gebruik van de technologie voor facturering, financiële transacties en accountbeveiliging. Consumenten daarentegen zijn veel terughoudender: slechts 35 procent voelt zich comfortabel bij geldtransfers via agentic AI, 49 procent bij het oplossen van factuurproblemen en 50 procent bij het bijwerken van persoonlijke gegevens.

Toch wijst het onderzoek ook op een belangrijke kans: meer dan de helft van de consumenten, 58 procent, maakt het niet uit of hun probleem door een mens of AI wordt opgelost, zolang het maar snel en volledig gebeurt.

Dit laat zien dat efficiëntie en effectiviteit in klantbeleving scepsis kunnen overwinnen. Maar alleen als deze hand in hand gaan met transparantie en verantwoordelijkheid. Om het vertrouwen te versterken en verantwoord te innoveren, moeten organisaties hun AI-schaalvergroting volledig klantgericht aanpakken.

Onderzoeksmethode

Genesys werkte samen met een onafhankelijk onderzoeksbureau om 4.000 consumenten en 1.600 CX- en IT-beslissers in meer dan 10 landen te ondervragen. Het onderzoek vond plaats in juni 2025. Onder de zakelijke respondenten waren onder meer vertegenwoordigers uit de luchtvaart, auto-industrie, bankensector, overheid, gezondheidszorg, verzekeringen, maakindustrie, media en entertainment, zakelijke dienstverlening, retail, reizen en gastvrijheid, technologie, telecommunicatie en nutsbedrijven.

Kees hier meer over het onderzoek.

Over Genesys

Genesys helpt ruim 8.000 organisaties in meer dan 100 landen met het verbeteren van de loyaliteit en bedrijfsresultaten door hun klanten en werknemers optimale ervaringen te bieden. Genesys Cloud, zijn AI-Powered Experience Orchestration-platform, brengt de customer experience (CX) van de toekomst naar organisaties van elke omvang. Zij kunnen hiermee op elke gewenste schaal voor empathische en gepersonaliseerde interacties met klanten zorgen. Als vertrouwd en volledig in de cloud ontwikkeld platform helpt Genesys Cloud organisaties met het aanjagen van groei door zich op het juiste moment te onderscheiden met de juiste klantenervaringen. Het platform draagt daarnaast bij aan de betrokkenheid van het personeel, efficiëntie en operationele verbeteringen. Ga voor meer informatie naar www.genesys.com.