Hoe AI kan voorkomen dat AI jouw organisatie schaadt

14 juni 2024 Onderzoeksbericht

Kunstmatgie Intelligentie (AI), bijvoorbeeld in de vorm van een chatbot of een virtuele assistent, kan enorm helpen bij de werkzaamheden binnen bedrijven en het leven van je klanten een stuk makkelijker maken. Maar als je niet goed nadenkt voordat je dit soort technologie implementeert, is de schade mogelijk groot. Om dat te voorkomen schreef Karim Sidaoui, universitair docent Marketing aan de Radboud Universiteit, mee aan een richtlijn waardoor managers niet voor onaangename verrassingen komen te staan.

Na zijn studies computer science en business administration, werkte Sidaoui jarenlang voor internationale marketingbureaus en IT-bedrijven. En Na een PhD in datagedreven AI-technologie, ging hij verder met het onderzoeken van de potentiële risico’s van AI voor bedrijven. Daar zag hij van dichtbij de opkomst van generatieve AI (GenAI), ofwel: kunstmatige intelligentie die helpt om nieuwe soorten content te creëren. Denk aan: teksten, video’s, afbeeldingen of audio. Hij zag ook hoe managers AI en generatieve AI-technologieën in hun bedrijf integreerden, met wisselend succes.

De technologie GenAI ligt aan de basis van zogenaamde conversational agents, bijvoorbeeld die daardoor meer functionaliteiten krijgen en beter worden in converseren. Dit tot groot enthousiasme van managers die in de conversational agents een manier zien om kosten te besparen en klanten 24 uur per dag service te bieden. Denk aan chatbots of virtuele assistenten die uiteenlopende taken kunnen uitvoeren. Van advies geven over maten in een online kledingwinkel tot het plannen van een afspraak bij de huisarts. ‘Conversational agents kunnen processen binnen organisaties enorm vergemakkelijken. Stel je hebt een probleem met je bankpas: via een chatbot die je vragen kan stellen en beantwoorden om het probleem te achterhalen en op te lossen, is het mogelijk miljoenen mensen in één keer te helpen. Al helemaal wanneer het programma in meerdere talen kan draaien.’

Tegelijkertijd, waarschuwt Sidaoui, blijven conversational agents niets meer dan software die is gebouwd door mensen. Hoe ingewikkelder de software, hoe meer dit het proces en de uitkomst beïnvloedt. Hij wijst op een chatbot van pakketservice DPD. Een ontevreden én vernuftige gebruiker manipuleerde de chatbot om een negatief gedicht over het eigen bedrijf te schrijven. ‘Het is daarom belangrijk dat managers het integratieproces van dergelijke technologieën goed begrijpen en er nauw bij betrokken zijn om negatieve uitkomsten bij hun klanten te voorkomen. Met andere woorden, als gebrekkig begrip bij managers zorgt voor onverantwoorde integratie, riskeren ze meer kosten voor het herstellen van de schade dan wat ze besparen door het te integreren.’

Richtlijn voor managers

Om managers daarbij te helpen, schreef Sidaoui samen met collega’s Dominik Mahr en Gaby Odekerken-Schröder van Maastricht University een paper met daarin een richtlijn die managers helpt om conversational agents op een verantwoorde manier te implementeren en te voorkomen dat ze onvoorziene schade veroorzaken.

Om nieuwe technologieën, zoals GenAI, weloverwogen in te voeren, hoort binnen een organisatie sprake te zijn van corporate digital responsibility. ‘Niet alleen de service manager, degene die zich bezighoudt met het implementeren van de nieuwe technologie, maar de hele organisatie moet zich tot op zekere hoogte verantwoordelijk voelen voor de digitale technologieën die worden gebruikt.’ Dit ontstaat onder meer door gedeelde normen en waarden te formuleren waar de conversational agent aan moet voldoen, de kansen en risico’s met medewerkers te bespreken en medewerkers aan te wijzen die continu controleren of de technologie naar behoren functioneert. ‘Iedereen moet zich verantwoordelijk en betrokken voelen.’

Wie krijgt de schuld?

Die gedeelde verantwoordelijkheid is ook van belang in het contact met de software providers die de technologie aanbieden en de gebruikers die vervolgens met de conversational agent te maken krijgen. ‘Je ziet te vaak gebeuren dat service managers enkel de mogelijkheden zien, dat ze bijvoorbeeld van andere ondernemers over de voordelen horen en zonder kennis van zaken dezelfde technologie inkopen.’ Maar stel dat je niet weet wat een chatbot met de data van gebruikers doet of geen idee hebt dat je nieuwe programma ongeschikt kan zijn voor kinderen? Dan kun je vroeg of laat flink in de problemen komen. ‘Wie geef je de schuld als mensen bezorgd naar hun data vragen en je geen idee hebt? De technologie? De provider? Of moet je zelf het boetekleed aantrekken?’

Grote bedrijven hebben de juridische middelen om zichzelf te beschermen, maar kleinere bedrijven die deze technologieën onbedachtzaam integreren over ethische kwesties en privacy van gegevens kunnen in juridische geschillen terechtkomen die hen geld kosten én hun publieke imago negatief beïnvloeden.

Laat AI je helpen

Waar GenAI onaangename verrassingen kan veroorzaken, kan het service managers ook helpen op weg naar een cultuur van corporate digital responsibility. ‘Zo kun je je plannen laten toetsen, checken waar je nog niet aan hebt gedacht of om input vragen wanneer je overweegt een conversational agent te implementeren in jouw bedrijf’, tipt Sidaoui. ‘En als blijkt dat je bedrijf nog niet klaar is voor een geavanceerd programma, kun je altijd beginnen met het invoeren van simpeler programma’s zonder GenAI en stap voor stap toewerken naar programma’s die zowel gebruikers als jouw organisatie verder helpen.’

De sleutel voor managers ligt in het krijgen van een beter begrip en een diepere betrokkenheid bij de technologieën die ze integreren voor hun bedrijfsdoelstellingen. Er bestaat een evenwicht tussen bedrijfsdoelstellingen, klantervaring en welke technologie geïntegreerd moet worden. ‘Het verbeteren van AI-geletterdheid voor managers en het bedrijf helpt niet alleen om kosten te besparen en de klantervaring te verbeteren, maar ook om technologie in te zetten om die doelen op een verantwoorde manier te bereiken.’

Publicatie

Generative AI in Responsible Conversational Agent Integration: Guidelines for Service Managers | Karim Sidaoui , Dominik Mahr , Gaby Odekerken-Schröder

Publicatie lezen

Additional reading

Meer lezen over dit onderwerp? Bekijk het paper dat Karim Sidaoui samen met Vera Blazevic schreef.

Publicatie lezen

Contactinformatie

Organisatieonderdeel: Faculteit der Managementwetenschappen, Institute for Management research
Gaat over persoon: dr. K. Sidaoui (Karim)
Thema: Innovatie, Kunstmatige intelligentie, Management