Een handleiding voor chatbots

Rule-based en generatief: een vergelijking van typen chatbots
binnen omnichannel-dienstverlening in de publieke sector

Let op: dit is een eerste versie van deze tool (juni 2024). Deze wordt in de loop van 2024 verder bijgewerkt. We nodigen iedereen uit de community uit mee te denken over deze handleiding.

Inleiding

Chatbots zijn computerprogramma’s die digitaal menselijke gesprekken kunnen nabootsen. Dat kunnen zowel eenvoudige programma’s zijn, zoals programma’s die een gebruiker ondersteunen bij slechts 1 taak. Maar het kunnen ook meer complexe digitale assistenten zijn. Dialoog met een chatbot vindt meestal plaats via getypte vragen, maar stemgestuurde chatbots bestaan ook. Bij veel organisaties zijn chatbots onderdeel van de dienstverlening. Chatbots zijn vaak ook al ingebouwd in ‘smart’ producten (denk aan Siri of OK Google).

Interesse in chatbots

De afgelopen jaren zijn chatbots steeds populairder geworden. Dat is te danken aan zowel diverse belangen vanuit de bedrijfsvoering als de veranderende verwachtingen van klanten:

Continue klantenservice
Klanten verwachten steeds vaker dat diensten ook buiten kantooruren beschikbaar zijn en dat zij direct antwoord op hun vragen kunnen krijgen. In tegenstelling tot reguliere klantenservice, kunnen chatbots zonder veel extra kosten constant beschikbaarheid zijn.
Kostenefficiëntie
Het inzetten van een chatbot wordt vaak gezien als kostenefficiënter dan het onderhouden van een grote klantenserviceafdeling (of het uitbesteden hiervan). Chatbots hebben hoge initiële kosten, maar vrij lage operationele kosten. Ze zijn na installatie namelijk in staat om tegelijkertijd veel verschillende verzoeken af te handelen, waardoor de noodzaak voor interventie door live chat medewerkers verminderd wordt.
Schaalbaarheid
Omdat chatbots vele verzoeken tegelijk kunnen afhandelen, kan de inzet hiervan tijdens piekuren of plotselinge periodes van intensief contact een groot verschil maken.
Dataverzameling
Data uit een chat is eenvoudiger te verzamelen en analyseren dan telefoondata. De inzichten hieruit kunnen gebruikt worden om een beter klantbeeld te krijgen en als organisatie continu te leren en verbeteren op basis van deze inzichten.

Een andere reden dat chatbots momenteel in de schijnwerpers staan is de opkomst en brede beschikbaarheid van Large Language Models (LLMs), bijvoorbeeld ChatGPT. Deze generatieve chatbots zijn fundamenteel anders dan de ‘klassieke’ rule-based chatbots (chatbots die geprogrammeerd worden op basis van specifieke regels) die vooralsnog voornamelijk worden ingezet in de praktijk. De generatieve LLMs lijken veel mogelijkheden te hebben, maar er is nog veel onduidelijk over de praktische toepassing ervan in de publieke sector.

Het doel van deze whitepaper is om uit te leggen wat de chatbots zijn, en hoe ze verschillen in werking en functionaliteit. Daarin maken we ook de koppeling met ominchannel. Deze whitepaper is immers voor leden van Community Omnichannel van Gebruiker Centraal. Specifiek is de whitepaper voor leden die willen weten wat chatbots zijn (technische kennis) en wat de verschillende varianten wél en niét kunnen (praktische kennis).

Rol van chatbots in omnichannel-dienstverlening

Op veel websites en in veel applicaties is er een chatfunctie om vragen te stellen. Binnen zo’n chatkanaal kan gebruikgemaakt worden van een chatbot. In plaats van chatten met een persoon, kan iemand dan chatten met een virtuele assistent. Het is mogelijk om 1 chatbot te hebben die toegankelijk is via een chat-kanaal van de website, social media en een smartphone-applicatie, maar die ook via de telefoon ondersteuning kan bieden. We maken het onderscheid tussen chat als kanaal en een chatbot als ondersteunende technologie, of instantie van een chat-kanaal.

Chatbots bestaan namelijk vaak als hulpmiddel binnen een ander kanaal. Een chatbot op een website kan bijvoorbeeld mensen doorlinken naar andere pagina’s of helpen bij het invullen van formulieren. Het is daarom moeilijk af te bakenen wat een chatbot wel of niet kan. Dit komt ook door de aanwezigheid van handovers (overdracht). Daarbij worden klanten door de chatbot naar een instantie van een chat-kanaal met menselijk contact doorgestuurd of ze worden doorverwezen naar een ander kanaal.

Chatbots hebben een unieke plaats in omnichannel-dienstverlening. Ze geven vrijwel direct een reactie. Ook kunnen ze tegelijk worden ingezet over verschillende instanties van chat-kanalen heen en de context behouden over die kanalen heen. Die combinatie maakt dat chatbots heel waardevol zijn in de klantreis.

In de realiteit worden de doelen van chatbots zoals hierboven beschreven (beschikbaarheid, begrip, schaalbaarheid en data) zelden gerealiseerd. Gebruikers worden daardoor vaak toch doorgeschakeld naar een ander kanaal dat mogelijk niet 24/7 beschikbaar is. Dit heeft een negatieve invloed op de gebruikerservaring en is de reden dat sommige organisaties chatbots enkel tijdens kantooruren beschikbaar maken.

Typen chatbots

Chatbots zijn op verschillende manieren te beschrijven. In deze whitepaper is de keuze gemaakt chatbots in te delen op de artificial intelligence (AI) technieken waar zij gebruik van maken. ‘Rule-based’ en ‘generatieve’ chatbots zijn daarin de meest voorkomende. De reden voor dit onderscheid is dat deze technieken ervoor zorgen dat chatbots anders op interactie reageren. Ze zorgen voor verschillende klantervaringen.

Rule-based chatbots

Een rule-based chatbot werkt binnen een raamwerk van vooraf opgestelde banen. De gebruiker wordt door deze banen geleid via een set voorgeprogrammeerde regels. Deze chatbots worden vaak gebruikt binnen klantenservice om antwoorden te geven op veel gestelde vragen. Ze kunnen ook ingezet worden om klanten te begeleiden bij simpele processen of om standaard verzoeken af te handelen.

Werking van rule-based chatbots

Om een goed begrip te krijgen waar rule-based bots zich goed voor lenen en waar ze tekortschieten is het belangrijk om te weten hoe ze werken. Cruciaal is dat rule-based chatbots gebruikmaken van AI. Al is dat op een geheel andere manier dan generatieve chatbots. De volgende termen worden vaak gebruikt om de werking van rule-based chatbots te beschrijven:

Intent recognition: dit is het proces waarin een bot probeert te bepalen wat het doel is van de gebruiker op basis van de vraag die hij stelt. De bot probeert de intentie van de gebruiker te linken aan een van de paden binnen de voorgeprogrammeerde beslisboom.
Rules: dit zijn de paden binnen de beslisboom die bepalen wat de reactie van de chatbot is. Die reactie is gebaseerd op de herkende intentie van de gebruiker. Hieronder vallen ook de voorwaarden om voor bepaalde paden te kiezen en de specifieke input die van gebruikers gevraagd wordt bij stappen. De regels zijn in feite een lange serie van als-dan standpunten die in kaart brengen hoe een gesprek mogelijk kan verlopen.
Triggers: Triggers zijn (expliciete) voorwaarden die bepaalde regels activeren. Dit kan een woord in de input van een gebruiker zijn. Ook andere factoren, zoals de webpagina waarop de gebruiker zich bevindt, kunnen gebruikt worden als trigger. Veel voorkomende triggerkreten zijn onder andere ‘help’ of ‘ik wil een mens spreken’.
Natural Language Processing (NLP)
NLP is de tak van machine learning (AI-techniek) die computersystemen in staat probeert te stellen om menselijke taal te interpreteren, vormen en begrijpen. Dit is een essentiële component van rule-based chatbots, omdat die ondersteuning biedt bij intent recognition. Daarmee begeleidt NLP het pad van de gebruiker. Het wordt gebruikt voor het taalbegrip. Dit houdt in:
- Het ontleden van de input van de gebruiker en dit omvormen tot betekenisvolle data; modellen werken niet direct met taal, maar met numerieke representaties hiervan.
- Het onderscheiden van entiteiten binnen de input van de gebruiker en het linken van deze entiteiten aan vooraf opgestelde categorieën (bijvoorbeeld producten, locaties en diensten).
- Het interpreteren van semantische lading van de input. Het is niet genoeg om alleen een term te herkennen, maar de betekenis hiervan moet ook in de context van een zin geplaatst worden.

Beantwoorden van een gebruikersverzoek

Wanneer een gebruiker een vraag stelt aan een chatbot, worden de volgende stappen doorlopen:

Input: ontvangen van input van de gebruiker, bijvoorbeeld een vraag of zin.
Tekst processing: een computer kan niet direct werken met tekstuele data. Er wordt eerst een numerieke weergave gemaakt. Het model kan dan handelen op basis van die numerieke weergave.
Intent recognition: het NLP-model wordt gebruikt om de tekst te analyseren en te bepalen wat de intentie van de gebruiker is.
Rules: een van de flows in de beslisboom wordt geactiveerd op basis van de intent en/of een trigger.
Output: de chatbot geeft antwoord en vraagt eventueel voor verdere informatie/input van de gebruiker (dan herhalen vanaf stap 1).
Sessie-informatie: meestal behoudt een chatbot de context door de eerdere vragen en vervolgvragen op te slaan. Dat is ook essentieel wanneer er een handover (overdracht) plaatsvindt naar een medewerker.

Generatieve AI-chatbots

Generatieve AI-chatbots maken gebruik van Large Language Models (LLMs). Dit is een specifiek type machine learning-model dat gericht is op het verwerken, begrijpen en produceren van natuurlijke taal. Deze modellen zijn in staat om een meer natuurlijk ogend gesprek te voeren met gebruikers. De antwoorden die dit type chatbot geeft, kunnen daardoor intelligenter en meer contextbewust overkomen.

Werking van generatieve AI-chatbots

Large Language Models (LLMs)

In de basis probeert een LLM telkens het volgende woord in een zin te voorspellen. Dit doet het model door wiskunde patronen, context en grammatica in taal te gebruiken (patronen die voor mensen veelal niet zichtbaar zijn, of direct relevant lijken). Deze patronen heeft een model geleerd door veel voorbeelden van taal te observeren. Dit zogenaamde ‘trainen’ gebeurt door een proces dat machine learning heet. Specifiek wordt er gebruikgemaakt van ‘deep learning’. De patronen worden geleerd door een neuraal netwerk; een specifiek model dat is geïnspireerd op de structuur en functie van het menselijke neurale netwerk.

Het voorspellen van een volgend woord wordt bepaald op hoe waarschijnlijk het is dat dit woord het juiste is. Het is dus niet definitief. Bij een zin als ‘ik heb zin in een kop …’ zal de kans dat het volgende woord ‘thee’ of ‘koffie’ is enorm hoog zijn. Een iets lagere kans zou het woord ‘soep’ krijgen. Nog veel lager is de kans op ‘hond’ of ‘huis’.

LLMs maken nog gebruik van een speciaal mechanisme waarbij niet altijd voor het meest waarschijnlijke volgende woord wordt gekozen. Soms kiest het model voor een woord met een lagere kans. De reden voor het toevoegen van deze willekeurigheid in woordkeuze is dat het een bepaalde mate van ‘creativiteit’ meegeeft aan een model . Dat laat de output menselijkeraanvoelen. Deze parameter wordt ook wel ‘temperature’ genoemd en kan hoger of lager ingesteld worden.

Generative Pre-trained Transformers (GPTs)

Zoals hierboven aangegeven is de kern van een generatieve chatbot een LLM. Momenteel zijn veel van de best beoordeelde modellen zogehete GPT’s, Generative Pre-trained Transformers. Generatief, omdat het model niet alleen taal kan interpreteren, maar ook kan produceren. Pre-trained, omdat het dit kan vanwege de enorme hoeveelheden tekstuele data waarop het vooraf getraind is.

Transformers gaan over de architectuur waar deze modellen gebruik van maken. In deze architectuur zitten verschillende mechanismen (self-attention) die ervoor zorgen dat een model niet alleen het volgende woord in de zin kan voorspellen, maar over langere hoeveelheden tekst kan onthouden wat relevante informatie is. Het model kandaarom ook complexere, langere en toch samenhangende output genereren.

Voordelen

Taalbegrip
Dit type chatbots bevat een geavanceerder taalbegrip. Het is beter mogelijk om een passende reactie te geven in de context van het gesprek en op een coherente manier.
Dynamisch
De bot is generatief en formuleert telkens nieuwe zinnen. De bot is niet afhankelijk van vooraf gedefinieerde antwoorden of categorieën (al is het wel mogelijk om een model op een specifieke manier te laten gedragen). Dit maakt het model flexibeler. De antwoorden lijken natuurlijker. Daardoor voelt het gesprek persoonlijker aan, maar het gedrag van de bot is onvoorspelbaarder.
Contextueel begrip
Deze bot kanvoorzien worden van ‘memory mechanisme’. In cobinatie met het eerder genoemde taalbegrip kan dit ervoor zorgen dat het de betekenis van een langer lopend gesprek beter kan bijhouden. Het plaatst het nieuwe gesprek in de context van het vorige gesprek. Daarmee kan een bot niet alleen de intentie van een losse vraag herkennen, maar de intentie van een heel gesprek. Daardoor lijkt de bot intelligenter.

Nadelen

Fouten / Hallucinaties
Door het generatieve karakter is de bot dynamischer, maar kan het ook foute antwoorden geven. Dat kan komen door verschillende oorzaken:
- Patronen nadoen
  Hoewel het gedrag van een chatbot intelligent lijkt, bevat het geen echt begrip van context of inhoud. Het is een soort papegaai. Het doet na wat het eerder heeft gezien, zonder diepgaand begrip. Dit kan leiden tot fouten.
- Kwaliteit trainingsdata
  De data waarop een model is getraind is zo omvangrijk dat het niet allemaal gecheckt is op juistheid. Het kan dus feitelijk onjuiste informatie bevatten. Daardoor kan een model ook verkeerde antwoorden geven.
- Gedateerde informatie
  Een veelvoorkomende misvatting is dat een AI-model constant doorleert. In feite worden de meeste modellen getraind op 1 moment. Een model kan daarna wel ingezet om data te verzamelen voor een volgende trainingsiteratie. Een model kan dus niet de meest actuele informatie tot zijn beschikking hebben.
Bias
Wanneer de trainingsdata van een model bepaalde vooroordelen bevat, kan het model deze vooroordelen voortzetten. Daar zijn bekende voorbeelden van. Zo kan een model moeite hebben om na te denken over vrouwelijke artsen ten opzichte van mannelijke artsen. Dit is een sprekend voorbeeld, maar het probleem van bias is dat het vaak subtieler is en niet direct te observeren is. Deze bias kan stereotypes voortzetten en leiden tot discriminatie.
Inconsistentie
Een model zal niet altijd exact hetzelfde antwoord geven op een vraag. Dit kan verwarrend werken voor een gebruiker en leiden tot een negatieve gebruikerservaring.
Duurzaamheid
LLMs kosten veel energie en koelwater om te gebruiken. Het grootschalig inzetten van deze modellen is daarom minder duurzaam dan een rule-based bot.
Data leakage
LLMs draaien vaak op externe servers. Het is moeilijk (tenzij je als organisatie een zeer grote, geavanceerde IT-infrastructuur hebt) om data van gebruikers binnenshuis te houden. Er zijn wel aanbieders die een ‘enterprise’ mogelijkheid bieden. Daarin blijft de data privé. Bij overheden is daarnaast een randvoorwaarde dat dataopslag of -verwerking binnen Europa plaatsvindt.
Aanvallen
Er bestaat een risico dat gebruikers de chatbot manipuleren. Een model krijgt over het algemeen instructies mee om te bepalen hoe de bot moet reageren. Maar het is soms mogelijk om met specifieke input deze instructies te omzeilen en de chatbot over te halen iets te doen wat het niet zou moeten doen, bijvoorbeeld het delen van sensitieve informatie (ook wel Prompt injection, slechts een voorbeeld).[1]
Afhankelijkheid
De goed werkende modellen kunnen vooralsnog alleen worden afgehaald bij grote bedrijven (Microsoft/OpenAI, Google en Amazon/Anthropic). Er zijn veel tussenaanbieders die een soort shell hier omheen bouwen en doen alsof zij zelf de dienst leveren, maar in werkelijkheid maken zij bijna allemaal gebruik van een van deze leveranciers. Er is daarmee risico op een vendor lock-in en meer afhankelijkheid van cloud-architectuur.

Vergelijking chatbots met andere kanalen

Voordelen van een chatbot ten opzichte van andere kanalen

Het grootste voordeel van een chatbot in dienstverlening is de continue beschikbaarheid. Die heb je niet bij persoonlijke contactkanaken, zoals telefonie en e-mail. Daarnaast is het met chatbots mogelijk om veel contacten tegelijkertijd uit te voeren tijdens piekuren en de data hiervan op te slaan. Met chatbots kun je daarbij een dialoog voeren. Daardoor wordt informatie gedoseerd en op maat aangeboden binnen hetzelfde venster. Gebruikers hoeven dan niet te navigeren, in tegenstelling tot een website. Die dialoog vindt plaats op het tempo van de gebruiker. Er is geen tijdsdruk om alles direct te begrijpen. Gebruikers kunnen de antwoorden meerdere keren lezen, in tegenstelling tot een telefoonkanaal. Klanten kunnen mogelijk ook terugkeren naar een eerder gestarte chat.

Vergelijking varianten chat

Het uitgangspunt voor de introductie van chatbots moet niet zijn dat mensen vervangen worden door bots, maar dat ze het gemak en de kwaliteit van dienstverleningverhogen. Daarom is bemande chat ook meegenomen in de onderstaande vergelijking.

Tabel 1: Vergelijking chat varianten

	Menselijk/Bemand	Rule-based	Generatief
Consistentie	++ Met goede training en duidelijke instructies zal een bemande chat het meest voorspelbaar zijn.	++ Rule-based chatbots zijn zeer effectief in scenario’s waar interacties voorspelbaar zijn en reacties in grote mate voorgeprogrammeerd kunnen worden, bijvoorbeeld voor het beantwoorden van veelgestelde vragen.	– Generatieve chatbots zijn minder voorspelbaar dan rule-based bots. Er zijn technieken om bots in goede banen te leiden, maar die zijn nog experimenteel.
Flexibiliteit	++ Bemande chat is op veel verschillende manieren in te zetten. Mensen zijn in staat om op uiteenlopende vragen te reageren. Waar nodig kunnen gebruikers naar de juiste kanalen doorgestuurd worden.	— Rule-based bots zijn niet flexibel. Ze kunnen niet goed omgaan met onverwachte vragen.	++ Door het grote taalbegrip zijn generatieve bots erg flexibel in te zetten. Het model hoeft niet getraind te worden op een nieuwe context en antwoorden hoeven niet expliciet toegevoegd te worden.
Simpele processen	+ Bemande chat kan goed ingezet worden om gebruikers te ondersteunen bij simpele handelingen. Dit kan trager zijn dan een bot, omdat mensen zelf moeten schakelen tussen systemen voor invoer. Persoonlijke overtuigingen maken daarnaast dat mensen ook fouten maken.	++ Kunnen ondersteuning bieden bij simpele taken, bijvoorbeeld het inplannen van een afspraak (een voorspelbaar proces met duidelijke regels). Door voorspelbaarheid zijn rule-based bots ook goed te combineren met API’s of bijvoorbeeld een manier om bepaalde formulieren in te vullen op een website.	– De mate van onvoorspelbaarheid maakt generatieve chatbots minder geschikt voor het uitvoeren van simpele processen. Daarnaast wordt een antwoord bij generatieve bots vaak gegeven als een stuk tekst. Hierbij kan een model ook dingen meenemen in het antwoord die niet relevant zijn voor gebruiker.
Complexe vragen	++ Met goede training en duidelijke instructies zal een bemande chat het best in staat zijn om complexe vragen te beantwoorden of klanten te ondersteunen bij het vinden van die antwoorden.	— Zijn niet in staat om complexe verzoeken te verwerken. Het plaatsen van te veel informatie in een bericht maakt de intent recognition taak moeilijk. Wanneer de intentie pas met meerdere vragen duidelijk wordt, zal de bot ook geen goede ondersteuning kunnen bieden. Los van het herkennen van de intentie achter complexe verzoeken, zal het ook vaak niet lukken om een antwoord te geven, omdat deze complexe vragen vaak niet voorgeprogrammeerd zijn.	+ Door een beter taalbegrip en een groter contextueel begrip zijn generatieve chatbots beter in staat complexe vragen te begrijpen en deze te beantwoorden.
Schaalbaarheid	+/- In vergelijking met andere vormen van chat is dit laag, maar bemande chat scoort hoger dan andere contactkanalen, omdat medewerkers meerdere chats tegelijk kunnen voeren.	+ In principe kan een rule-based bot een groot aantal gesprekken tegelijk aan, maar dan moet dit wel passen binnen de parameters (regels) waarbinnen de bot geprogrammeerd is.	+ Hiervoor geldt hetzelfde als voor rule-based chatbots. Generatieve bots zijn schaalbaar. Die schaalbaarheid hangt alleen af van de wijze waarop de chatbot in staat is de inkomende vragen daadwerkelijk af te handelen.
Meertaligheid	+/- Het is mogelijk meertalige bemande chat te bieden. Dit vraagt alleen om beter getrainde medewerkers of om ondersteuning van medewerkers, bijvoorbeeld met een vertaalhulpmiddel.	– Voor een rule-based bot zouden de vragen en antwoorden expliciet uitgewerkt moeten worden voor elke taal. Dat kan veel werk kosten.	++ Veel LLM’s zijn in staat om vragen te beantwoorden in meerdere talen.
Opstartkosten	Hoog	Laag	Laag
Kosten per contact	Hoog	Laag	Laag
Waardering	Hoog	Midden/Laag	Nog Onbekend

Combinatievormen

Generatieve AI, rule-based chatbots en bemande chat kunnen ook gecombineerd worden om tekortkomingen van losse onderdelen tegen te gaan.

Intent recognition met generatieve AI
Hierbij wordt een LLM ingezet om de context van het gesprek bij te houden en de intentie van de klant te beschrijven. Die intentie wordt gebruikt door het rule-based deel van het systeem om een pad te kiezen door de beslisboom.
Samenvatten
In dit geval wordt een reguliere rule-based bot gebruikt, maar wanneer er een handover naar een medewerker plaatsvindt, wordt het gesprek samengevat door een LLM. De samenvatting wordt gegeven aan de medewerker.
Vertalen van rule-based flows
Een beperking van rule-based bots is dat ze gebruikmaken van expliciete regels en antwoorden die zijn uitgewerkt in taal. Het is mogelijk om grote delen hiervan te vertalen met een LLM. Dit kan veel werk besparen in het meertalig maken van een rule-based bot.

Conclusie

De typen chatbots

Een rule-based chatbot zis consistenter dan een generatieve chatbot en mogelijk bemande chat. De bot zal geen antwoorden geven die niet van tevoren zijn geprogrammeerd. Maar rule-based chatbots zijn vaak niet in staat om alle input van gebruikers te vertalen naar het correcte of relevante antwoord.

Een generatieve chatbot oogt intelligenter en geavanceerder. Het is een technologie die dynamischer is en breder ingezet kan worden, bijvoorbeeld voor het vertalen van vragen of samenvatten van gesprekken. De keerzijde is dat deze vorm van chatbots (nog) onvoorspelbaar kan zijn.

Bemande chat zorgt over het algemeen voor een betere gebruikerservaring dan de bots. Deze vorm van chat is op de lange termijn alleen relatief duur vooral wanneer het kanaal ook beschikbaar moet zijn buiten kantooruren.

Chatbots brengen veel potentiële voordelen voor de gebruiker met zich mee: continue beschikbaarheid, schaalbaarheid, eenvoudige navigatie, dienstverlening in dialoog op het tempo van de gebruiker en data om van te leren. In de praktijk worden veel van deze voordelen vaak niet gerealiseerd. Het grootste probleem is dat chatbots de gebruiker niet altijd begrijpen.

Visie Rijksoverheid

Begin dit jaar publiceerde het ministerie van Binnenlandse Zaken en Koninkrijksrelaties een overheidsbrede visie op generatieve AI.[2] Hierin wordt generatieve AI bestempeld als een disruptieve technologie en dat niet-gecontracteerde generatieve AI-toepassingen over het algemeen niet aantoonbaar voldoen aan de geldende privacy- en auteursrechtelijke wetgeving. Momenteel is daarom het gebruik hiervan door rijksorganisaties niet toegestaan. Hieronder vallen ook veel generatieve AI-chatbots. Er zijn open source mogelijkheden beschikbaar.

Toekomstverwachting

Hoewel generatieve AI momenteel nog veel risico’s heeft, liggen er ook kansen. Het speelveld verandert extreem snel. Er worden maandelijks grotere en geavanceerdere modellen gepubliceerd. Het is nog steeds lastig om te bepalen wat deze modellen kunnen en wat niet, omdat ook het evalueren van LLMs nog in de kinderschoenen staat.

Binnen de overheid zijn er nog geen organisaties die generatieve AI-bots inzetten voor externe communicatie. Er zijn wel bedrijven die generatieve bots maken die gebruikmaken van publiekelijk beschikbare overheidsinformatie.[3] Het blijft daarmee belangrijk voor overheden om eigen content goed te organiseren en vindbaar te maken.

Er bestaat ook een groep gemeenten die samen met marktpartijen werken aan de ontwikkeling van een open source chatbot / virtuele assistent.[4] De uiteindelijke software kan dan hergebruikt worden door gemeenten en andere organisaties. De basis van deze bot is een rule-based systeem, maar de intentie is om verder te innoveren en uiteindelijk te werken naar een combinatievorm. Binnen dit project wordt niet alleen gekeken naar de technische invalshoek, maar staat de gebruiker centraal. Daarbij is het specifiek gericht op dienstverlening in het publieke domein.

[1] OWASP-Top-10-for-LLMs-2023-v1_1

[2] Overheidsbrede visie Generatieve AI | Rapport | Rijksoverheid.nl

[3] Dé vraagbaak voor al je vragen aan de overheid | Postbus42.nl

[4] Open Gemeente Initiatief