Niemand wint de AI-race als we niet de tijd nemen

AI wordt neergezet als een technologie die eindeloze efficiëntie belooft. Maar tegen welke prijs? Zeker als we kijken naar overheidsdiensten: hoe riskant en ingrijpend is het als we te veel waarde hechten aan efficiëntie? Cecília Barreto de Almeida vertelt over haar werk rond de afstemming en botsing van AI met publieke, individuele, organisatorische en professionele waarden.

Cecília is onderzoeker en docent. Ze houdt zich bezig met recht, ethiek, overheidsbeleid en digitaal bestuur. Haar werk combineert juridische analyses met empirisch onderzoek. “In mijn postdoctoraal richt ik me op de afstemming en botsing van waarden rondom AI-systemen, organisatiedoelstellingen en de waarden van werknemers op de werkvloer.” Eerder deed ze vergelijkend onderzoek naar ongelijkheid en inclusie in online overheidsdiensten in Brazilië en Nederland aan de Universiteit van São Paulo en de Rijksuniversiteit Groningen.

Het ontwrichtende karakter van AI

Cecília is een gepassioneerd onderzoeker op het gebied van inclusie en de digitale samenleving, waarin AI een steeds belangrijkere rol speelt. Ze vertelt over de conflicten die AI kan veroorzaken met diepgewortelde waarden. “Mensen en samenlevingen hebben bepaalde gedeelde opvattingen over waarden als rechtmatigheid, onpartijdigheid, billijkheid en gelijkheid, moraliteit, openbaarheid, legitimiteit en efficiëntie. Als het gaat om de efficiëntie van de overheid, verwachten we dat de gekozen vertegenwoordigers van een land of regio zo efficiënt mogelijk omgaan met ons belastinggeld.”

De laatste tijd heeft efficiëntie echter een nieuwe betekenis gekregen. “De recente ontwrichting door AI is ongekend. Het is heel anders dan bij andere technologieën. Het tempo waarin AI alles verandert, ligt enorm hoog. AI is aan ons verkocht met de belofte dat het alles kan oplossen. Maar dat kunnen we onmogelijk zeker weten. Wat AI ook anders maakt, is dat het menselijk gedrag nabootst. Het wordt steeds moeilijker om onderscheid te maken tussen de werkelijkheid en iets wat door generatieve AI is geproduceerd.”

Het sterk ontwrichtende karakter van AI kan grote gevolgen hebben voor ons waardensysteem. Traditionele waarden kunnen met elkaar in conflict komen, veranderen of op onverwachte manieren worden getransformeerd, waardoor ook hun betekenis verschuift. “Een waarde die ooit een specifieke betekenis had in het publieke domein, kan veranderen. Ook het gewicht en de relevantie ervan in het publieke debat kan verschuiven. Waarden die eerder als belangrijk werden beschouwd, kunnen minder belangrijk worden dan de waarden die AI ‘belooft’ te bevorderen. Zo zou moraliteit bijvoorbeeld minder belangrijk kunnen worden gevonden dan de efficiëntie die een AI-systeem mogelijk oplevert”, waarmee Cecília bedoelt dat we meer waarde hechten aan de snelheid waarmee we dingen kunnen ‘oplossen’, dan of het goed of fout is wat we doen.

Respect voor diepgewortelde waarden

Cecília benadrukt echter dat deze waarden niet voor niets bestaan. Ze hebben een eigen integriteit en vervullen een belangrijke rol. Ze bieden ruimte aan verschillende belangen, prioriteiten en manieren waarop we als samenleving en als individuen functioneren. Ze weerspiegelen de behoeften en wensen van mensen.

Cecília maakt zich zorgen over het gemak waarmee sommige van deze zorgvuldig ontwikkelde waarden aan de kant kunnen worden geschoven, veranderd of minder belangrijk kunnen worden gemaakt. Dat risico speelt volgens haar een belangrijke rol wanneer AI niet goed aansluit bij menselijke en maatschappelijke waarden. “Het risico bestaat ook dat we denken dat alles nog hetzelfde is, terwijl de werkelijkheid iets heel anders laat zien.”

Voor overheden en hun medewerkers wordt het nóg ingewikkelder. “Wanneer je solliciteert voor een functie als ambtenaar, word je meestal gedreven door de wens om bij te dragen aan de samenleving. Je hebt alle stappen doorlopen die nodig waren om de baan te krijgen waarop je solliciteert. Maar plotseling wordt er ook van je verwacht dat je voldoende kennis hebt van AI en in staat bent om risico’s en andere gevolgen van deze technologie binnen je werk te signaleren. Of misschien ben je simpelweg bang dat AI je zal vervangen.

Vervolgens word je mogelijk de ‘mens in de regelkring’ (human-in-the-loop) binnen een AI-gericht systeem voor het leveren van overheidsdiensten.” Deze gevolgen kunnen de relatie van mensen met hun werk veranderen. De inzet van AI kan ervoor zorgen dat de motivatie om bij overheidsorganisaties te werken niet langer aansluit bij de praktijk. Professionele waarden kunnen botsen met ‘AI-waarden’.

AI-geletterdheid voor ambtenaren

Een mogelijke manier om deze problemen aan te pakken, is AI-geletterdheid. Dit is onder meer een uitgangspunt van de EU AI Act om ambtenaren te helpen met AI te werken.

De EU AI Act stelt: “Aanbieders en gebruiksverantwoordelijken van AI-systemen moeten maatregelen nemen om ervoor te zorgen dat hun personeel en andere personen die namens hen betrokken zijn bij de werking en het gebruik van AI-systemen, voor zover dat mogelijk is, over voldoende AI-geletterdheid beschikken. Daarbij moeten zij rekening houden met hun technische kennis, ervaring, opleiding en training, de context waarin de AI-systemen worden gebruikt en de personen of groepen personen op wie de AI-systemen worden toegepast.”

Maar dit roept bij Cecília 2 zorgen op. “Een van mijn zorgen is dat dit ontzettend veel vraagt van mensen. Van medewerkers verwachten dat ze alles rondom AI en de gevolgen daarvan voor hun werk blijven volgen, is een grote verantwoordelijkheid. Het AI-landschap verandert voortdurend. Het is bijna onmogelijk om alles bij te houden. Van werknemers verwachten dat ze een algemeen begrip hebben van AI, weten hoe de technologie wordt gebruikt, de rol van hun organisatie begrijpen en zich bewust zijn van juridische en ethische aspecten, is veel gevraagd. Je zou er bijna een nieuwe bachelor- of masteropleiding in AI voor nodig hebben.”

Haar andere zorg is de vraag of AI-geletterdheid wel de juiste oplossing is. “Het is een van de mogelijke manieren om de risico’s en negatieve gevolgen van AI te beperken. Maar als je naar de bredere context van AI kijkt, vraag je je af of AI-geletterdheid voldoende is om ambtenaren voor te bereiden op de impact van AI op publieke waarden en op hun werk.

Kunnen we met zekerheid vaststellen wanneer efficiëntie bijvoorbeeld belangrijker wordt dan onpartijdigheid? En als we een onpartijdige AI-oplossing aanbieden: kunnen we dan nog steeds streven naar billijkheid, waarbij aan verschillende behoeften met verschillende oplossingen wordt tegemoetgekomen? We moeten rekening houden met de verschillen tussen mensen. Kan AI dat, en kunnen we voldoende AI-geletterd zijn om te beoordelen of een AI-systeem dat daadwerkelijk kan?”

Het vermogen om kritisch te denken verliezen

Het betoog van Cecília is een voorbeeld van hoe AI-geletterdheid tekort kan schieten bij het bepalen of de invloed van AI op waarden aanvaardbaar is. Een deel van het probleem is hoe AI werkt. “AI kan binnen milliseconden antwoorden geven en neemt ons daarmee de tijd uit handen die we normaal gesproken aan kritisch nadenken zouden besteden. Onbewust zijn we geneigd het antwoord van AI te accepteren, omdat we niet meer de tijd nemen om de ‘pijn te voelen’ of empathie te ervaren. We hechten steeds meer waarde aan efficiëntie, waardoor efficiëntie andere belangrijke factoren overschaduwt bij het bepalen van wat goed en fout is.”

Omdat deze technologie menselijk gedrag nabootst, wordt het bovendien steeds gebruikelijker om bijvoorbeeld de uitkomst van een AI-chatbot te accepteren, bijna alsof we empathie voor de chatbot voelen. “’Nou, het heeft miljoenen gegevensbronnen doorzocht, veel sneller dan ik ooit zou kunnen, en kwam zo snel met een antwoord. Dan moet het wel waar zijn’, zouden we onbewust kunnen denken. Ook dit kan leiden tot conflicten en een gebrekkige afstemming van waarden.”

De huidige AI-race is onmogelijk te winnen

Cecília is dus kritisch over AI, zonder pessimistisch te zijn. “AI is niet inherent goed of slecht. Het is een hulpmiddel. Maar we behandelen het alsof het een belofte is om alles op te lossen. Overheden zijn bang om achterop te raken in de AI-race, net als bedrijven. Daardoor worden ze ertoe aangezet belangrijke waarden en systemen ondergeschikt te maken om voorop te blijven lopen. Maar wanneer we ons opgejaagd voelen, geven we al snel voorrang aan de prioriteiten van anderen.”

Volgens Cecília is het stellen van prioriteiten essentieel om risico’s en negatieve gevolgen te beperken. “Dat betekent dat we de tijd moeten nemen om onszelf daadwerkelijk af te vragen welk probleem we proberen op te lossen. Waarom doen we wat we doen? We mogen het grotere geheel niet uit het oog verliezen. De tijd kunnen nemen om na te denken over de problemen die we willen oplossen, is een voorrecht. En AI is slechts een hulpmiddel om ons te helpen sommige van die problemen aan te pakken. Het is geen wondermiddel.”

Cecília sluit af met de volgende woorden: “Ik denk niet dat iemand deze AI-race zal winnen als we niet voldoende tijd nemen om goed na te denken over wat we willen. We zijn te veel gericht op het proberen op te lossen van problemen met AI. Maar zijn dit wel de echte problemen waarop we ons moeten richten? Moet de implementatie van AI in alle processen en sectoren een prioriteit zijn? We stellen te weinig vragen. Maar als overheden die publieke diensten aanbieden, moeten we nadenken over onze prioriteiten. Onze middelen zijn niet onbeperkt. Uiteindelijk is het enige wat telt dat we een samenleving en een systeem creëren, waarin de waarden van alle mensen die er deel van uitmaken worden gerespecteerd.”