Eerst was er de verbazing. Toen de paniek. En inmiddels is het besef wat ChatGPT zo ongeveer kan wel ingedaald. Panklare teksten en foto’s genereren, die lang niet altijd de waarheid bevatten. Wat betekent dit voor de lokale praktijk? Kent AI alleen risico’s of zitten er ook voordelen aan? En zo ja, hoe houd je de controle?
AI raakt de kern van de sociaal-democratie
Barbara Kathmann
Barbara KathmannLid van de Tweede Kamer
Je hebt in de Kamer net een masterclass gehad over de gevolgen van ChatGPT voor het onderwijs en bedrijfsleven. Was dat nuttig?
‘Zeker. Vanuit de commissie Digitale Zaken hebben we voor al onze collega’s een masterclass georganiseerd. Onder de noemer ChatGPT, want dan gaat er bij mensen een lichtje branden en zijn ze sneller geneigd om te komen.’
Wat hebben jullie geleerd?
‘Behoorlijk wat. We werden breed geïnformeerd over de werking van ChatGPT-achtige producten. Het is belangrijk dat alle Kamerleden zich goed laten informeren over AI-toepassingen. De technologische ontwikkelingen gaan razendsnel en dat heeft grote impact op onze samenleving.’
Op welke manier?
‘Kijk maar naar de chatbot van Snapchat. Als kinderen aangaven dat ze eenzaam of verdrietig waren, ging die doen alsof hij geen bot maar een echt mens was en zelfs afspraakjes maken. Stel je voor dat zo’n bot bijvoorbeeld medicatie gaat voorschrijven. Gelukkig heeft Snapchat vanwege het maatschappelijk debat de toepassing direct aangepast, maar het laat wel zien welke gevaren er op de loer liggen.’
De Europese Unie werkt aan de AI-Act (Wet op kunstmatige intelligentie). Daarbij worden bepaalde vormen van AI verboden, zoals systemen die het gedrag van mensen beoordelen en het gebruik van realtime biometrische identificatie. Is het goed dat die wet er komt?
‘Het is heel goed, dat zo’n wet er komt en snel ook. We hebben wereldwijd en in Europa basisafapraken gemaakt en die vastgelegd in bijvoorbeeld mensenrechtenverdragen. Maar je ziet dat die basisafspraken opeens in de digitale wereld niet meer gelden.’
Hoe bedoel je?
‘De overheid gaat over grenzen heen en grijpt veel te heftig in de persoonlijke integriteit van mensen in. Of de overheid zit op haar handen en beschermt haar burgers onvoldoende. Met deze Act wordt weer even scherp gemaakt hoe ver overheid, maar ook bedrijven mogen gaan en welke AI-toepassingen we wel en niet wenselijk vinden. In feite gaat het erom welke toepassingen passen bij de basisafapraken, die we al lang en breed met elkaar hebben gemaakt.’
Zouden jullie dat niet in de Tweede Kamer moeten bepalen?
‘Dit moet je in Europa regelen. Nederland alleen is te klein. Digitalisering kent geen grenzen.’
Moet Nederland de AI-Act afwachten, of zelf nu ook al actie ondernemen?
‘Dat Nederland klein is en AI-toepassingen grenzeloos zijn, betekent niet dat je daarom als Nederland moet afwachten. Het is ook niet iets van de laatste maanden. Het vorige kabinet is nota bene op AI gevallen (het toeslagenschandaal, red.). In Nederland hebben wij ook met elkaar afspraken gemaakt over in welk land wij willen leven. Die afspraken gaan soms verder of minder ver dan de afspraken in onze buurlanden. Gelukkig hebben we vaak een koploperpositie en dat moeten we zo houden. Ik zou graag zien dat we de beste van de klas blijven in Europa als het over het beschermen van onze mensen gaat.’
Wat betekent de opkomst van kunstmatige intelligentie voor de lokale politiek?
‘Veel, want het gaat over alle facetten in de samenleving en AI biedt ongelooflijk veel kansen. Zeker in het licht van alle maatschappelijke uitdagingen op het gebied van klimaat, energie en zorg. Dus lokaal moet je aan de bak met het optimaal benutten van die kansen en daarbij meteen paal en perk stellen.’
Op welke gebieden is dat paal en perk stellen nodig?
‘We zetten AI-toepassingen dus alleen in als het de maatschappij dient en niet als doel op zich. Daarbij moet je sommige AI-toepassingen op het gebied van rechtshandhaving misschien wel op voorhand als onwenselijk bestempelen. Ook heeft de markt op dit moment vrij spel in het publieke domein.’
Lokaal ook?
‘Ja. Big tech heeft het klaslokaal en het zorgdomein deels al overgenomen. Met data van inwoners van onze gemeenten trainen bedrijven nu AI-toepassingen en voor veel geld kunnen lokale en landelijke overheden, die toepassingen straks weer afnemen en inkopen. Maar hadden we niet ook al met publiek geld betaald voor alles wat grote bedrijven in onze klaslokalen en zorginstellingen doen?’
Wat wil je lokale politici meegeven op het gebied van AI?
‘AI moet een veel groter onderdeel worden in het politieke debat, op elk terrein. Alleen een algoritmeregister op de website van de gemeente is niet genoeg. Technologie is levend en de ontwikkelingen op het gebied gaan razendsnel. Vraag je als woordvoerder zorg, veiligheid, mobiliteit of onderwijs vaker af met welke AI-toepassing de gemeente zelf werkt op jouw domein en wat commerciële partijen doen. Zorg voor een AI-toets bij elke beleidsstuk en vraag of digitale specialisten ook naar de voorstellen hebben gekeken.
En het allerbelangrijkste: ontwikkel kennis op dit gebied. Ik ben ook begonnen als digibeet, maar AI raakt de kern van de sociaal-democratie. We zijn het aan onszelf en aan de mensen waar we het voor doen verplicht.’
Nog niet uitgebreid in de raad besproken
Nicolien Boekhoudt
Nicolien BoekhoudtRaadslid in Hengelo
Zijn jullie in Hengelo al bezig met de gevolgen van AI?
‘Op dit moment nog niet heel actief. We zijn wel bezig geweest met digitale veiligheid. Bijvoorbeeld met het TikTok-verbod voor Rijksambtenaren. We hebben gevraagd of dat in Hengelo ook kan worden gedaan voor medewerkers van de gemeente. Het college van B&W heeft vervolgens aangegeven de lijn van het Rijk te volgen’
Dus?
‘In principe geldt dat verbod dan alleen voor de apparaten van de gemeente, dus niet voor persoonlijke apparaten. Ik kan me wel voorstellen dat het voor dus ook verboden is TikTok te gebruiken op de gemeentelijke laptops, maar de discussie is daar tot nu toe niet over gegaan.’
Als het om spionage gaat, dan is het monitoren van politici toch net zo interessant als ambtenaren?
‘Een gemeente kan niet tegen politici zeggen dat ze het niet mogen gebruiken, dat kan alleen in de richting van medewerkers en dan ook nog eens specifiek op werkapparatuur. Wat wel kan, is zeggen dat het binnen het netwerk van de gemeente verboden is. Je kan TikTok daar blokkeren, maar iemand bepaalt zelf wat die op zijn eigen apparaten doet.’
Dat klinkt wat halfslachtig.
‘Ja, maar zo is het wel. Ik denk dat je de discussie daarom moet aangaan. Het zou fijn zijn als ook politici zich bewust zijn van het gebruik van bepaalde apps.’
Dat geldt dus ook voor het gebruik van AI. Is daar nog geen discussie over geweest?
‘De Rekenkamer heeft wel een rapport uitgebracht over datagedreven sturing en de kansen en risico’s daarvan. Daarin kwam AI heel kort aan bod, maar er is niet breed over gesproken.’
Moet dat niet alsnog snel gebeuren?
‘Het is zeker tijd om daar op korte termijn ook vragen over te stellen. Al was het om te zien of en hoe de gemeente AI gebruikt en wat dat dan voor gevolgen heeft. Het belangrijkste dat we van de Rekenkamer mee kregen is, dat de data moeten kloppen en dat je moet weten hoe systemen werken. Bij de toeslagenaffaire zag je dat mensen niet wisten hoe het werkte en niet wisten welke data precies was ingevoerd. Dan gaat het mis en krijg je ongelukken.’
Op Europees niveau wordt gewerkt aan regelgeving omtrent AI. Hoe snel moet die er wat jou betreft zijn?
‘Ik denk dat die al te laat is. Technologische ontwikkelingen gaan razendsnel, de politiek loopt daar altijd achteraan. Tot op zekere hoogte is dat ook logisch, maar AI is zoiets groots. Als je kijkt naar TikTok of ChatGPT: AI wordt óveral in gebruikt, dus moet je daar zo snel mogelijke duidelijke afspraken over hebben. Dat is nu nog niet zo.’
Wat is dan verstandig als gemeente: wachten op de EU en de Kamer? Of kun je zelf op lokaal niveau ook iets doen?
‘Dat laatste natuurlijk. Als gemeente kun je actief beslissen hoe je AI inzet en wat je dan gebruikt. Zo is het belangrijk om aan de voorkant te weten wat je doet, hoe dat werkt en vooral ook hoe het getraind is. Gebruik ook nooit AI als enige middel. Bij het uitkeren van toeslagen moet er menselijke controle zijn. Computers hebben het ook wel eens mis.’
Zie je vooral kansen of risico’s?
‘Ik denk allebei. Aan de ene kant brengt het echt wel wat. Ook voor de gemeente. Het kan structuur creëren, tests ontwikkelen, richting geven en vergelijkingen met wat er elders op een dossier gebeurt vergemakkelijken. En voor ons als politici kan het bijvoorbeeld helpen met het bedenken van argumenten.’
Maar?
‘Maar het is nooit perfect en je moet dus zelf blijven nadenken. In ChatGPT krijg je soms antwoorden, die heel gedetailleerde feitelijke informatie lijken te bevatten. Lijken, want bij nader inzien blijkt dat volledig uit de duim gezogen te zijn. Daar moet je ontzettend mee oppassen.’
Voor de dienstverlening zeker een kans
Ilse Raaijmakers
Ilse RaaijmakersRaadslid in Utrecht
Is Utrecht al bezig met de impact van AI?
‘Ik mag het hopen. Als raadsleden zijn we daar nog niet direct over geïnformeerd in ieder geval.’
Als raad kun je daar ook het initiatief toe nemen?
‘Dat klopt. We bespreken binnenkort de digitale agenda, maar die was al verzonden voordat ChatGPT er was. Zo snel gaat het met digitale ontwikkelingen. Of: zo traag gaat het bij de overheid en in de samenleving.’
Die digitale agenda is dus al achterhaald?
‘Met de nieuwste stand van de technologie wellicht wel ja. Ik denk alleen niet dat dat een probleem is.’
Waarom niet?
‘Niet het instrument moet centraal staat, maar wat we er mee willen. De doelen die we als stad hebben zijn onveranderd, de instrumenten die je daarvoor inzet kunnen wijzigen.’
Wat betekenen tools als ChatGPT voor het Utrechtse beleid?
‘Dat is ingewikkeld, want we zitten nog in de pioniersfase. Het zal wellicht voor meer standaardisering kunnen zorgen. Dat bespaart tijd, die nodig is voor maatwerk. Lokaal bestuur blijft echter mensenwerk. Zeker na de toeslagenaffaire is een dienstbare overheid erg belangrijk, vooral richting de meest kwetsbare inwoners, die vaak ook niet digivaardig zijn.’
Zie je ontwikkelingen als ChatGPT meer als kans of meer als risico?
‘Allebei. Voor dienstverlening zie ik het dus zeker als kans, maar het risico dat de digitale kloof groter wordt, is reëel. Ook kan polarisatie verder toenemen doordat fake news heel snel te maken is en zich makkelijker verspreidt. ChatGPT is bepaald niet goed in feitelijke informatie, die wordt vaak ter plekke bedacht.’
Is verbieden dan niet een optie?
‘Ik denk dat je uiteindelijk als overheid dit soort ontwikkelingen het beste kunt omarmen, want tegenhouden lukt niet.’
Maar dan dus wel met kaders, zoals nu binnen de EU met de AI-Act?
‘Dat klinkt heel goed. Het lijkt me niet onverstandig om ChatGPT in onze eigen digitale agenda te gaan bespreken.’
Vorig jaar publiceerde het CLB de handreiking Veilige en inclusieve digitalisering. Hierin staat waar je als raadslid op moet letten en welke wetgeving er op dit gebied is.
Bijschrift afbeelding: De chatbot van Snapchat deed zich voor als mens
Afbeelding: Owen O'Brien | ANP