Subscribe
Share
Share
Embed
In de podcastserie ‘Bestuurspraat’’ nemen de nieuwsgierige jonge adviseurs Sophie en Mees je mee in het bestuurlijke en politieke landschap van Nederland. Om deze complexe wereld beter te begrijpen gaan ze in gesprek met bestuurders, topambtenaren, hoogleraren en collega’s over relevante thema’s in de Nederlandse maatschappij. Benieuwd hoe Nederland nu echt bestuurd wordt? Luister mee!
Tips voor afleveringen of overige vragen? Neem gerust contact op:
Sophie -s.piers@berenschot.nl - 0682599484
Mees - m.bouweriks@berenschot.nl - 0622881981
Beste luisteraars, welkom bij de Bestuurspraten podcast.
Speaker 2:Wij zijn Sophie Mees en nemen jullie mee in de wondere wereld van het openbaar bestuur.
Speaker 1:Ja, in onze podcast verdiepen we ons elke aflevering in een actueel thema en we kijken daarbij net wat verder dan het nieuws.
Speaker 2:We pakken dus een ingewikkeld politiek bestuurlijk thema beet en gaan daarbij dieper in op de inhoud en op de praktijk.
Speaker 1:Ja, en vandaag gaan we het hebben over de opkomst van AI in relatie tot onze democratie. Specifiek in het licht van de aankomende Europese verkiezingen. Want stemgerechtigde burgers in de EU gaan namelijk de eerste Europese verkiezingen tegemoet sinds de opkomst van generatieve AI en hoe moeten we dat eigenlijk beschouwen?
Speaker 2:Ja, en daar gaan we vandaag achter komen door in gesprek te gaan met twee gasten en ware AI experts. Als eerste zit hier bij ons in de studio niemand minder dan Kees Verhoeven. Welkom Kees.
Speaker 3:Dankjewel.
Speaker 2:Kees je bent elf jaar Kamerlid geweest voor D66 met onder andere de portefeuilles ICT, privacy en cybersecurity. Na je tijd in de kamer ben je verder gegaan als ondernemer en run je je eigen bureau digitale zaken. Daarnaast heb je het boek de democratie crasht geschreven wat gaat over de politieke onmacht in het digitale tijdperk.
Speaker 3:Klopt.
Speaker 2:Best een hoop op deze thema's en een een lange lange geschiedenis daarmee. Zeker. Fijn dat je er bent.
Speaker 3:Ja, leuk om hier te zijn.
Speaker 1:Ja en ook een warm welkom aan Floris Hoogeboom. Hoi Floris.
Speaker 4:Leuk om er te zijn.
Speaker 1:Jij bent ook expert op dit gebied. En je bent voorzitter van de stichting Open Politiek. En vanuit deze stichting hebben jullie ook de website Openverkiezingen punt nl gelanceerd of bijna gelanceerd moet ik zeggen.
Speaker 4:Nou op het moment van opnemen bijna gelanceerd in die zin.
Speaker 1:Heel mooi. En daarmee hebben jullie eigenlijk een AI tool beschikbaar gesteld om partijprogramma's dichter bij de burger te brengen. Daar gaan we zo nog wat dieper op in. Maar eerst zijn we heel benieuwd hoe ben je eigenlijk met dit onderwerp en deze technologie in aanraking gekomen?
Speaker 4:Ja, nou kijk wat wat wij met open verkiezingen proberen te doen, hè, is we proberen eigenlijk twee dingen. Één proberen we partijprogramma's voor iedereen op ieder thema toegankelijk te maken. Nou, dat is ook onze missie nu als stichting. Maar hoe het voor mij persoonlijk begonnen is is net iets anders en is meer uit de technologie. Ik was op een gegeven moment bij de commissie Digitale Zaken vanuit mijn rol bij bij Schiphol toen.
Speaker 4:En daar was de ronde tafel gesprek AI en ja dat dat dat nou, dan bij zo'n ronde tafel gesprek, hè. Dan heb je een aantal sprekers. En dat ging eigenlijk alleen maar over de risico's. En joh, dit brengt gevaren met zich mee. En dit moeten we zo streng mogelijk reguleren.
Speaker 4:En ik vond eigenlijk dat we met die denkwijze dat je het kind met het bad water een beetje weggooit. Dus ik wou eigenlijk voor mij was het toen persoonlijk te drijven van joh kunnen we nou niet een een positief verhaal vertellen over AI. Door dit ook op een goede manier in te zetten voor onze voor onze democratie. Nou, zo is open verkiezingen een beetje gaan gaan
Speaker 5:rollen en dat is langzaam een soort uit de hand,
Speaker 4:uit de hand gelopen hobby geworden. Is langzaam een soort uit de hand uit de hand gelopen hobby geworden. Wat we nu met de stichting open politiek ja, echt iedere verkiezingen brengen en ook zoekende zijn om daartussen nog nog ja de connectie tussen burger en en politiek te verstevigen.
Speaker 2:Ja. Dus je zegt aan de andere kant van de van de risico's zitten veel kansen. Kees, jij hebt over die risico's natuurlijk veel geschreven, veel uitlatingen gedaan in het in het openbaar een boek geschreven waarin ook handelingsperspectief staat voor de overheid om beter om te gaan met deze risico's. We zijn ook benieuwd wat drijft jou zo om met deze thematiek aan de slag te gaan en waarom ben je hier zo geïnteresseerd in?
Speaker 3:Nou, de de reden is eigenlijk dat digitalisering, digitale technologie, het internet, social media, smartphones en nu ook AI hebben gewoon heel veel invloed op het gedrag van mensen en dus op de manier waarop de samenleving functioneert, waarop de economie functioneert, waarop bedrijven functioneren. Dus ja, het is gewoon een hele impactvolle factor in ons leven. Nou, AI wordt ook een systeemtechnologie genoemd. Dat is vergelijkbaar met de verbrandingsmotor en elektriciteit. En dat maakt gewoon dat je gewoon heel goed na moet denken als samenleving hoe je dat vorm wilt geven.
Speaker 3:En daar speelt de politiek dan wel een rol in. Dus ik vond als Kamerlid en dan ik geef Floris ook wel gelijk. Je komt als Kamerlid vrij snel uit bij risico's. Dat is namelijk de manier waarop een Kamerlid denkt. Een Kamerlid wordt altijd kamer politiek traag.
Speaker 3:Ja, kamer reageert op ontwikkelingen. Die ontwikkelingen komen uit bedrijven of uit burgers, maar de kamer reageert er al. Ja. Dus dat is meestal risicogericht.
Speaker 1:Controlerend natuurlijk.
Speaker 3:Controlerend, regulerend, inderdaad. Bijsturend, afremmend soms ook. Dus en dat dat dat zie je inderdaad vaak domineren, maar we moeten ook praten in de politiek over de kansen. Dus het is wat mij betreft wel echt en en maar de de drive voor mij komt dus vanuit die maatschappelijke invloed van van die technologie op ons allemaal, hè. Dus wij allemaal zitten elke dag op onze smartphone te veel uren kwijt te raken.
Speaker 3:We worden daardoor gestuurd. Social media discussies die we helemaal niet voeren op een manier zoals je die voert in een café. Hoeft ook niet misschien, want het is niet voor niks social media. Maar we doen heel veel dingen op een hele onbewuste manier door technologie.
Speaker 2:Ja, en dan zeg je systeemtechnologie net zoals elektriciteit. Begrijp ik het dan goed als je daarmee bedoelt dat het een technologie is die ook weer andere technologieën in staat stelt om nieuwe ontwikkelingen te bieden?
Speaker 3:Nou, het is een term die de WRR, de wetenschappelijke Raad het regeringsbeleid heeft heeft gebruikt. En een systeemtechnologie is eigenlijk een technologie die het hele systeem verandert. Dus het is een je had je de blockchain, blockchain technologie. Nou, je in mijn ogen is dat geen systeemtechnologie, omdat het niet doordringt tot alle componenten van de samenleving, niet alle domeinen. Wel natuurlijk een een aantal, hè?
Speaker 3:Bedoel crypto is gewoon blockchain, maar AI en elektriciteit zijn echt doorgedrongen tot alle fundamenten en alle domeinen van de samenleving. En dan is het een Ja. Tussen aanhalingstekens
Speaker 4:Het is interessant hè, want dat WRR rapport is volgens mij in twintig in twintig begin nog in ieder geval voor de hele hype die we nu hebben rondom de generatieve AI is er uitgekomen. En dat rapport gaat eigenlijk niet eens over die generatieve AI.
Speaker 3:Nee, maar ze zeggen er toch wel in algemene zin ook wel dingen over die ook over generatieve AI mag houden. Nee dat is Ze noemen het ook als
Speaker 4:één, maar meer maatschappelijk debat natuurlijk rondom die AI en de hele, de hele impact die we er eigenlijk van zien. Die die is die is pas eigenlijk daarna echt op kan gekomen. Maar dat soort is wel Ik bedoel
Speaker 3:niet om mezelf nu meer te doen dan en jou ook niet en misschien ons allemaal. Kijk, het ging al langer over aan je bij de overheid algoritmes voorspellen modellen.
Speaker 1:Mhmm. Ja, want dat is de enige van
Speaker 3:hoe je vraagt hebt door.
Speaker 1:Wat voor soort AI heb je eigenlijk voor de de minder experts onder ons?
Speaker 4:Heb heb je even. De
Speaker 1:moeten van jou ons.
Speaker 5:Ik denk
Speaker 4:ik denk Maar
Speaker 1:welke zijn relevant in het thema wat we vandaag gaan bespreken?
Speaker 5:Nou, ik
Speaker 4:denk dat dat wel interessant is inderdaad wat jij net ook even aansnijdt hè? Kijk als we het nu in de volksmond over AI hebben dan dan ik geef vaak presentaties en dan gaat het eigenlijk verwachten mensen er komt een soort over chatshypIT, of misschien over die die die over image Generators et cetera. Maar AI is veel breder dan dat. AI gaat ook over beeldverwerking. Nou we zitten hier in Amsterdam, de gemeente Amsterdam had geloof ik in twintig twintig al een systeem public ey ze dat.
Speaker 4:Waarmee ze publiek stellingen deden met AI. AI gaat ook over nou ja, die algoritmes waar we het net over hadden bij bij in je besluitvorming bij de overheid. Dus ik denk dat een hele brede, en dat is misschien een beetje technische definitie hoor van AI is ja, systemen die op een bepaalde manier soort menselijke intelligentie laten zien. Of in ieder geval op één taak het menselijk intelligent denken ja, goed kunnen kunnen reproduceren, kunnen na doen in die zin. En dat gaat dus veel verder dan alleen maar chat GPT of die generatieve AI waar we het nu allemaal over over hebben.
Speaker 2:Ja, want Floris je zegt net al, het was dat weer rapport dat kwam uit voordat generatieve AI opkwam. Waarom is dit zo'n grote doorbraak geweest dat generatieve AI 10 opzichte van wat we daarvoor hadden, wat volgens mij wat meer als voorspellende modellen bestempeld kan kan worden.
Speaker 3:Ja, je had eerst had je rekenen en toen had je voorspellen en nu heb je creëren. Ja. Even heel groot gezegd.
Speaker 4:En je
Speaker 2:hebt Janneke taal.
Speaker 3:Ja. Even simpel gezegd.
Speaker 4:Nou, kijk en ik denk ik denk wat er wat er gebeurd is, tuurlijk is die die technologie is veel beter geworden, hè. En en voor chat GPT had je GPT3 ook van Open AI. Nou, als je die twee naast elkaar legt dat dat is wel echt een wereld van verschil. Maar ik denk ook wat er gebeurd is en dat is denk ik ook heel interessant om naar te kijken vanuit een vanuit een impactperspectief is die technologie is veel toegankelijker geworden. Kijk wat is het verschil tussen de AI de eerste plaats van nou ja dat dat dat was een beetje de wereld van techneuten en van nerds zoals mezelf.
Speaker 4:Die daarmee, die daarmee speelden. Misschien bij wat bedrijven impact maakte. Maar ja, nu Chatsy PIT, ja het is voor iedereen beschikbaar. En het lost een heel duidelijk probleem voor je op. En een een student die ik laatst pak bij de Hogeschool Utrecht die zei van ja, waarom waarom gebruik ik het?
Speaker 4:Ja, het doet mijn werk voor me. Dus het echt iets wat steeds ja, meer onder de mensen komt in die in die zin.
Speaker 3:Nou ja, en er zijn natuurlijk een aantal grote aanjagen. Ik bedoel, AI bestaat echt al al al nou vanaf sinds de Tweede Wereldoorlog eigenlijk al, jaren vijftig. Ja
Speaker 4:zeker. Klinkt gek,
Speaker 5:maar het
Speaker 3:is wel zo. Ja. En en je hebt gewoon een aantal grote drivers gehad, steeds meer data, hé IoT, allerlei data punten, allerlei nieuwe systemen die voortdurend data genereren, dat is één. Twee, rekenkracht computers gewoon inclusief neurale netwerk, dus de machine learning component die er natuurlijk de laatste twintig jaar bijgekomen is. Ja, en ook het opslaan van data in de cloud wordt steeds makkelijker, waardoor je dus steeds meer mogelijkheden hebt om hele grote hoeveelheden data te verwerken, waardoor je dus die AI modellen veel beter kan trainen en er dus steeds betere dingen uitkomen.
Speaker 3:Lijkt ook wel een beetje op Google, de zoekmachine van Google is ook zo goed geworden, omdat iedereen via Google ging zoeken en dus Google enzovoort. Maar ja, het is al, ik bedoel in zevenennegentig won won een AI systeem, ja, computersysteem won al van van Kerkrade en Spalen. Want dat is inmiddels alweer ja, ja, zesentwintig jaar zeker.
Speaker 1:Ik kom uit dat jaar.
Speaker 3:Dat is maar gelijk. Ja. Dus dat is
Speaker 2:Ja en Floris je zegt net ook dus wat wat in ieder geval de laatste jaren flink aan het veranderen is, is die toegankelijkheid van AI modellen voor de gewone burger en wat we daardoor ook zien is dat het steeds vaker wordt gebruikt bij bijvoorbeeld democratische processen zoals verkiezingen. We hebben komende zomer de Europese verkiezingen en wat we nu weten van vorige verkiezingen zoals die in Slowakije, maar ook in Argentinië en die in de in de VS is dat er steeds vaker gebruik wordt gemaakt van generatieve AI, dus deepfakes of dat soort andere toepassingen op democratische processen.
Speaker 1:Ja, en dan nuancering daarin. Het gaat denk ik voornamelijk over de informatievoorziening die belangrijk is in tijden van verkiezingen voor de werking van de democratie, voor het komen tot politieke besluitvorming. Want na een beetje navragen hebben we nog niet een antwoord te kunnen vinden op de vraag, wordt er worden er al stemmen geteld of dat soort dingen met AI. Klopt. Dat lijkt me nog een beetje tricky, maar misschien kijken jullie daar anders naar.
Speaker 1:Dus vooral rondom die informatievoorziening toegankelijk maken, maar ook ja, wanneer is het goede informatie wanneer niet.
Speaker 2:Dus Kees, we waren wel benieuwd. Hoe zie jij die ontwikkeling dat het steeds toegankelijker is en dat het in dit soort verkiezingen gebruikt wordt en dat er eventueel, want daar is nog niet heel veel bewijs voor, maar ook uitslagen zou kunnen manipuleren of informatievoorziening zou kunnen aanpassen. Hoe zie jij die ontwikkeling?
Speaker 3:Ja, is altijd een dubbel verhaal. Ik weet nog goed dat wij een aantal maanden geleden elkaar ook een keer trof in een studio, Floris en toen ging het ook over allerlei verschillende invalshoeken rondom digitale technologie. Toen hebben we het ook over open verkiezingen gehad. Ik vind het natuurlijk aan de ene kant evident dat AI mensen kan helpen om dingen sneller te doorgronden. Informatie goed op een rij kan zetten, kan kan schikken.
Speaker 3:Zoals een mens niet niet zo één, twee, drie kan en dus ook niet doet.
Speaker 1:Dus in een publieke context wat waar moeten we dan aan denken?
Speaker 3:Nou, het versimpelen van informatie waardoor mensen gewoon begrijpen wat iets of iemand doet. Ja. Eigenlijk in één zin gewoon, ja, het samen
Speaker 4:Dat kan er gewoon eens zijn toch? Ik bedoel dat dat dat wij doen dat met verkiezingsprogramma's, maar
Speaker 5:dat kun
Speaker 4:je ook met de nieuwe omgevingswet of iets dergelijks wat natuurlijk ook zo'n document is wat ja, want die gaat niet door dus niet door te komen is. Maar waar je wel interessant hebt.
Speaker 3:Zeker heel veel opties om daar wat mee te doen. Tegelijkertijd is natuurlijk de grote uitdaging en dat vind ik zelf ook echt een wel een zoektocht. En dat waar gebruik je het nou wel en niet voor, hè? Dus dus en als je het ergens voor gebruikt, dan moet je vervolgens naar de risico's kijken. Maar ik vind de vraag daarvoor nog belangrijk, waar gebruik je het wel en niet voor?
Speaker 3:Ja, ik denk tegelijkertijd ja, tuurlijk is het zo dat er een mogelijkheid tot manipulatie of desinformatie of fouten ontstaat. Daar moeten we ons niet blind op staan, maar moeten we ook wel zeg maar de ogen voor openen. Dus ja, die balans van van van de voordelen en de nadelen, gigantisch cliché, maar die moeten we heel erg goed bewaken en dan kunnen we denk ik een heel eind komen.
Speaker 2:En op het huidige moment, die balans, hoe zie je die?
Speaker 3:Nou, wat je ziet bij technologie, dus zo'n bekend plaatje, het staat in alle boeken, eerst enorme verwachtingen, dus enorme verwachtings curve en die die fuck dan af en dan komen er eens wat keerzijdes waardoor mensen ineens heel negatief zijn en vervolgens gaat hij dan langzaam weer omhoog, de mens dan langzaam went en beter gebruik gaat gaat vertonen. Ja, laten we dat ook hier hopen
Speaker 1:Waar zitten we erin? Nou tussen de curcensuur? Dat is een goede vraag.
Speaker 3:Ik denk dat we nu wel een beetje na het, na het, na het eerste dal zitten. Dus ik ik heb het gevoel dat er binnen de overheid en binnen de maatschappij nu langzaam een gevoel is van hé wacht eens even, dit kan ik toch wel heel goed gebruiken. Maar de overheid vindt de overheid zit in een andere fase dan heel veel mensen. Mensen denken gewoon lachen. Ik kan mijn scriptie met Tsjeg GP schrijven bij wijze van spreken.
Speaker 3:Maar bij de overheid is het heel erg van wacht even auteursrechten en bronvermelding, en noem maar op. Dus die die vaas kunnen
Speaker 2:we nog wel weer verschillen. Ja. En Floris, dus jij weet veel van de van de kansen van AI, dus je website is daar een voorbeeld van. Verbeterde informatievoorziening voor burgers versimpelen ook, toegankelijk maken. We nog aan andere dingen denken waar we in in ieder geval verkiezingen of democratische processen AI voor kunnen gebruiken?
Speaker 4:Nou, ik denk ik denk wat onderwerp wat Kees net aansnijdt, dat zit natuurlijk heel erg in mijn straatje ook. Ja, complexe grote hoeveelheden informatie snel snel doorgronden. Nou, wat ik net noemde de omgevingswet, maar denk aan allerlei andere toepassingen. Een hele leuke toepassing vind ik zelf ook, ik weet niet of die nog steeds zo heette, slimme app. Waarmee je een complex geschreven brief van de overheid in in begrijpelijke taal kan kan omzetten.
Speaker 4:Dat is denk ik denk ik één. En als je hem puur op die democratie toespitst, ja, één van de dingen waar wij naar zitten te kijken is hoe versterk je nou die connectie tussen burger en parlement? Daar wordt een hele hoop data geproduceerd. Dat is allemaal open data, maar dat is zoveel data dat je er als individuele burger niet zo heel veel of makkelijk iets mee kan. Als het je werk is misschien als lobbyist of als redacteur bij een bij een bij een nieuwsmedium.
Speaker 1:Je bedoelt dus met data, data rondom partijprogramma's.
Speaker 4:Ja, of of nou ja, de data rond de partij, maar ook wat wordt er gezegd in de Kamer. Kijk we hebben we hebben natuurlijk een representatieve democratie waarin iedereen, iedere Kamerlid eigenlijk gekozen is zonder last. Dus eigenlijk jou ja, jouw jouw stem moet moet vertegenwoordigen. Nou ja, wat er nu gebeurt is, nu stem je dan heb je vier lang een filter van de van de media daar overheen zitten. Het zou natuurlijk ook heel interessant zijn als je veel directer kan volgen.
Speaker 4:En daar denk ik dat AI een hele mooie rol in kan spelen om die hele grote berg informatie, handelingen van de Kamer, moties, Kamervragen, om die allemaal samen te brengen. En voor jou als burger in een op een toegankelijke manier te presenteren. Dus echt die toepassing van heel veel informatie en dat klein maken en dat behapbaar maken. Daar daar zitten denk ik echt als je het hebt over democratie de grote kansen van AI.
Speaker 2:En ik kan me dan al helemaal voorstellen dat in relatie tot de Europese verkiezingen, dat is een verkiezing waarin Nederlandse burgers soms vaak heel erg nou ja, ze staan op afstand daarvan en ze weten ook vaak niet heel goed wat er precies besproken wordt en en wat daar wat daar besloten wordt. Dat dat een kans is om om soort van de Nederlandse burger iets beter geënculeerd te houden 10 opzichte van die informatie stroom ook.
Speaker 4:Ja, absoluut. Ik denk dat dat is dat is een toegevoegd iets daar. En ik kijk, ik denk dat het met Europese verkiezingen dat er natuurlijk nog veel meer over te zeggen valt in die zin. Maar zeker dat dat stukje AI en ook straks wat gebeurt er dan in dat Europees parlement. Want ik ben best politiek geëngageerd.
Speaker 4:Nou ja, ja, ik volg het ook niet op de voet. Dat is natuurlijk heel interessant als je die connectie wat wat sterker kunt kunt maken.
Speaker 1:Ja, zeker. Klinkt als inderdaad mooie kansen. En toch nog heel veel terug naar jullie tool specifiek, want richten jullie met dit tool nu enkel op de partijprogramma's of wat zit er allemaal in en hoe werkt het eigenlijk?
Speaker 4:Nou, wij richten ons nu enkel en alleen op de partijprogramma's. Dat is ook omdat kijk, dit is natuurlijk een innovatieve technologie en dan wil je ook wel zeker weten dat what's your live zet dat dat dat goed werkt.
Speaker 1:Absoluut.
Speaker 4:Waar we intern met bijvoorbeeld mee bezig zijn is nou ja, die die die verhandelingen van de kamer, hè. Dus de uitgeschreven debatten om daar vragen aan te kunnen stellen. Dus wat heeft kamerlid x in debat y, Wat wat wat zegt hij nou eigenlijk over dit dit thema? En dat is natuurlijk een hele eigenlijk de rol die normaal de media en die democratie eigenlijk weer hé. Dat die politiek controleren vervult.
Speaker 4:Daar kijken of we daar met AI een ja, een bijdrage in kunnen leveren.
Speaker 3:Geen geen media optredens dus?
Speaker 4:Nou, nu niet. En dat zit er maar ook vooral in kijk op het moment dat je richting media optredens dan dan is je groeipad natuurlijk ook gelijk van ja, welke welke media ga je dan wel meenemen? Welke media niet? En daar zit in direct natuurlijk een kleuring in.
Speaker 5:Nee, maar
Speaker 3:waarom ik het zeg? Omdat wat er in de partijprogramma staat en wat er in de Tweede Kamer wordt gezegd is over het algemeen vrij braaf en binnen de kaders. Terwijl juist de uitingen op social media en in talkshows heel erg zorgen voor de populariteit van een bepaalde politicus. Dus ik vind het heel interessant wat jij eigenlijk maak jij de de saaie politiek aanhalingstekens toegankelijker die en die is ook het meest, die zegt het meest uiteindelijk. Dus ik vind het heel goed.
Speaker 3:Ja. Want al die opgeblazen teksten die die worden gedaan op het moment dat je voor camera staat, die zijn leuk. Maar die zijn eigenlijk veel minder representatief dan de daadwerkelijke handelingen. Aan de andere kant is het natuurlijk inderdaad wel interessant om dan naar die verhouding te kijken. Maar het het laagdrempelige maken van de grote daadwerkelijke officiële handelingen.
Speaker 3:Ja. En partijprogramma's die natuurlijk ook formeel worden opgeschreven en worden vastgesteld door partijen. Zo is wel een goede En
Speaker 4:er zit natuurlijk ook nog een verschil tussen, hè. Kijk een discussie die wij in term bijvoorbeeld hebben is, wil je wel bijvoorbeeld ook iets met stemmen op amendementen doen? Want wat er natuurlijk gebeurt ja, partijprogramma's zijn ideologisch hé. Die die laten zien echt waar je als partij voor staat. Terwijl in Nederland coalitieland kan zo'n ja, kan kan hoe je stemt op een amendement of op een op een motie kan heel anders uitpakken natuurlijk.
Speaker 3:Ja en dan krijg je ook die die die wat aansluit op die plaatje op Twitter met die met die kruisje en die vinkjes dat dat Ja,
Speaker 4:ja, ja.
Speaker 3:En dat gaat gelijk heel erg over. Terwijl er ook heel vaak wordt gezegd, wordt er iets ingediend wat eigenlijk gewoon alom geregeld is. Maar dan stem je als partij tegen, omdat je dat vindt dat het overbodig is.
Speaker 5:Ja, ja.
Speaker 3:Maar dan zou programma wat dat niet begrijpt, zou dat gewoon wel interpreteren. Ja. Zo die partij zijn nu ineens tegen dat onderwerp. Terwijl het de de reden zit hem dan veel meer in
Speaker 5:een proces niet in de inhoud. Ja. Dus dan moet je dan
Speaker 3:nog wel even paar filtertjes op leggen.
Speaker 1:Dus eigenlijk de tool hoe jullie hem nu hebben ingericht haal je het dus een beetje weg uit die beeldvormingsstrijd. Ja, feitelijk,
Speaker 3:feitelijk, feitelijk, feitelijk, feitelijk is.
Speaker 4:Dat willen we, dat willen we zoveel mogelijk Vraag
Speaker 5:natuurlijk of
Speaker 3:mensen dat ook zoeken?
Speaker 4:Dat is waar. Dat is nou, maar dat, goed dat is niet jouw zorg.
Speaker 5:Nou,
Speaker 4:dat is nu ook niet de niche die wij willen vertolken. Kijk, wij zijn geen mediakanaal dat moet leveren van adverteerders en daardoor zo groot mogelijk bereik moet moet halen. Echt die feitelijke informatie. Ik denk wel dat wat jij nu aansnijdt natuurlijk ook in de, in het, in het licht van misinformatie. Ja, mensen worden graag natuurlijk bevestigd in hun eigen denkbeelden en in hun in hun zienswijze.
Speaker 1:Conformation bias.
Speaker 4:Ja, dus dat dat is denk ik als je het even besteed
Speaker 1:bent rondom
Speaker 4:Zeker, kan ik lezen.
Speaker 5:Rondom AI
Speaker 4:is dat, is dat denk ik een groot probleem met die misinformatie en gegenereerde content.
Speaker 1:Ja, ik heb ook nog één vraag. Ik hoop dat ik mezelf niet in de voet schiet en dat het te technisch wordt. Maar in principe jullie zitten achter het systeem achter die tool. Ik weet niet precies hoe dat technisch in elkaar zit, maar in principe zou je misschien kunnen kunnen afvragen zit daar dan niet ook een bepaalde bias van jullie, hoe jullie dat inrichten? Of hoe voorkomen jullie dat?
Speaker 4:Nou, dat dat voorkomen we door zo transparant mogelijk te zijn over hoe we het inrichten. Dus dat kun je ook helemaal terugvinden op het op het platform. Dat voorkomen we ook door een heel duidelijk beleid te hebben van oké, welke data gebruiken we? Hoe verwerken we die die verkiezingsprogramma's? Welke partijen nemen we wel en niet mee?
Speaker 4:Zeker met de Tweede Kamerverkiezingen zijn natuurlijk heel veel partijen die waar niemand van gehoord heeft en die die nul zetels peilen in die zin. Maar kijk vrij van bias is niks wat mensen doen, denk ik. En ik denk dat wij ons best doen om dat zoveel mogelijk te mitigeren. Ik denk dat het een illusie is om te denken dat er ook niet onbewust misschien wel ergens een bias in sluipt. Dus daar ben ik ook heel eerlijk in.
Speaker 2:Ja. We zien in ieder geval een hoop kans, een hoop risico's. Ik denk dat Cradleo altijd is de kansen zo goed mogelijk benutten en maar wel gecontroleerd. En de risico's zoveel mogelijk proberen te mitigeren.
Speaker 1:Of er inderdaad open over zijn.
Speaker 2:Of er open over zijn. We wouden eigenlijk in dit gesprek ook gaan kijken naar wie nou wat moet gaan doen om dat te bewerkstelligen. Dus die kansen te benutten, maar ook die risico's dus zo laag mogelijk te houden. En daar ligt natuurlijk een grote rol voor de overheid die probeert daar ook een hoop op, maar er liggen ook andere verantwoordelijkheden. Kees kun jij ons meenemen in of jij denkt dat de overheid tot nu toe krachtig genoeg is om dit te doen?
Speaker 2:En dan hebben we het natuurlijk over de Europese overheid, want veel van dit komt natuurlijk vanuit Europa, maar ook nationaal.
Speaker 3:Ja, nou Europa heeft de EU moet ik eigenlijk zeggen, klopt het niet helemaal. Maar de Europese Unie heeft natuurlijk echt twee grote speerpunten benoemd in de afgelopen vier jaar. En en digitalisering is daar één van, hè. Dus in tegenstelling tot eigenlijk de Tweede Kamer, ik bedoel we zijn blij dat er dan een digitale zaken commissie in de Tweede Kamer is. Daar heb ik ooit nog heel veel moeite voor moeten doen met een aantal collega's die ook vonden dat misschien toch wel belangrijk onderwerp was.
Speaker 3:Ja, dat is op zich leuk dat dat er nu is. We hebben een staatssecretaris en er wordt steeds meer opgeschreven die partijprogramma's over digitaal. Dus er zijn wel kleine pluspunten te zien, kleine stijging van de hoeveelheid aandacht. Maar de afgelopen twee jaar ging het helemaal niet meer over digitalisering tot shared GPD dan kwam. Want allemaal crises en dan is het ineens geen belangrijk onderwerp meer.
Speaker 3:Dus het zakt heel snel weg naar Nederland. Dat is in Europa, de Europese Unie echt niet zo, hè. Dus daar heb je echt een aantal verschillende commissarissen die daar in een geïntegreerd pakket met allerlei verschillende wetten bezig is. Nou, dat kun je niet anders dan ambitieus noemen, maar dat is alleen regulering, hè. Dus dat moeten we niet vergeten.
Speaker 3:Europa is, hè, je hebt een zo'n mooi plaatje, drie bollen, hè. Dus China, VS, Europa en dan China en de VS concurreren dan op een aantal aspecten van technologie. Daaronder hangt die bol van Europa. Één wordt erin, regulering. Daar zijn wij dan koploper in, maar in de rest doen wij eigenlijk niet echt Dus we zijn vooral al heel erg aan het reguleren.
Speaker 3:Nou, dat is hé, wat we net al zei, remmen, bijsturen noem het allemaal op. Dus dat is ja, dat wordt dat wordt gedaan. En ik denk dat die AI-act dat natuurlijk de meest overigens de data-act is ook belangrijk. Wordt wel eens vergeten, maar data-act zo belangrijk.
Speaker 1:Wat is het verschil? Nou ja, voor de date.
Speaker 3:Data-Eect gaat over de manier waarop data worden gedeeld en welke welke governance en welke afspraken en welke concurrentie afspraak je daarover maakt. En dus krijgt iedereen kans om te beschikken over data. Terwijl AIYAQ gaat vooral over de systemen zelf. Dus je zou het ene als de brandstof en het andere als de auto kunnen zien. En beide hebben wel impact.
Speaker 3:Ik, kort antwoordgevend naar dit lange betoog van ja, ik denk dat dat er veel gebeurt op Europees niveau op op het gebied van regulering. Ook best wel goede dingen. Ik denk ook dat het impact gaat hebben. De AVG privacywet heeft ook impact gehad. Nederland heeft een de Nederlandse overheid heeft dan een visie, een brede visie op generatieve AI.
Speaker 3:Is ook best wel een goed stuk, maar in allebei de gevallen denk ik wel gaat Nederland ook dingen bouwen, ontwikkelen, maken. Dat ja, dat dat moet jou ook aanspreken.
Speaker 4:Nou ja, dat dat is dat is Dat is natuurlijk de grote, want kijk je Als
Speaker 3:je ze bent. Benutten vergeten we nog een beetje denk
Speaker 4:ik wel. Ja, want je zegt die drie bollen hé. Europa is koploper in regulering. Wat ik wel heel interessant vind is ja, hoe hoe zorg je nou dat je niet alleen maar straks afhankelijk bent van die partijen aan de andere kant van de oceaan. Want dat zie je natuurlijk steeds op steeds meer vlakken gebeuren.
Speaker 4:En een tijdje terug naar met met SEDN, de de stichting van de Nederlandse domeinnamen. Dat we dat dat dat plan was om die op Amerikaanse service te gaan hosten. En ik denk dat dat wel een soort fundamentele vraag is die er ook onder ligt. Één, je kan de technologie denk ik heel goed reguleren. Maar twee, ook hoe zorg je ervoor dat je ja, daar ook wel een soort soevereiniteit in in in in behoudt.
Speaker 4:En niet alleen maar afhankelijk bent van een partij die misschien ons datacentrum in Europa heeft staan, maar nog steeds onder het Amerikaanse recht valt.
Speaker 3:Ja, wel die dat risico vind ik eerlijk gezegd nog wel meevallen. Ja echt ook dat? Ja. Het echt niet zo dat een Amerikaans bedrijf direct tegenover het zegt hier heb je al onze datum, omdat wij, omdat wij dat van jullie moeten geven. Ze hebben ook gewoon klanten.
Speaker 3:Ja. Dus partijen als Microsoft die zeggen ook echt van ja wacht eens even, dat zou je niet zomaar doen. Maar even over wat we we kijken heel snel alleen naar de overheid. Als als je niet wilt dat je bijvoorbeeld door desinformatie, hè stel dat jouw andere tools leiden tot een bepaalde bias, stel dat dat zo is. Dan moet je natuurlijk niet alleen naar de overheid kijken die zeggen we moeten dit en dit en dit gaan reguleren.
Speaker 3:Je moet natuurlijk ook andere partijen aanspreken en het begint natuurlijk bij de mensen zelf. Dat daar kunnen we niet omheen. En ik ben niet meer ik bedoel ik ben dan ooit D66 in de hè, zat ik in de Kamer en dat is ongeveer liberaal en eigen verantwoordelijkheid was ongeveer zo ongeveer het eerste wat we altijd zeiden. Ik vind deze technologie zo krachtig, dat het echt niet alleen maar eigen verantwoordelijkheid van mensen is. Ik bedoel kinderen die verslaafd aan een smartphone of volwassenen, die verslaafd aan nicotine is niet alleen maar.
Speaker 3:Mensen die omdat ze geen goede informatie hebben allemaal verkeerde financiële producten kopen, moeten beschermd worden tegen slechte slechte fabrikanten en producten. Maar mensen moeten wel een basisbegrip hebben van hoe technologie werkt, dat het internet op een bepaalde manier werkt, dat er bepaalde algoritmes achter zitten, Dat AI een een een basis heeft in data die ooit gegenereerd zijn en daar een een optelsom van maakt. Niet helemaal het goede woord. In plaats van dat mensen denken AI kan denken, AI kan beslissingen nemen, AI is eigenlijk slimmer dan de mens. We moeten wel begrijpen wat het is.
Speaker 3:En die basiskennis bij mensen vind ik echt superbelangrijk.
Speaker 1:Hoe moet die er komen? Is dat puur een verantwoordelijkheid van mensen zelf om je research te doen? Of moet daar meer onderwijs over gekomen?
Speaker 3:Uiteindelijk is het ja, zeker ook onderwijs. Digitale verhalen en de fase beginnen met mensen zelf. Je moet
Speaker 4:Het is een soort gezonde scepcis natuurlijk tegen informatie. En ik weet nog toen toen ik op de op de middelbare school zat, toen mocht ik geen Wikipedia gebruiken, want dat was een onveilige bron in die zin. Nou ja, die die skeps die die ik zie jou lachen, dus dat dat zal voor jou ook gegolden hebben. Maar ik denk zo'n skeps tegen informatie, dat dat is denk ik heel belangrijk om je ook te wapenen tegen die technologie. En ik denk dat dat is natuurlijk ook iets wat je wat je wat je steeds meer ziet verdwijnen.
Speaker 4:Ook door natuurlijk al die filter bubbels waarin je terecht komt. Nou, die confirmation bias waar we het net ook al even over hadden. Dat men heel graag bevestigd wordt. En AI is natuurlijk de de de gegenereerde content daarmee. Die die die creëert daar heel goed een wereld voor waarin dat dat perfect perfect mogelijk is.
Speaker 4:Dus hoe je je daartegen moet wapenen, ja, ik ik heb er denk ik ook niet de de de Magic bullet in één keer zeg maar. Maar dit is wel een heel interessante vraag.
Speaker 3:Ja, mensen moeten toch eigenlijk gewoon wel een soort basisgevoel hebben van hoe werken digitale technologieën die mij informatie brengen. Ik bedoel het feit dat je aan kinderen leert dat alles wat ze op internet lezen, overigens we hebben het hele tijd over de confirmation bias. Er zijn echt vele tientallen denkfouten die door digitale technologie getriggerd worden. Dat is echt een fascinerend onderwerp waar ik denk ik nog een keer boeken over ga schrijven, maar dat komt een andere keer wel. Maar het is niet alleen een confirmation bias.
Speaker 3:Het dat je bijvoorbeeld denkt van ja het staat op internet, dus het is waar. Heeft dus dat heet dat authority bias heet dat hè? Dus dan wordt het internet een een scherm wordt gezien als een autoriteit. Of een dokter met een witte jas aan om het zo maar te zeggen. Dus en je moet gewoon aan kinderen leren.
Speaker 3:Ja, dat heb je misschien daar gelezen, maar dat dat wil helemaal niet zeggen dat het klopt. Iemand kan dat zomaar zeggen. Iemand hoeft helemaal niet te zijn wie die is. Nou dat soort basisinformatie die je, dat zou je toch wel moeten moeten ontwikkelen. En ook op het gebied van AI, Ik word ook heel vaak gevraagd natuurlijk als ja, als spreker bij events.
Speaker 3:En dan is de vraag heel vaak nu ook van over hé van Kees, ja, wil je wat over AI komen vertellen? Dus ik heb nu een soort van verhaal ontwikkeld waarin ik gewoon eerst dat die eerste advies uit het WredR-rapport demificeren, dat ontmaskeren, dat probeer ik wel te doen. Ik probeer echt in de kern uit te leggen wat doet het nou eigenlijk en wat kan het dus niet? Ja. Ja.
Speaker 3:En ja, die die die ja, dan dat je van burgers, maar ook verwacht
Speaker 4:je daar dan ook niet Tuurlijk
Speaker 3:ook niet.
Speaker 4:Ja, maar verwacht je daar dan ook niet te veel van van mensen hè? Dat kan ik natuurlijk wel Ja, ik ben
Speaker 5:het, ik ben het met
Speaker 4:je eens dit het zou moeten zijn. Maar je zou niet Dat is een vraag. Je kan, je kan, ik denk ik denk het is natuurlijk misinformatie is iets van tijden, in die zin.
Speaker 3:Misinformatie, dat werd op een gegeven moment werd het nepnieuws genoemd. En dat vond ik ook heel vervelende term, veel te smal. Dit zit echt wel wat dieper met inderdaad algoritmes die gepersonaliseerd zijn, hè. Dus jouw profiel wordt gebruikt voor een
Speaker 4:Nou, het is het is een heel efficiënte vorm van informatie op jou. Dat is denk ik vooral het grote risico.
Speaker 5:Ja, je
Speaker 3:moet niet diep onder de huid, maar ik vind ja, ik vind dat als jij bestuurder bent, ook
Speaker 4:al is het maar bestuurder in een in een gemeente waarbij heel snel wordt zegt ja, maar
Speaker 3:wij hebben lokaal niet zoveel meer. Dan denk ik nee, kom op. Je kunt als als lokale bestuur ook je gewoon verdiepen in één van de grote veranderkrachten in deze samenleving. Dus ja, misschien zeg jij zoiets van ja, nee, ik vind het iets te houden verwachting, maar ik vind dat je dat van onze huidige bestuurdersgeneratie mag verwachten. Het is zo invloedrijk, dus ja, ik vind dat het wel moet.
Speaker 2:Oké, ik
Speaker 3:vind het wel. En
Speaker 2:dus even terugkomend op iets wat u een tijdje hiervoor wordt gezegd. Die zeiden ook dus die regulering gaat eigenlijk best oké vanuit de EU en daar doen we daar zijn we kampioen in 10 opzichte van China en de VS. Maar die kansen die benutten we niet genoeg en dan zoek ik toch altijd naar wat is dan wat is dan concreet handelingsperspectief die we vanuit de EU kunnen kunnen toepassen om die kansen beter te benutten zeg maar. Wat kunnen we.
Speaker 1:Pas nationaal.
Speaker 3:Gewoon AI-fabrieken bouwen, Dus dus dat wil de Europese Unie ook stimuleren. Dat is een eigen technologie-industrie, dus Europese kampioenen wordt er dan altijd gezegd. Klinkt wel heel stoer, maar het feit dat je eigenlijk als Europa zegt van wij gaan ook bedrijven proberen te stimuleren die echt gewoon koploper worden. Nou, wat heb je dan nodig? Snelle computers, heel veel eigen data in plaats van dat ze al die data naar naar de naar de VS en China sturen, En mensen die er goed opgeleid zijn.
Speaker 3:Als je dat bij elkaar brengt, dan heb je gewoon plekken waar je in Europa, Nederland ja, AI toepassingen kan ontwikkelen en dan kunnen wij ook dingen bouwen.
Speaker 4:Ik denk wel echt dat je dat je als Europa nu zover achterloopt hé, als als markt zijnde dat daar moet daar moet van van overheidswegen moet daar gewoon flink in geïnvesteerd worden. En dan ja dat dat is dat is misschien heel zonde dat ik het zeg. Maar dan hebben we bijvoorbeeld GPTNL, hè. Nou ja, hebben we volgens mij zestien miljoen
Speaker 3:Ja, dertien dacht ik.
Speaker 4:Dertien nou ja, in ieder geval worden worden worden grote. Budget voor. Ja, één keer GPT4 treden zal ook ergens richting de twee, drie miljoen gaan. Dus om even even ook het het het verschil te geven in in in de orde van grootte waarin gedacht wordt door met een investering van Microsoft van nou ja dat en dat is dat niet allemaal geld, hè. Dat gaat ook over rekenkracht die ze daar beschikbaar stellen et cetera.
Speaker 4:Maar wat wat wat was het laat, weet jij het? Twaalf twaalf twaalf miljard geloof ik. Milj miljarden. Miljarden.
Speaker 3:Zet hem aan de factor, ja, dat
Speaker 4:En vergelijk dat met de investering die wij nu in Nederland doen om zo'n eigen taalmodel te maken. En dat betekent niet dat ik vind dat we het niet moeten doen, maar wel
Speaker 5:dat ik denk wil je daar
Speaker 4:echt als Europa ook die kansen volledig benutten, ja, dan moet daar gewoon heel veel geld tegenaan.
Speaker 2:Ja, en dat is een politieke keuze.
Speaker 4:Ja, dat is een politieke keuze. En een ander aspect dan ook nog denk ik, hè, wat natuurlijk ook heel interessant is. Ik denk dat je ook als je het hebt over IT-technologie inkopen. Kijk, we hebben nu de de aanbestedingswet in die zin waarmee we heel veel IT-technologie inkopen. Nou dat betekent ook dat voor heel veel Europese partijen het gewoon niet mogelijk is om bij een overheidspartij als leverancier daar aan te komen, omdat die gewoon op prijs niet mee kunnen komen.
Speaker 4:Dus dan moet je bijna ook denken aan een soort protectionistische maatregelen natuurlijk die Ja, dat
Speaker 3:is heel lang gedacht Europa is de open economie en wij laten iedereen toe, want dit is de manier waarop we handeldrijven, zeg maar, onze welvaart hebben gewonnen. Maar de wereld is wel veranderd en de inspelen machtsblokken vanuit zelfs een bepaald protectionistisch beleid vind ik daar ook onder. Industriepolitiek is misschien een iets fijner woord om naar te luisteren. Maar dat is wel belangrijk. Dus ja, we zullen wel echt de mouwen moeten opstropen en ja, je begint natuurlijk wat mij betreft begint het bij mensen en eindigt het bij de overheid.
Speaker 3:Daartussen zit ook nog een belangrijke schakel. Dat zijn namelijk de mensen zoals Floris en alle bedrijven die het ontwikkelen die hebben natuurlijk ook een zorgplicht. Die moeten wel gewoon en ik bedoel bij Floris zit dat wel goed. Ik bedoel dat is een goede intentie en dat is er niet op gericht om heel veel heel snel heel geld te verdienen, maar de prikkels die grote aandeelhouders hebben van de grote big tech bedrijven om een nog niet af product op de markt te brengen om als eerste te lanceren, wat vaak cruciaal is in digitale economie en data, want dat zijn vaak de first movers adventages en de Winnieat X-modellen. Als je niet de eerste bent, dan ben je dus ook niet de beste.
Speaker 3:Dus er zit heel veel druk op. Nou, dus bedrijven hebben ook nog een zorgplicht om gewoon goede producten op de markt te zetten.
Speaker 1:Ja, en om daar meteen op in te haken. Eigenlijk als ik het zo beluister zit er ook wel een tegenstrijdigheid in. Want aan de ene kant zijn we goed te reguleren, maar we moeten ook innoveren en investeren. Blijft er nog genoeg ruimte over voor die innovatie? Of houdt het makers zoals jij Floris tegen de reguliere dingen
Speaker 4:die je Nee, nee, wat wat wat ik lastig vind met reguleren is dat ook reguleren hoe dat uitwerkt in de markt is ook soort niet helemaal egaal.
Speaker 1:Je bedoelt al in in 10 opzichte van hoe het bedoeld is in de wet en de praktijk? Of bedoel je dat anders Meer
Speaker 4:wat voor partijen voelen daar nou echt angst van? Want ik denk dat kijk die regulering is hartstikke hartstikke goed. En ik denk ook je kan daar prima mee werken. En zeker als je kijkt naar de, naar de AI act en die die ken ik beter dan dan dan de data act overigens. Vink de data act wel met hoe de ook dat werkt met dat sharing et cetera.
Speaker 4:Gaat ook hele mooie kansen creëren. Maar een hele hoop toepassingen daar vallen in die laagrisicokategorie. Dus je kan een hele hoop doen als partij die AI levert. Dus ik denk ook dat we daar niet te bang moeten zijn. Ik zie wel en dat zie zag ik ook bij bij bijvoorbeeld AVG gebeuren Dat heel veel organisaties schieten natuurlijk in in in de kramp als het ware.
Speaker 4:En ja, met de AVG werd werd het passend en te onpas werd er, werd er privacy zeg maar geroepen van dit mag niet, dat mag niet om om privacy. Terwijl er een hele hoop binnen die wetgevingkaders wel mag. Dus ik denk ook dat vooral te maken heeft met op een rationele manier naar die wetgeving kijken. En dat er ook binnen die wetgeving echt economisch nog genoeg te winnen is voor partijen om deze markt te veroveren.
Speaker 1:Gelukkig maar. We hebben het over van alles en nog wat gehad. We zijn begonnen met definitie in de context van AI wat houdt het nou in en welke soort heb je in een notendop. We hebben de kansen en risico's besproken. Nou ja, kansen zoals het toegankelijker maken van informatie in besluitvormingsprocessen en in informatievoorziening in het algemeen.
Speaker 1:Maar ook risico's zoals bias die mogelijk een rol kunnen spelen. Of afhankelijkheid van grote partijen en nog een aantal zaken. Maar gelukkig hebben we het ook gehad over het handelingsperspectief aan wat we en met we bedoelen we de Europa, maar ook nationaal, maar ook burgers. Wat kunnen we allemaal doen om die kans te benutten en de risico's te mitigeren. Kees en Floris, ik wil jullie namens ons beiden heel hartelijk bedanken voor jullie deelname vandaag en voor het hele interessante gesprek.
Speaker 3:Graag gedaan.
Speaker 4:Ja, graag gedaan.
Speaker 3:Dat hebben
Speaker 4:we te doen.
Speaker 2:Beste luisteraars, dank je wel voor het luisteren naar bestuurpraten podcast. Zoals al vermeld kiest Europa tussen zes en negen juni een nieuw parlement En in Nederland gaan we dus op zes juni naar de stembus.
Speaker 5:Wil je
Speaker 2:meer weten over de thema's die deze verkiezingen belangrijk zijn? En hoe de verschillende politieke partijen hierover denken? Berenschot en stichting Open Politiek hebben de handen ineen geslagen om je hierover te informeren. Dus bezoek de website of LinkedIn pagina van Berenschot voor meer informatie. Vergeet verder natuurlijk niet te abonneren op onze podcast en tot de volgende keer.