Abonneren
Delen
Delen
Embedden
Een bijzondere aflevering! De eerste aflevering van qeep talking die live is opgenomen voor een publiek. En dat publiek bestond uit privacy en security experts van de gemeente Utrecht. Daar vond ook het gesprek plaats met Tom Kanis, wetgevingsjurist AI bij BZK. Renco en Tom praten over de route die AI wet- en regelgeving aflegt van Brussel naar een overheidsgebouw en waar AI thuishoort in het organogram en de governance van een overheidsorganisatie. Ook beantwoorden ze vragen vanuit het publiek.
Beluister deze aflevering op Youtube
Het transcript dat bij deze podcast zit is m.b.v. AI gegeneerd en kan fouten bevatten.
qeep talking is een podcast van Renco Schoemaker. De BIO Bazen (video)afleveringen maakt hij samen met Kees Hintzbergen. Vanuit zijn bedrijf qeep IT safe adviseert Renco de publieke sector over informatiebeveiliging en privacy in de brede zin. Naast de podcast, schrijft hij al >13 jaar blogs en vanaf 2025 voegde hij daar opinies, video's en links aan toe. Al zijn content en nieuwsbrieven vind je op qeep posted (registratie is gratis). Ook is Renco actief als BIO2 en NIS2/Cbw trainer.
- (00:57) - Intro en bijzondere locatie
- (03:59) - Europese regels uitgelegd
- (08:38) - AI-verordening voor Utrecht
- (12:54) - AI in de organisatie
- (18:39) - Vragen uit het publiek
- (26:18) - Productveiligheid en AI
- (34:49) - Keuring en toezichthouders
- (38:47) - Grip op AI-toepassingen
Beluister deze aflevering op Youtube
Het transcript dat bij deze podcast zit is m.b.v. AI gegeneerd en kan fouten bevatten.
qeep talking is een podcast van Renco Schoemaker. De BIO Bazen (video)afleveringen maakt hij samen met Kees Hintzbergen. Vanuit zijn bedrijf qeep IT safe adviseert Renco de publieke sector over informatiebeveiliging en privacy in de brede zin. Naast de podcast, schrijft hij al >13 jaar blogs en vanaf 2025 voegde hij daar opinies, video's en links aan toe. Al zijn content en nieuwsbrieven vind je op qeep posted (registratie is gratis). Ook is Renco actief als BIO2 en NIS2/Cbw trainer.
Makers en gasten
Wat is qeep talking?
Een maandelijkse podcast waarin Renco Schoemaker in gesprek gaat met uiteenlopende gasten over informatiebeveiliging en privacy. Het gaat daarbij vooral om het 'hoe' in de context van de (lokale) overheid.
Welkom bij een nieuwe aflevering van qeep talking. Een podcast waarin ik, Renco Schoemaker, in gesprek ga met uiteenlopende gasten over informatiebeveiliging en privacy bij de overheid. Het gaat mij tijdens die gesprekken vooral om de hoe vraag. Die blijkt namelijk veel lastiger te beantwoorden dan de wat vraag. Met deze praktische insteek hoop ik dat jij als luisteraar ideeën opdoet om succesvoller te zijn in je werk.
Renco:Zowel op het gebied van maatregelen als het managementsysteem waarbinnen die maatregelen worden genomen en daar veel over te bespreken dus veel plezier en. Nou, na lang organiseren, voorbereiden of minder goed voorbereiden is hier dan weer een nieuwe aflevering van qeep talking en wel een hele bijzondere aflevering, want ik zit hier eens een keer niet in een gortdroog klein overleg hokje van een of ander overheidsgebouw. Ik zit nu op de meest prestigieuze afdeling of verdieping moet ik zeggen van het stadskantoor van de gemeente Utrecht. De 21e etage met tegenover mijn gast die ik zo ga introduceren, maar intimiderender misschien nog wel is dat er ook een heel publiek mij nu aanstaart. Dus daar ga je ook nog wat van horen in deze podcast.
Renco:Hartstikke leuk, leuk dat jullie er allemaal zijn. Dat zijn en wie jullie zijn, daar ga ik natuurlijk niet te veel over zeggen. Dat is een beetje de beroepsdeformatie. Maar jullie zijn wel, jullie zijn inhoudelijk experts op het gebied van security en privacy. Lekker vaag dus.
Renco:Welkom, leuk dat jullie er zijn. Jullie mogen ook vragen stellen straks. Dat gaan jullie hoop ik ook doen. Dan gaan jullie ons lekker onderbreken en het ons lastig maken. Dus dat even de huishoudelijk voor de mensen thuis.
Renco:Omdat je een beetje een idee hebt van waarom deze podcast zo anders is dan de andere podcast. Maar waarom die natuurlijk echt anders is, omdat er een hele unieke gast tegenover mij zit. Nee, we zijn allemaal uniek. We zijn allemaal uniek. Voordat we de inhoud induiken wel even goed om de gasten kort te introduceren.
Renco:Tegenover mij zit Tom en Tom is wetgevingsjurist bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Ja. BZK. Tom, wat heeft jou in vredesnaam ertoe bewogen om hier tegenover mij te belanden?
Tom:Ik werd gevraagd.
Renco:Dat had ik ook. Je mag gewoon lezen.
Tom:Ik vind het heel moeilijk om nee te zeggen. Maar het leek me ook gewoon heel leuk. Ja. Ja. Ik heb geen idee wat we we gaan doen eigenlijk, maar we gaan het zien.
Renco:Nou, dat is dat is de open houding die ik graag zie. Ik ik probeer dat een beetje in goede banen te leiden. Tom, jij werkt dus bij BZK. Dan zouden wij in theorie van de ene toren naar de andere toren door het raampje naar elkaar kunnen zwaaien. Ja.
Renco:Want ik werk sinds kort voor het ministerie van Justitie en Veiligheid. En ik zit in de Noordtoren en jij zit in de...
Tom:Zuidtoren. Zuidtoren.
Renco:Ja. Ze zijn niet heel mooi, maar op de turfmarkt heb je 2 van die hoge dingen. Nou, nee Dat gaat om het idee. Zitten wij troosteloos uit het raam te staren. Zo moeten we dat
Tom:nog En zitten toch voornamelijk gewoon achter een computertje te werken. Dus echt uitzicht, hoe belangrijk is het?
Renco:Hé, maar over achter computertje werken dan gesproken. Wat doet nou weer een wetgevingsjurist? Zijn er ook niet wetgevingsjuristen?
Tom:Jazeker, ja. Ik denk dat jij er eentje bent. Nou. En niet wetgevingsjurist dan. Nee, wetgevingsjurist dat kijk er wordt natuurlijk in Nederland heel veel regelgeving gemaakt op het niveau van het rijk.
Tom:En iemand moet het op papier zetten. Nou ja, daar heb je dan de wetgevingsjuristen voor. Die werkt vaak samen in een team van nou ja, beleidsmedewerkers, eventueel nog andere wetgevings juristen die gezamenlijk het beleid uitdenken en op een gegeven moment landt dat in een bepaalde vorm op papier. En nou ja, dan komen er concepten van zo'n wetsuits die uiteindelijk naar de 2e Kamer gaan bijvoorbeeld.
Renco:En die concepten die kan ik bijvoorbeeld ook voorbij zien komen op internetconsultatie punt nl.
Tom:Zeker, ja, ja.
Renco:Nou, noem eens een mooi stukje proza van jouw hand.
Tom:Een mooi stukje proza van mijn hand. Je het hebben over de wet hergebruik van overheidsinformatie?
Renco:Nou, dit hebben we niet voorbereid. Nee, ik heb jou inderdaad zitten googelen en toen kwam ik jou tegen bij de de WH0.
Tom:Ja, niet niet die andere. Niet de World Health Organisation.
Renco:Nee, dat was even verwarrend. Ja. Maar het was maar met 1 hoofdletter. Ja. Maar zo lossen we dat op in overheidsland, hè.
Renco:Als we dus conflicterende afkortingen hebben, dan doen we de ene met allemaal hoofdletters en dan bij de ander doen we 1 kleine letter en dan heb je dat probleem opgelost, Denk ik. Maar goed, de WHO. Kan je iets kort vertellen Tom om ons een beetje een beeld te geven wat een wetgeving jurist doet en wat jouw rol is in het vertalen van alle verstandige dingen die in Europa bedacht worden naar een wet hier in Nederland.
Tom:Ja, ja. Kijk heel veel wetgeving die ontstaat natuurlijk gewoon op onze eigen op onze eigen bodem hier. Maar ook een hele hoop wetgeving die ontstaat eigenlijk eerst in Brussel. Dus dan komt er ergens een idee, hè. De Europese Unie die vindt je moet er wat mee.
Tom:De Europese Commissie vooral, want die mag het initiatief nemen. Vaak komen ze eerst omdat groenboeken, witboeken, hè ideeën verzamelen, wat dan ook. Uiteindelijk komen ze met een proposal, dus een wetsvoorstel. Dat moet dan door de Europese of door de Europese Raad en het Europees Parlement nog worden beoordeeld.
Renco:Ja, maar dat zijn de 3 organen toch? De commissie, de raad en het parlement.
Tom:Zeker, ja. Ja. En uiteindelijk nou die die hebben ook weer amendementen en dergelijke. Daar komt een soort compromis uit en dat wordt uiteindelijk de de verordening of de richtlijn zoals die dan wordt gepresenteerd.
Renco:Ja, zijn er mensen in de zaal hier die CIPP/E gecertificeerd zijn? Ja, dan hebben jullie dit ook allemaal moeten leren hè, toch hè? Dat is waarom ik dit in 1 keer nog ergens vandaan weet te halen volgens mij. Het parlement, de commissie en de raad. Was best een taai examen trouwens vond ik zelf dat CIPP/E.
Tom:Ja, ik heb Europees recht gestudeerd dus. Vreselijk. Dat stukje was herhaling dat scheelde. Maar er ging wel erg veel aandacht naar dat soort dingen. Dat vond ik een beetje overbodig.
Tom:Oké. Maar goed.
Renco:Maar dus de mensen die tenminste de mensen die CIPP/E-gecertificeerd zijn die weten natuurlijk van de GDPR ofwel ja, de AVG. Heb jij daar ook aan meegeschreven? Is dat ook een is dat dus een voorbeeld van zo'n iets wat verstandig in Europa bedacht wordt en wat dan doorvertaald moet worden naar een Nederlandse wet?
Tom:Tot op zekere hoogte. Ik heb er zelf niet aangezeten, maar nou dat is dus een verordening. En de verschil tussen de richtlijn de verordening heb je vast ook moeten leren in je CIPP/E. Zeker. Maar goed, iedereen die dat die dat die de cursus niet gedaan heeft korte samenvatting, een verordening die heeft directe gelding in alle lidstaten.
Tom:En een richtlijn die moet eerst vertaald worden naar lokaal recht. Dus Nederlands recht in ons geval.
Renco:Ja, vertaald bedoel je dus niet niet letterlijk taal met een andere taal, maar
Tom:Omgezet is eigenlijk de term die Omgezet.
Renco:Ja. Dus we hebben een GDPR die hoefde niet omgezet te worden, want dat was gewoon voor iedereen dezelfde spelregels. Ja. En nou, laat ik er eens 1 noemen NIS 2 of zo. Die moest wel omgezet worden.
Renco:Ja. En wie bepaalt nou wanneer het het 1 of het andere is?
Tom:Tot op zekere hoogte volgt dat uit de Europese verdragen. En tot op zekere hoogte is het een keuze van de commissie.
Renco:Oké.
Tom:Dus er zijn bepaalde onderwerpen daar heeft de Europese Commissie alleen maar in de bevoegdheid om om te beginnen met de verordening of een richtlijn en er zijn situaties waarin het allebei een optie is en dan is vooral de afweging ja,
Renco:hoe
Tom:hoe hoe direct willen wij dat deze zaken werken? Met hoeveel ja, specifieke situaties van lidstaten willen we rekening houden? Dat dat soort zaken, ja. Best wel vaag eigenlijk. Het is best wel vaag.
Tom:Je ziet ook wel eens dat dat de Europese Commissie in 1e instantie met een richtlijn komt. Die dan in al die lidstaten wordt doorgevoerd en dan na verloop van tijd komt er een keer een verordening achteraan die alles helemaal harmoniseert.
Renco:Nou ja, want even de gevaren van richtlijnen is dat er toch een beetje licht tussen komt tussen hoe de verschillende lidstaten die richtlijn implementeren.
Tom:Ja, ja, van de hoofddoelen van de Europese Unie is toch eigenlijk om te zorgen voor 1 markt. Gewoon 1 grote Europese markt voor allerlei diensten en en goederen en dan helpt het toch wel heel erg als al die lidstaten een beetje dezelfde regels erop nahouden. En dat is nou net 1 van de problemen die ja, de Europese Unie nog steeds neemt.
Renco:Dus we moeten voorspel jij dan daarmee dat we naar de toekomst toe dat er procentueel een afname zal zijn van het aantal richtlijnen en een toename van het aantal verordeningen?
Tom:En dat zou goed kunnen. Ja, ja. De kan natuurlijk ook zijn dat er nog steeds heel veel richtlijnen bij blijven komen op nieuwe onderwerpen. Maar ja, onderwerpen die een beetje gesetteld zijn, daar verwacht ik op termijn meer en meer meer verordeningen, klopt.
Renco:Ja, ja en zo'n onderwerp als AI, zit dat bij jou in de categorie gesetteld?
Tom:Zeker niet.
Renco:Zeker niet. Oké.
Tom:En hebben ze het toch van de voord niet.
Renco:Nou, ik wou net zeggen, hè. Even dit is een lijn doortrekken. We hebben te maken met de AI-verordening.
Tom:Zeker.
Renco:En niet met de AI-richtlijn. Nee. Nee, dus je moet meteen gewoon gestrekt been erin.
Tom:Ja, ja, ik denk dat de Europese commissie hier dacht het is wel zo'n ja, wereldwijd fenomeen. Daar moet je hè je als Europese Unie ook een beetje kunnen weren tegen nou ja, buiten Europese invloeden. Laten we maar gelijk voor een verordening gaan, dan dan hebben we 1 ja, 1 speelveld. Ja. Is de theorie.
Renco:Roept dit al vragen op bij de aanwezigen? Of is dit gewoon ja, ja, minder dan der kom op. Richtlijnen verordeningen. Oké, dus we hebben de AI-verordening aan de broek hè. Dat is in mijn woorden dan hè.
Renco:Wat gaat ons dat opleveren? Wat gaat dat we zijn hier te gast bij de gemeente Utrecht. Wat gaat de AI-verordening opleveren voor de gemeente Utrecht?
Tom:Hele goede vraag. Ik denk in 1e instantie intern heel veel gedoe. Heel veel, heel veel extra werk.
Renco:Hopelijk. Je weet het wel aan de man of aan de vrouw.
Tom:Ja, maar dat is altijd hè. 1e fase is altijd je hebt opeens nieuwe regels waar je waar je iets mee moet.
Renco:Ik moet dan meteen aan een Balkenende denken die altijd over zoet en zuur had. Ja. Toch? Eerst het zuur en dan het zoet.
Tom:Ja, ja, ja. Nou ja, kijk de de Europese Unie was was een beetje bang dat AI eenmaal uit de hand gaat lopen als je er geen regels over stelt. Dus je kan je ook afvragen wat zou er gebeuren als we dat niet hadden gedaan? Als we helemaal geen regels voor AI zouden zijn. Stel dat we dat als Nederland ook niet zouden doen en de gemeente Utrecht gaat ook geen AI regels in de in de verordening opnemen.
Tom:Ja, wat gebeurt er dan precies? En dan is de nou ja, waar we bang voor zijn, hè. Waar de EU bang voor is, is dat je allerlei ja, wild westachtige AI praktijken krijgt. Losgeslagen systemen, nou ja, risico's voor de grondrechten, voor de economie, alles.
Renco:Ik wou zeggen want beschrijven ze de karakteristieken van een losgeslagen AI-systeem dan?
Tom:Heb je terminator series gezien?
Renco:Zeker.
Tom:Heb
Renco:je. Dat hij zo met die pin en dan zit hij zo een pak melk te drinken en dan gaat hij zo met die ijzeren pin zo in zijn oog. Bedoel je dat?
Tom:Onder andere.
Renco:Dat klein trauma van mij van vroeger.
Tom:Er is een bijzonder groot aantal films gemaakt over losgeslagen AI. De matrix.
Renco:Maar je zegt ja, maar het is een beetje overdreven. Is het niet allemaal overdreven?
Tom:Dat weten we niet. Ja, dat is een hele goede vraag.
Renco:Het zou dus ook overdreven kunnen zijn.
Tom:Het zou heel goed overdreven kunnen zijn.
Renco:Maar als het dat niet is?
Renco:Als het niet is, dan hebben we in ieder geval iets van een van een waarborg. Is de gedachte.
Renco:Is er iemand die wat wil vertellen over een losgeslagen AI-systeem bij de gemeente Utrecht? Handige vraag. Ik zie, nee, niemand. Ja, we hebben ook nog een, 1 besloten gesprek als straks de opnamekoppen uit staat dan moeten we deze vraag denk ik nog maar een keer stellen. Oké, maar goed op dat AI-terrein gebeurt natuurlijk van alles, hè.
Renco:Zeker ook in het vakgebied security. Die zogenaamde frontier models die vallen mekaar aan zonder dat nou ja, ik heb altijd het gevoel van ja, is dit nu gewoon hele moderne marketing, hè. Waarbij die een Anthropic of een openAI eigenlijk op deze manier verkapt laat zien hoe ontzettend krachtig die modellen wel allemaal niet zijn.
Tom:Waarschijnlijk.
Renco:Of moeten we ons vooral heel veel zorgen maken? Waarschijnlijk ook. Ja, ja, oké, ik wilde jou vragen waar u...
Tom:Ja, welke is het? Ja. Ik moet zeker kiezen.
Renco:Ja, het liefst.
Tom:Ja, ja, het liefst wel. Dat ja, dat ik ben niet zo goed te kiezen. Dat nee, ik. Jij bent
Renco:jurist zeker?
Tom:Ik ben jurist.
Renco:Ja, ja, ja. Dat hangt ervan af.
Tom:Ja, precies mits maar in beginsel. Nee, kijk ja, dat al die topmannen zijn natuurlijk primair verkopers. Dus die willen hun product aan de man brengen. Dus dus alles wat ze zeggen moet je met de korreltje zout nemen. Maar ja, neem niet weg dat misschien hè soms de dingen die ze zeggen ook daadwerkelijk overeenkomen met de werkelijkheid.
Tom:Dus ja, kijk een 1 de VS heeft nog niet echt een 1 duidelijke AI verordening achtige constructie. Het is zijn nog iets meer inderdaad een wildbeste van van AI systemen. Dat hebben we ook gezien met al die inbraken overal.
Renco:Ja. Digitale inbraken dus.
Tom:Digitale inbraken inderdaad. Dus ja, misschien is het wel wel daadwerkelijk een gevaar waar waar ze het over hebben.
Renco:Ja, ja, nou nu weet ik denk nu denk ik te weten dat een prangende vraag van een heel aantal van deze aanwezigen hier zijn dat dat de volgende vraag zou kunnen zijn hè. Dit is dus mogelijk een grote dreiging. Het is een grote dreiging mogelijk ook een groot gevaar. Het is in ieder geval een dreiging. Ja, zijn er
Tom:bang voor.
Renco:Ja, in welke mate het een risico voor je organisatie is. Dat dat daar kunnen we over twisten natuurlijk. Dus dus daar moeten verstandige mensen na over nadenken, hè. Van wat halen we in huis en hoe passen wij AI toe in onze bedrijfsprocessen. En ja, het is best wel logisch dat ook mensen vanuit security en privacy daarbij betrokken worden.
Renco:Dat worden ze al vanuit hun respectievelijke vakgebieden, hè. Privacy, security of allebei. Nu zitten we met dat AI, hè. Dat dat daar moeten we ook over nadenken, hè. Oeh, eng eng, oké, maar ook veelbelovend, hè.
Renco:Vooral business ziet natuurlijk heel veel toepassingen voor AI. Maar ja, wie gaat nu die expertise en dat die rust brengen in dat afwegingsproces, Tom? Wie doet dat bij BZK?
Tom:Ja, bij ons dat, even kijken hoor. Hoe heet die club eigenlijk? De bedrijfsvoering zeg maar daar zit het waarschijnlijk vooral. Dat is dat is de club die.
Renco:Wat is de middelen heet dat bij jullie?
Tom:Het zou kunnen.
Renco:Ja, ik heb je oranogam.
Tom:Ja, waarschijnlijk want jij hebt dat op dit moment beter dan ik. Dat is lang geleden dat ik voor het laatst naar het oranogam heb gekeken. Nee.
Renco:Ja, ik ben net nieuw daar. Ik doe niks anders. Zit eerder te kijken, maar wie ben jij dan weer? Werk ook, moet ik even toegeven. Ik werk voor het bedrijfsvoeringscluster van een ander ministerie.
Renco:Dus daarvan het andere ministerie. Dus vandaar dat ik ook met name even aansla op die directie. Ja, ja. Oké, maar daarom.
Tom:Dit is in ieder geval een 1 CIO BZK. Ja. Dat is een ja, ik denk dat die dus ingedeeld zijn bij nou ja, bij DG die over bedrijfsvoering gaat.
Renco:DG, DG, maar even toelicht.
Tom:Sorry, de directoraat-generaal dat is de overkoepelende indeling waar meerdere directoraten onder zitten. En directoraten dat zijn nou ja, de clubjes zoals waar ik bij zit, CZW.
Renco:Clubjes mensen.
Tom:Clubjes mensen die die een bepaald doel hebben.
Renco:Mocht u luisteren, u werkt bij een dg, u werkt bij een clubje mensen. Noem me dat niet allemaal. Ja, uiteindelijk wel ja. Oké, maar jij zegt oké, dus AI, dus de mensen die moeten nadenken over de lastige vragen rondom AI, die komen binnen jouw vakdepartementen bij die directie vandaan zeg maar. De bedrijfsvoeringstak.
Tom:Ja, tenminste daar daar wordt het nou of ze daar vandaan komen dan worden ze ingedeeld. Daar gaan ze naartoe. En wie zijn ze dan? Ze dat zijn nou ja, ook wel weer CIO rijk of sorry CIO Bzk. Bestaat ook wel weer uit nou ja, security specialisten, persoonsgegevens specialisten.
Tom:Maar dus ook
Renco:AI's Privacy Officer.
Tom:Ja, ja, oké. Privacy Officer, sure. Als je het graag in het Engels wil. Ik heb er altijd zo moeite mee. Ik zou regelgeving in Nederland.
Tom:Ik wou
Renco:zeggen dat je wel de verkeerde baan gekozen misschien.
Tom:Ja, kijk, ik moet Engels kunnen lezen. Ik hoef het niet te schrijven.
Renco:Schrijven in het ja, oké, oké. Maar dus je noemt security, je noemt privacy. Ja. Maar waar ik naartoe wil is, wordt daar dan nu een nieuw groepje aan toegevoegd? AI specialisten?
Renco:Ja, ja. Verbonden ja.
Tom:Ja, die wordt daaraan toegevoegd. Wel altijd in samenwerking met die groep mensen die er al zitten zoals dus de privacy officers. Ja. En nou ja, een andere IT-specialist.
Renco:Dus organisatorisch dichtbij bijvoorbeeld security en privacy, maar wel een eigenstandige discipline zeg maar met ja, met specialist op dat gebied. Ja. Zag ik op LinkedIn toen ik jou opzocht zag ik ook dat jij zo'n spaakkaart achter je naam hebt staan toch van
Tom:die CAICO opleiding van. Ja, klopt. Hebben ze ook gedaan.
Renco:Hebben ze niet gevraagd of jij ook in het clubje wilde komen?
Tom:Ik ik ja, ik heb er wel eens over nagedacht. Ja. Om dat misschien eens een keer te gaan doen. Het is wel weer net iets andere tak van sport.
Renco:CAICO, iemand hier in de zaal? Ja, toch? Best wel wat, hè? Nou, alle wel. Ja, een ruime handvol.
Renco:En ook nog die andere?
Tom:Ja, die van ook van ja, AIGP. Dat is die die is ook van de aanbieder van.
Renco:Van IAPP is dat.
Tom:Precies,
Renco:ja. Ja, iemand? AIGP, I. Ik vond
Tom:de CAICO beter moet ik eerlijk zeggen. Dus als je nog een keer moet kiezen tussen die 2 cursussen dan. Ja. Zou ik voor de CAICO gaan.
Renco:Oké, dus maar bij jullie komt er dus jij gaat misschien nog een keer switchen van baan. Gaan we meemaken op LinkedIn. Of het als bedrijf jurist eigenlijk wel echt heel leuk blijft ook. Maar dan kan je altijd nog AI-officer worden. Heeten ze zo bij jullie?
Tom:Oeh, dat is een hele goede vraag. Ik weet niet hoe ze heten. Oké. Misschien mogen ze dat ook wel zelf bepalen. Het is nog nieuw hè, dus dan kun je nog je eigen titel claimen.
Renco:Heerlijk is dat. En wat vind jij van deze organisatorische inrichting zeg maar? Dus dat je het op deze manier vormgeeft. Dus vlak in de IV-kolom noem ik het maar even. Vlakbij security en privacy gewoon een nieuwe tak van sport eigenlijk.
Renco:Mensen die veel verstand hebben van AI. Hup, de factuur, nieuwe mensen naar binnen, huppetee.
Tom:Ik vind het wel logisch, maar dan denk je waarschijnlijk zo van waarom niet bij de innovatie club.
Renco:Nee, ik denk er weinig over.
Tom:Je denkt er weinig over.
Renco:Ik zie gewoon allemaal jaloerse blikken. Ja,
Tom:jaloerse blikken, want jullie hebben geen AI-specialisten in in jullie omgeving.
Renco:Nee, ik weet dat voor veel organisaties het een zoektocht is waar je nou AI zeg maar organisatorisch positioneert. En dit klinkt als de oplossing voor als je een grote zak geld hebt waar je nog een bestemming voor zoekt. Dan maak je gewoon een heel aantal formatie plaatsen.
Tom:Hebt geld over,
Renco:ja, ja. Dan maak je gewoon een heel aantal formatie plaatsen en zet je vacatures en dan formeer je die club. Nee, dat is natuurlijk een beetje flauw voor mij, maar dit is wel een geintje met een seintje in die zin. Er zijn natuurlijk heel veel organisaties die zich het niet kunnen permitteren vanuit geld, maar ook omdat het niet 1 FTE formatieplaats alleen al is, hè. Dus het is zo'n zo'n takenpakket.
Renco:Weet je wel, dat ik kan me zo voorstellen dat zo'n directie zo zo door zo'n personeelsbestand kijkt en denk ja, waar zou ik dit nou eens kunnen droppen? Weet je wel? En dan denk ik ja, dan komt hij dus bij de security officer uit of de privacy officer. Dat zie ik gebeuren.
Tom:Ja. Dat zie je gebeuren.
Renco:Ja. Ja, wat vind je daarvan? Kan dat ook?
Tom:Vast ja, de vraag is kijk, ik heb nog nooit een Privacy of Security Officer gezien die tijd over had. Dus het is wel een beetje de vraag waar ga je dan waar ga je dit van doen? Ja. Maar ja, het moet wel gebeuren.
Renco:Ja, ja, moet wel gebeuren. Er moeten wel meer dingen gebeuren.
Tom:Ja, dan wachten we gewoon tot het eerstvolgende incident. Ja. En dan en dan verandert er iets.
Renco:Ja, dat doen wij dat dat zijn we ook al gewend als security officers wat dat betreft.
Tom:Je bedoelt al jaren dat iets een risico is en nou ja, als er dan iets gebeurt dan dan dan wordt het opgelost.
Renco:Ja. Hey, zijn er mensen in de zaal die hier een vraag over willen stellen? Zonder al te veel specifieke informatie weg te geven. Maar we hebben we zitten zo lekker tegen elkaar te kletsen hier. Voel je ik vind het ook wel leuk om jullie even de ruimte te geven om een vraag te stellen.
Renco:Ik zie 1 vraag. Nou, dan krijg je ook een heuse microfoon aangereikt. Dus eerst je functie. Ik houd vast hoor, dus je mag hem gewoon even.
Vraagsteller 1:Nou, ik ben eigenlijk wel benieuwd, want er wordt inderdaad gezegd van nou ja, we hebben toch meer AI-officiers nodig, want privacy zit al vol op security, maar zou je dan ook niet gewoon meer privacy en security mensen kunnen aannemen? Is er een argumentatie waarom je dan voor een AI-officer kiest?
Renco:Ja, Tom.
Tom:Nou ja, het is net weer een ander specialisme denk ik. Dus dus ja, zeker kijk zo'n AI laten we zeggen een AI-officer hè, die moet ook verstand hebben van privacy en security tot op zekere hoogte. En andersom moeten de privacy en security officers een beetje meer verstand krijgen van AI. Dus het blijft allemaal een samenwerking natuurlijk. Maar het is denk ik wel handig om nou ja, iemand te hebben die daar wat meer gespecialiseerd in is en ook nou ja, een plek om de verantwoordelijkheid neer te leggen.
Tom:Want als je de verantwoordelijkheid bij iedereen neerlegt, dan ligt die nergens.
Renco:Ja, nog een vraag. Ja, volgens mij zijn we er weer. Ja, dat maakt wel dat ik de vraag totaal niet heb meegekregen. Zou je nog een kunnen stellen?
Vraagsteller 2:Nou, ik ben, hoe heet dat in het Nederlands? Informatiebeveiligingsagent. Ik vraag mij eigenlijk af is er is er een 1 actuele omschrijving van wat nou precies de gevaren van AI zijn. Ze hebben natuurlijk allemaal wel ideeën bij, maar het is volgens mij toch redelijk slecht omschreven en geïnventariseerd. Heb jij of hebben jullie een idee van nou waar waar moet je nou specifiek op letten als je het hebt over de gevaren van AI?
Renco:Ja, goede vraag. Ja, ik ik ben snel geneigd het antwoord te duiden langs de as van security en privacy, hè. Dus ik ik heb allerlei privacy vragen, hè. Dus ik upload mijn data na een aanbieder van een AI model. Waar gaat die data heen?
Renco:Bedoel je kunt zeggen ja, je mag geen persoonsgegevens uploaden, maar toch wel makkelijk als ik gewoon alles erin kan pleuren toch? Maar waar gaat het dan heen? Geen idee. Hier gaat het de grens over? Ja, waarschijnlijk wel.
Renco:Gaat het naar de USA? Ja, ik denk het wel. Dus dat zou een 1e gevaar zijn. AI-modellen zijn niet echt neutraal, hè. Dus die zijn ontworpen door ja, of die hebben natuurlijk geleerd op basis van data waar die niet objectief of neutraal is.
Renco:Dus daar moet je ook rekening mee houden. Dus je kunt bepaalde... Bias. Ja, bias ook versterken en ja, afhankelijk van hoe je dat gebruikt in je eigen processen kan je onbedoeld die bias inbrengen in je eigen bedrijfsvoering processen. Dat wil niet zeggen dat als je alles menselijk doet zonder AI dat je dan niet bias zou kunnen hebben, maar het is in ieder geval iets om je ook bewust van te zijn bij AI.
Renco:Heb jij wat gaat er naar jouw hoofd?
Tom:Ja, dit nou goed los van het soort zaken die je die al noemt inderdaad security, privacy issues die die zijn er sowieso. Op een meer systemisch niveau ja kan het kan het mensen beïnvloeden. Natuurlijk hè, stel dat je een AI systeem grote AI modellen die bijvoorbeeld op op social media van alles verspreiden en en mensen daarmee bepaalde kant op duwen.
Renco:Ja, je kan. Bijvoorbeeld politieke beïnvloeding bedoel
Tom:Politieke beïnvloeding inderdaad of het het het nou scheppen van wantrouwen. Waar dat niet gerechtvaardigd is, hè. Ik bedoel je hebt natuurlijk ook wantrouwen dat wel gerechtvaardigd is. Dat dat maar ja, dus dus heel veel vormen van beïnvloeding die niet overeenkomen met met met de realiteit. Bijvoorbeeld dat is een groot risico.
Tom:Als je een AI systeem ja, toegang geeft tot tot allerlei functies dan kunnen ze ook gevaarlijk worden. Daar hebben we natuurlijk tegenwoordig ook heel veel autonome wapensystemen. Nou ja, hoe autonomer je ze maakt, hoe groter het risico is dat ze op een gegeven moment dingen gaan doen die je niet wil dat ze doen.
Renco:Of die je ook niet meer als lokale overheid als je je besluiten te veel AI laat maken. Wie is dan nog verantwoordelijk hè? Waar kan die burger dan nog zijn recht halen? Mag je dan ook bezwaren aantekenen? Kan iemand je dan nog uitleggen waarom een bepaalde aanvraag is afgewezen?
Renco:Op grond waarvan dan? Dus de rechtspositie zou ik zeggen die kan ook enorm in het gedrang komen.
Tom:Ja, en de expertise van medewerkers. Als je alles uit uit heet het uit regelt, uit outsourcet zeg maar. Ja. Dan loop je het risico dat de mensen die dat oorspronkelijk deden ja, steeds minder verstand krijgen van onderwerpen waar ze zich mee bezighielden.
Renco:Worden steeds dommer.
Tom:Minder ja, minder opgeleid in hun eigen gevoel.
Renco:Af en toe wat woorden in de mond te
Tom:horen Ja, Sorry ook weer zo'n beroepsinformatie. Ja. Ik moet nooit ja of nee zeggen. Dat dat is in politiek Den Haag heel gevaarlijk.
Renco:Je zei tegen die leidinggevende ik ga in een podcast. Moeten we er eens rekening mee houden. Zeg nooit ja of nee. Dan is het goed.
Tom:Zeg maar zo min mogelijk zeiden ze.
Renco:Oké, maar ik ben wel even benieuwd. Er zijn net een toen ik vroeg of er mensen zijn die CAICO-gecertificeerd zijn. Staakt een aantal mensen hun hand op. Is er 1 iemand die kort wat wil toelichten over de motivatie om die certificering te gaan halen. Maar waarom ben je daaraan begonnen?
Tom:Niemand?
Renco:Was niet geen leuke cursus?
Tom:Waren er bij de CAICO cursus wel mensen die een hand opstaken of was het alleen bij CIPP/E? Bij CIPP/E zag ik een hele grote groep, maar bij CAICO.
Renco:Heb ik het verkeerde de vraag verkeerd gesteld? Jeetje.
Tom:Ja, ja, dus oké dat heb ik het niet goed gezien, toch wel? Ja, dus er zijn mensen met CAICO.
Renco:Zou je zo zou je ook eventueel met microfoon willen toelichten waarom je besloot die training te gaan volgen? Of waarom je dat ja, komt die eraan.
Vraagsteller 3:Goeiedag. Security expert.
Renco:Ja, lekker algemeen. Super.
Vraagsteller 3:Ja, waarom heb ik de CAICO gedaan? Ik denk dat het goed is om te weten dat de AI Act is eigenlijk gewoon een product veiligheidswet. Nou, ik zie Tom al een ja knikken. En dat beseffen heel veel mensen niet. Want die denken AI en ChatGPT en taalmodel.
Vraagsteller 3:Maar eigenlijk is het gewoon een product veiligheidswet. Dus daar horen hele andere ja, randvoorwaarden, kennis, expertise eigenlijk bij. En ik zie dat ook heel veel meer gaan vergroeien zo meteen natuurlijk ook met voelt je vroeg al van ja, hoort dat dan thuis? Nou ik denk ook deels bij inkoop hé, want daar koop je diensten en producten in. Applicaties, ja dat dus En ik denk dat het gewoon heel erg ja, goed is om je daar heel erg bewust van te zijn.
Vraagsteller 3:Want het zou zonde zijn als je zo meteen ik snap dat je dat in beginsel doet. Maar dat je dat inderdaad heel veel AI officers naar binnen haalt en dan daarna gaat kijken van ja waar kunnen we die nou het beste bij plaatsen, want het is niet per se 1 plek. Ik denk zo meteen hè deels misschien bij bij inkoop, deels onder security en weer afhankelijk vanuit welk perspectief je het bekijkt. Dus je kan je kan ons overal eigenlijk plaatsen. Dus het is gewoon heel interessant en het is echt een toevoeging op je kennis pakket als security professional.
Vraagsteller 3:Dus aanrader.
Renco:Helder.
Vraagsteller 3:Heb ik nu reclame gemaakt.
Renco:Ja, ik heb hem zelf nog nooit gedaan. Dus ik heb wel eens overwogen om te gaan.
Renco:Het is wel een wervelend praatje ja. Je wilt goede
Tom:banen reclame maken op deze podcast of?
Renco:Ja, het is mijn podcast. Ik kan alles doen wat ik wil.
Tom:Dat gaat echt ideaal.
Renco:Achteraf denk ik natuurlijk wel eens van dat had ook anders of beter gekund, maar ja. Ja, nou laat ik het daarbij laten. Oké, dus CAICO, ja. Ik vind het wel interessant wat je zegt, hè. Is het iets eigenlijk, is het eigenlijk nee.
Renco:Eerst nog een andere vraag. De wet net je refereerde net naar een bepaald type wetgeving waar jij op knikte. Het was een woord wat ik nog nooit had gehoord.
Tom:Productsveiligheidswetgeving. Ja, dat moet
Renco:je echt toelichten, want ik weet niet wat dat is.
Tom:Ja, nee, het klopt inderdaad wat je zegt als je je bezighoudt met security of persoonsgegevens dan dan heb je weinig weinig van doen met die product veiligheidswetgeving. Ja, dat dat zeg je nu wel hè, maar nu nu baal je er juist van. Want die hele Ieveard ding die gaat er dus over. We hebben in de Europese Unie ontzettend veel regels over de veiligheid van producten. Voedselveiligheid, apparatuur, veiligheid, van alles.
Tom:En dat dat werkt meestal over de band van nou, er zijn gewoon allerlei richtlijnen en verordeningen die stellen regels, kwaliteitseisen aan producten. En dan heb je een aantal, nou je hebt meestal toezichthouders en een aantal partijen die zijn over het algemeen private partijen die de bevoegdheid krijgen om producten te certificeren.
Renco:De Tüv. Sorry, de Tüv. De Duitse is dat Tüv? Kema keur.
Renco:Ja. Is dat waar je naar reageert?
Tom:Ja, denk ik ja. Dus ik ken de namen van die bedrijven niet, maar ja, dat zijn in ieder geval dus dus organisaties die zijn gecertificeerd om laten we zeggen van die van die CE markeringen uit te geven. Ja, ja. Die kennen jullie waarschijnlijk wel van van diverse producten. En dat dat hè dus conformité European dat dat het Europees Ja,
Renco:mooi geweten.
Tom:Conform is aan de Europese standaarden. En vaak heb je ook nog wel dat dat dat dat productstandaarden die worden ontwikkeld eigenlijk door bedrijven zelf onderling worden ontwikkeld. Met met nou ja, wel enige vorm van inmenging geloof ik vanuit de EU vaak. Omdat het natuurlijk voor de Europese Unie ook niet te doen is om top-down alles op te leggen wat er wat er nodig is. En juist veel van die bedrijven hebben zelf veel meer verstand van.
Tom:Nou ook ook het in de e-verordening zelf op basis van de eisen die er in de AI-verordening zelf staan worden ook heel veel standaarden ontwikkeld. En dat er ook weer zo'n zo'n publiek private samenwerking.
Renco:Ja, dus het lijkt op die andere type wetgeving. Hoe heet het nou ook alweer?
Tom:Product veiligheids.
Renco:Product veiligheids regelgeving.
Tom:Ja.
Renco:Want ik moet dan denken aan ja, er komen zoveel afkortingen uit Europa op ons af. Maar volgens mij de cyber resilience act. Mhmm. Toch? CRA, iemand anders die dat ook dacht?
Renco:Die stelt toch bijvoorbeeld hè, ik ik ik maak babyfoons met videocamera. En die breng ik op de markt voor 2 tientjes. En dan kan je inloggen met een app. Het is natuurlijk zo lek als maar kan. Als ik het op de markt breng is het eigenlijk al lek bij wijze van spreken.
Renco:Nou ja, niet bij wijze van spreken. Dat is gewoon zo. En dan daarna verkoop ik dat nog 10 jaar.
Tom:Ja, zonder update.
Renco:Ja, daar doe ik helemaal niks aan, hè. Dat vet daar ga ik geen tijd aansteken, insteken. Hè, dus dat is volgens mij wat die CRA adresseert, Dus de cyber resilience act die zegt hé als jij die babyfoons met videofunctionaliteit in de app op de markt wilt blijven brengen, dan ben je straks ook verplicht om dat veilig te doen en dan gedurende een redelijke levensduur denk ik. Ik bedoel je mag het volgens mij niet verwachten dat een fabrikant dat 50 jaar doet of zoiets. Nee.
Renco:Op een gegeven moment is een product gewoon of hoe je het ook maar noemt. Dus daar snap ik hem meteen, hè. Dus maar de waarom nou die AI act ook in die categorie past. Ja, ik moet misschien een keer fatsoenlijk gaan lezen. Maar ik begrijp, ik zit toch meer te denken aan die die dreigingen en die security en privacy vraagstukken.
Tom:Ja, ja, ja. Nou ja, dit is dus kijk voor voor security hebben we dus andere regelgeving, voor privacy hebben we andere regelgeving. Maar dat is allemaal ja, laten we zeggen dat dat dat zit meer aan de aan het uiteindes hè. Als er iets misgaat gaat dan dan krijg je met die regelgeving te maken. Uiteindelijk moet je ook allerlei maatregelen nemen om persoonsgegevens veilig te werken en dergelijke, maar de ja, de handhaving vindt meestal pas plaats als het als het te laat is.
Tom:Bij AI-systemen was de Europese Commissie een beetje bang dat dat nou ja, dus te laat is. Oké. Voor hele grote gevaarlijke AI-systemen. En dus was de gedachte oké we delen het AI-systemen op in een aantal categorieën. Namelijk verboden categorieën, dingen die we gewoon echt eng vinden die die mogen überhaupt niet.
Tom:Dat dat is dus geen product veiligheidsregels geven, maar gewoon nou een keihard verbod. Ja. En dat zijn nou in mijn optiek heel veel dingen die ook eigenlijk onder de AVG al niet zouden kunnen, maar nou ja, in dit geval zijn ze dus duidelijk op voorhand verboden. Dan waar de AI verordening vooral over gaat, gaat over zogenaamde hoogrisico AI systemen. En dat zijn systemen waarvan we zeggen van oké, deze systemen die kunnen heel veel meerwaarde hebben.
Tom:Maar kunnen ook heel erg misbruikt worden.
Renco:Heb je een heb je een voorbeeld van zo'n AI-toepassing?
Tom:Nou, geen concrete toepassing. Het is ingedeeld in 2 categorieën. Dus die hoog risicosystemen zijn weer ingedeeld in 2 groepen, namelijk producten. Dus dat denk inderdaad aan speelgoed, treinen, auto's, helikopters waar AI inzit op
Renco:Ja, speelgoed, auto's, helikopters of echte?
Tom:Allemaal. Nee, dus speelgoed komma auto's, komma helikopters.
Renco:Het wordt nou wel heel specifiek. Boot speelgoed, auto's, speelgoedhelikopters.
Tom:Ja, nee, dus dus ja, dus ook ook de echte ook de speelgoedhelikopters waarschijnlijk als er AI in zit dan nee, dus dat zijn allemaal hè, dus dat zijn meer diezelfde producten waarvoor al heel veel van dat soort product regelgeving geldt. Ja. En daarvoor geldt dan dus nu er bovenop hè, als er AI in zit of als AI een of zeg maar of als AI het product is of een belangrijke veiligheidscomponent is daarvan Hè, denk bijvoorbeeld aan zelfrijdende auto's. Want ja, dan is het toch wel heel belangrijk dat dat automatisch systeem zijn werk goed doet, anders ben je dood. Daarvoor die gelden als hoog risico AI.
Tom:En dan heb je nog de andere categorie dat zijn AI-systemen die worden toegepast binnen bepaalde ja vakgebieden binnen bepaalde onderwerpen, laat ik het zo zeggen. En als je een AI-systeem daarbinnen gebruikt dan wordt het daarmee hoog risico AI. Denk bijvoorbeeld aan werving en selectie van personeel. Of aan nou overheidsvoorbeeld is uitgifte van uitkeringen en dergelijke of andere overheids ja essentiële diensten zeg maar vanuit de overheid.
Renco:Ja, dat is eigenlijk wat ik net in een bijzin noemde hè van als je de het al dan niet toekennen van een uitkering helemaal door AI laat uitvoeren, wat is dan nog de rechtspositie van de aanvrager?
Tom:Ja, ja. Ja. Ja en als je dus daar onder valt, als je dus op die grond een hoog risico AI systeem op de markt brengt of of dat gebruikt, Dan moet je aan allerlei eisen voldoen. En dan komen dus al die product veiligheidseisen om de hoek kijken zoals onder andere weer cybersecurity. Ja.
Tom:Zorgen dat je data in orde is. Privacy, een goed veiligheidssysteem, goed menselijk toezicht ook. Dat dat soort zaken die daar moet je dan
Renco:aan houden. Dus is het misschien helemaal niet zo logisch dan als ik dit zo allemaal beluister. Omdat in het takenpakket je vakken vakken vakken, takenpakket van een security of een privacy officer te beleggen. Want ja, dat zit daar dat schurkt daar wel tegenaan. Maar er zitten dus ook allerlei, er zitten allerlei ja, hoe zeg je dat?
Renco:Deelgebieden in waar de security dan wel de privacy of ze helemaal niet de logische match heeft.
Tom:Nou ja, kijk ik verwacht ik weet niet in hoeverre de gemeente Utrecht speelgoed op de markt brengt met AI erin, maar
Renco:dat speelgoedhelikopters iemand.
Tom:Ja die zelf zelf rondvliegen. Nee, dus dat dat hè, dus nou ja, goed daar heb je dan.
Renco:Maar er is wel een club die iets met drones doet of is dat niet?
Tom:Oké, dat zou kunnen. Ja, nee, dus dan dan met drones zit je er waarschijnlijk wel weer aan. Drone veiligheid zeker. Maar er zijn heel veel van die onderwerpen daar heb je waarschijnlijk als organisatie niks mee te maken. Dat geldt natuurlijk voor iedere organisatie, want er zijn natuurlijk weinig organisaties die dat allemaal doen.
Tom:Ja. Dus je moet je een beetje beperken tot het soort onderwerp waar je als organisatie wel mee te maken krijgt. En daar moet je dan mensen op zetten. Ja. Nou, dat zal voor een overheidspartij zeg maar een overheidsbeleid of uitvoeringsclub in de regel gaat het waarschijnlijk minder over die producten en wat meer over die toepassingsgebied.
Tom:En dan moet je daar dus inderdaad mensen neerzetten. En ja, dat betekent als je het hebt over de werving en selectie van mensen. Dat je dus ook bij personeelszaken inderdaad iemand moet hebben die daar genoeg verstand van heeft.
Renco:Ja, ja, precies. Dus dat ja, dus dan zou je dat centraal kunnen organiseren. En dan moet je die persoonertijdig bij betrekken. Dat is ook een beetje mijn vak, hè. Jullie vak, Op tijd betrokken worden bij nieuwe ideeën, zodat je daar ja, je expertise, je advies over kunt geven.
Renco:Zo zou je dat ook kunnen organiseren voor AI. In dat opzicht lijkt het op een security en privacy functie. Maar ja, er zullen ook een aantal afdelingen zijn waar dit bovengemiddeld veel speelt. Bijvoorbeeld bij inkopen. Kijk even naar degene die net het woord nam, hè.
Renco:En dat zou het heel logisch zijn om daar dus ook AI-expertise te verankeren daar op die plek in de organisatie. Elke die zwaarde al. Ik noem zijn naam gewoon, maar dat kan omdat die al een keer in de podcast was. Dat er een vraag is.
Tom:Ja, vraag. Is de functie en dan de vraag.
Vraagsteller 4:Ja, mijn functie is data scientist. Ik ben de AI onderzoeker. Eén van de vragen die ik heb, hè. Ik begin even deze, want dit is sluit heel erg mooi aan de vraag die je gewoon hele tijd had op de CE markering. Wie bepaalt nu wie de keurmeester is?
Vraagsteller 4:En welke normen hangt daaraan vast? Bijvoorbeeld wij hebben SAP of Microsoft of ServiceNow, allemaal systemen die werken, maar er worden steeds meer AI-onderdelen erin gevoegd. Moeten die leveranciers komen met CE-markering? En mogen ze dat zelf keuren of moet een onafhankelijke partij dat keuren? En als we zelf dingen gaan bouwen, moeten wij dat zelf keuren of anderen laten keuren?
Renco:Het is echt eentje voor jou, want ik heb net dat woord geleerd, dus.
Tom:Ja, nee, hele goede vraag. Ik moet bekennen dat ik ook niet helemaal uit mijn hoofd weet in welke omstandigheden je het zelf mag keuren en wanneer wanneer dat door een externe organisatie moet worden gedaan. Ik denk dat het in de meeste gevallen bij hoogrisico AI-systemen wel gaat om om externe keuring. En dan zit er dus in die hele AI voor dingen een hele systematiek voor het ja, het het toelaten eigenlijk van dat soort keur organisaties.
Renco:Dat lijkt dan op ben ik geaccrediteerd om iso 27001 te mogen certificeren. Ja, Dus accreditatie club achtig. Ja, En als je nu, als je nu super voorloopt en je zegt nou ik heb al allemaal AI in mijn informatiesysteem gestopt en dat wil ik graag laten keuren. Kan ik dan nu al iemand bellen?
Tom:Ik denk het nog niet. Ik weet niet of ze al bestaan. Ja, kijk die die AI voordien die is gefaseerd in werking aan het treden. Hij is nog niet nog niet helemaal van kracht.
Renco:Nee, want er zijn nog steeds delen die van kracht worden, toch?
Tom:Ja, ja, ja. Meest recent was halverwege deze zomer zijn bijvoorbeeld allerlei transparantieregels erbij gekomen Voor voor chatbots en deepfakes en dergelijke. Maar de nou, de volledige regelgeving is volgens mij pas in 20 28 echt helemaal in werking. Oké. Wij zijn in Nederland, want nou 1 van de dingen die je bij een verordening vaak wel hebt is dat je als als lidstaat nog steeds je eigen toezichthouders moet aanwijzen.
Tom:En dat doe je door middel van een uitvoeringswet. Ja. En die wordt Nederland nog gemaakt. Dus wij hebben op dit moment nog geen officiële aangewezen toezichthouders. We weten wel al wel wie dat zouden moeten worden.
Tom:Maar de nou de regelgeving is dus nog in de maak zeg maar, de lokale regelgeving. Of ik moet zeggen de nationale regelgeving als ik in een gemeente ben waar misschien.
Tom:Het woord lokaal al iets anders betekent. En nou, dus die toezichthouders ik denk dat die partijen zeg maar die die dus in Nederland in veel gevallen zijn de toezichthouders ook degene die die de partijen die zo meteen mogen certificeren.
Renco:Ja, dus in 1 hand.
Tom:Ja, ja, Vaak wel. Dus dus nou ja, dus dat systeem is in Nederland nog niet opgetuigd.
Renco:Ik heb wel het idee dat als je zeg maar baanzekerheid wil, dan moet je iets doen bij een toezichthouder. Want we krijgen natuurlijk steeds meer van dit soort verordeningen en richtlijnen op ons af. En ja, als je die toezichthouder die moet natuurlijk navenant meegroeien, want alles wat je bedenkt moet ook weer iemand naar kijken of het allemaal wel goed is en of het wel gecertificeerd is. Dus de banen liggen voor het oprapen daar.
Tom:Ja, dat zou je zeggen, maar zelfs op nationaal niveau is er ook niet online geld om meer mensen aan te nemen.
Renco:Dat is alleen maar BZK. Ach flauw grapje.
Tom:Hey, geen uitspraken over.
Renco:Wij schieten mooi op met de tijd. Is zijn er nog vragen? Ik doe expres niet de wedervraag hebben we je vraag hiermee voldoende beantwoorden, want dan loop ik het risico dat je het nee zegt. En dan weten we het niet meer. Dus zijn er nog andere vragen?
Renco:Even je hand omhoog als je nog een vraag hebt die je on-air wilt stellen. Nou, dan zijn dit allemaal vragen voor als het rode knopje zo meteen het rode lampje niet meer brandt. Hebben wij dan nog een goede afsluiter als het over de AI, de AI-governance en al die AI-systemen, hier zitten mensen van verschillende afdelingen van deze gemeente. Die hebben ongetwijfeld de directeuren daar, die zien overal toepassingen voor AI. Hier kunnen, en een leverancier die zegt, dit zit er nu in en dit kan het en zus en zo.
Renco:En dat en sommige directeur denkt nou, prima daar ben ik van. Ik pak de portemonnee en ik schaf dat aan, want kijken ze wat de voordelen zijn. Iemand anders zal zeggen nou oké, ik zie wel voordelen, maar ik zie ook wel nadelen. Wat zijn eigenlijk de regels? En dan kijken ze naar nou, naar iets met een hè, een C ervoor.
Renco:Een CIO of een CISO of een CPO of wat dan ook. Of een Chief AI of zo, wat dan ook. Hoe, wat is jouw, daar zou ik graag mee af willen sluiten. Wat is jouw advies dan om een beetje grip te houden op al die AI-toepassingen in informatiesystemen? Het wordt natuurlijk, want we hebben het woord wilde westen in de mond genomen, alsof dat alleen aan de andere kant van de oceaan is, maar dat kan dichter bij huizen ook zo voelen.
Tom:Zeker. Dat je denkt ja,
Renco:overal pop pop pop pop pop en we rennen er een beetje achteraan. Weet je zo'n zo'n dat spelletje dat je zo elke keer zo. Ja. Hoe heet dat?
Tom:Wackamol? Wackamol inderdaad, ja.
Renco:Nou ja.
Tom:Ja, mijn indruk is altijd een beetje dat je de keuze hebt tussen wil je of te veilig zijn of wil je niet veilig genoeg zijn.
Renco:Te veilig.
Tom:Te veilig, ja. Ja, jullie wel natuurlijk. De rest van de organisatie vindt het waarschijnlijk allemaal veel te veel te langzaam.
Renco:Ik geef een ander antwoord.
Tom:Nee, dus ja, het het het is heel heel erg afhankelijk van van welk veiligheidsniveau je kiest. Sommige organisaties die die zeggen van oké, wij vinden het gewoon te risicovol. We gaan er heel terughoudend mee om.
Renco:Ja, oké, maar stel je voor dat dat we dat de gemeente we hebben nu zijn dat beslist.
Tom:We gaan geen AI.
Renco:Ja en dan hoe zou je dat hoe zou je dat dan concreet uitvaardigen? Zeg je dan aldus besloten het college van burgemeester en wethouder we voelt ook als een als een als iets wat op papier dan staat, maar waar wat niet gaat werken in de praktijk. Want het idee.
Tom:Ja, omdat je denkt dat iedereen alsnog toch wel achter zijn computertje.
Renco:Ja, ik denk dat je straks van de de taakapplicatie die je afneemt in marktpartijen dat er straks niet meer een AI-vrije variant bestaat. Dat is dat dat dus.
Tom:Ja, als rijk hebben we volgens mij wel eens met Microsoft onderhandeld over dat soort zaken. Details moet ik eerlijk gezegd ook een keer opzoeken, maar als je een grote partij bent dan valt er soms te onderhandelen met dat soort grote partijen. Ja. Nu weet ik niet of Nederland of of zeg maar het rijk toen een oplossing heeft geregeld voor heel Nederland of alleen voor zichzelf.
Renco:Ja, dus dat is dat is belangrijk denk ik hè. Dat deze leveranciers management ja.
Tom:Ja, dus waarschijnlijk alleen voor zichzelf. Zoals het vaak gaat.
Renco:Ja, je denkt ik maak een grapje zelf maar.
Tom:Nee, dus als je als je inderdaad een wat kleinere partij bent dan heb je die optie niet. Dan is het tekenen bij het kruisje of je krijgt het niet meer.
Renco:Dat denk ik.
Tom:Ja, ja, dus dan heb je de optie stappen we van Microsoft af. Ja, is dat een optie of niet?
Renco:Ja, het zit behoorlijk vast hè. Dus ik probeer me allemaal voor te stellen hoe dat er dan uit moet komen te zien. Je kunt natuurlijk zeggen nou hé succes ermee, koop allemaal lekker AI-systemen in. Nou, dan wordt het 1 grote bende en als je een hele hoge risicobereidheid hebt dan zeg je nou prachtig, want allemaal business voordelen. Ja.
Renco:Ik denk dat de overheid over het algemeen zal zeggen nou dat dat willen we niet, hè. Nee. Want we zitten op hele gevoelige data die ons nodig
Tom:En waarvoor politieke incidenten dan en efficiency.
Renco:Ja, jij werkt bij de Rijksoverheid. Ik wou beginnen over een intrinsieke motivatie motivatie om de burger gegevens veilig te houden en zo. Nee, welke van het zal allebei waar zijn.
Tom:Ik zou willen dat die er was.
Renco:Nee. Nee,
Tom:die die is er zeker. Maar die delft wel eens het onderspit helaas.
Renco:Ja, die dit precies. Die delft wel eens het onderspit. Maar de overheid zal over het algemeen conservatiever zijn hiermee. Die zal dus niet toelaten of toestaan dat dit maar gewoon allemaal mag en kan. Maar ik zie wel overheidsorganisaties ook worstelen met ja, hoe houd je dan daar enige regie op wat daar overal ingekocht wordt.
Renco:En dat gaan we hier niet oplossen, want dan wordt de aflevering ook veel te lang. En jullie hadden daar vragen over kunnen stellen, maar dat hebben jullie niet gedaan. Dus dat kan nu ook niet meer. Maar dat lijkt me de grote uitdaging, hè. Van hoe reguleer je nou ook niet te veel, maar ook weer niet te...
Renco:Dus eerst moet je al bepalen hoeveel wil ik dit reguleren? En als je dat antwoord hebt moet je ook nog kijken hoe ga ik dat dan organisatorisch in een vat gieten nou.
Tom:Ja. Ja. Ja, nee, kijk het is natuurlijk allemaal nog nog nog nieuw. Iedereen moet nog een beetje uitvogelen hoe dit gaat werken. Dus ik denk ook ja, een 1 richting is gewoon begin er maar mee met dat met het inrichten en probeer iets, probeer een structuur op te richten.
Renco:Ja, beetje trial en error eigenlijk.
Tom:Beetje trial en error ja, kijk met veel van dit soort dingen gaat natuurlijk ook wel een keer mis. Dus ja, zorg dat je ook een beetje fatsoenlijke hoe noem je dat al oplossingsproblemen, oplossingsmethoden voor achteraf hebt. Ja. Dus het gaat sowieso een keer mis.
Renco:Dat klinkt wel als security dit.
Tom:Het klinkt bijna als security.
Renco:Ja, zeker.
Tom:Het lijkt
Renco:heel erg. Het gaat zeker een keer mis. Wees er dan nog voorbereid, hè. Want dat is jouw boodschap ook. Hou er rekening mee dat het misgaat.
Renco:Ja. En wees daar gewoon zo goed mogelijk op voorbereid. En dan al doende leert men ook enigszins. Ja. Oké, ik wou het hierbij laten Tom.
Renco:Ontzettend leuk dat je nou met mij, met ons dit podcast avonturen wilde aangaan.
Tom:Dank voor de uitnodiging.
Renco:Ja, dank ook aan Eelke, de man die dit mogelijk maakte. Die zich snel, kom er even bij zitten! Jullie ook bedankt aanwezigen voor het ja, aanhoren van ons. En ik druk zo meteen opname uit en dan gaan we gezellig wat drinken en dan praten we nog even verder en dan kunnen jullie al die stekelige vragen alsnog stellen. Goed, dank je wel.
Renco:En daarmee is deze aflevering van qeep talking alweer afgelopen. Leuk dat je luisterde en hopelijk heb je wat bruikbare ideeën opgedaan die je kan toepassen binnen je eigen werk. Op mijn site qeepposted punt nl vind je naast deze podcast ook blogs, video's, handige links, opinie's en trainingsdata. Abonneren is gratis en zo gepiept en op die manier ontvang je nieuwe content direct in je mailbox. In de volgende aflevering ga ik weer in gesprek met een andere gast en ik hoop dat je dan ook weer luistert.
Renco:Tot dan.