Subscribe
Share
Share
Embed
Shownotes
In deze aflevering bespreken we generatieve AI met het panel. We behandelen indrukwekkende AI-toepassingen, gegevensprivacy, impact op banen en de regulering van AI. We delen verschillende perspectieven over de mogelijke risico's en benadrukken het belang van een evenwichtige aanpak.
Panelleden
Martin Opdam
Martin Opdam
André van Delft
Roos van der Leest
Jan-Willem de Bruyn
Onderwerpen
- (00:05) - Intro
- (02:47) - Welke AI tool/toepassing heeft veel indruk op julllie gemaakt?
- (09:15) - AI stelt nieuwe eisen aan data privacy en daar moet een nieuwe balans in gevonden worden
- (14:16) - Is AI een bedreiging voor hoe we ons werk vandaag de dag doen?
- (23:07) - AI wordt een essentieel onderdeel van software ontwikkeling
- (26:24) - Is ChatGPT het bewijs van een geslaagde Turing test?
- (33:10) - Zijn antwoorden van ChatGPT herleidbaar naar de bron?
- (38:48) - Moet AI verder gereguleerd worden?
- (43:34) - Generative AI doet uit zichzelf niks
- (44:47) - Outro
CodeKlets links
Creators & Guests
What is CodeKlets?
Een Nederlandstalige podcast over software development. Informatief maar ook luchtig.
Welkom bij een nieuwe aflevering van de CodeKlets podcast. We zijn dit keer weer
te gast bij Aviva Solutions.
Dit wordt onze tweede panelsessie. Ik heb er echt weer heel veel zin in,
want de vorige keer was het ook al bevallen. Het onderwerp wat we vandaag gaan
behandelen is er eentje waar iedereen eigenlijk wel een mening over heeft.
Generative AI. En Generative AI is eigenlijk AI die allerlei verschillende soorten
data, waarbij je data kunt genereren, zoals foto's, filmpjes,
audio, tekst of 3D modellen.
En daarbij worden patroonherkend in bestaande data. Dat is even in een nutshell.
De panelleden zullen daar misschien nog wel een wat genuanceerdere mening over
hebben, of een uitleg over hebben, maar dan mogen ze dat straks doen.
Dat heeft de laatste tijd heel veel losgemaakt, zowel binnen als buiten de tech community.
Dat is ook wel leuk, want het leeft ook echt heel erg. Het is ook wel een keer
leuk om, ja hoe zeg je dat, ja gewone mensen, de non-tech mensen,
te praten over dit soort technologie.
En daarom leek het ons ook gewoon een goed idee om hier een keer een aflevering
aan te wijden en ook bij Aviva Impulse een sessie te organiseren.
Dus bij deze. Ik ga meteen het panel voorstellen. Het zijn vier personen.
Ik begin vanaf deze kant. Want ze zien de luisteraars natuurlijk niet.
Jan-Willem de Bruin. Dat ben jij. Hoi. Je vertegenwoordigt in dit geval C-Sharp en .NET.
De developer gilde. Dus vanuit dat oogpunt Het lijkt het ons leuk dat je daar
je perspectief op AI laat horen.
Daarnaast zit Roos van der Leest, van de Leest, sorry. Marketingafdeling.
Dus dat is ook interessant. Kijken hoe jij er tegenaan kijkt.
Dan André van Delft, frontender en filosoof. Ja, de bedrijfsfilosoof.
En daarnaast hebben we Martin Opdam, ook .NET'er.
Maar onze enige echte AI fanboy.
Ja, ik vind deze wel. Ja, die rol heb je.
Het idee is dat we een aantal stellingen, een aantal vragen gaan voorleggen
aan het panel. En dan kunnen we daar onze, we hopen dat er een leuke discussie
uitkomt en even zien hoe dat gaat lopen.
De eerste vraag.
Welke AI-tool of toepassing heeft veel indruk op jullie gemaakt?
Ik begin weer aan deze kant.
Ja ik heb pas geleden music generatie, dus het genereren van muziek op basis
van tekst. Dat heeft de laatste tijd echt wel indruk op me gemaakt.
Zelfs het opgeven van een aantal instrumenten, maar ook een emotie.
Die je toch voor je gevoel echt wel terug ziet in het geluid wat je hoort.
De instrumenten spelen daadwerkelijk somberder of vrolijker.
Dat is echt iets wat de laatste tijd indruk op me heeft gemaakt.
Nou oké, maar dat is wel een interesse die je wel hobbymatig ook ligt.
Ik heb vroeger instrumenten gespeeld, maar het is niet meer helaas.
Je gaat geen band meer oprichten, nu een AI-band ofzo?
Een AI-band doet het een stuk beter dan mezelf. Roos? Ik heb nog wel een vraag.
Maakt het dus muziek, gewoon direct?
Of? Ja, je geeft eigenlijk op.
Ik wil een upbeat toon met een basgitaar en een drumstijl.
En ik wil bijvoorbeeld, je kan zelfs zeggen, eindig met een somber natoon of een lange doortoon.
En dan inderdaad komt een heel audiosample uit van een bepaalde lengte.
Met instrumenten die bespelen, bespeeld worden.
Oh, interessant. Oké, ik heb er nog nooit van gehoord, dus ook leuk om zoiets
te horen. Wat voor mij interessant is, is vooral eigenlijk de dingen zoals ChatGPT,
en daar heb je er ook nog duizenden soorten van, zeg maar, onbetaald betaald.
Vooral vanuit communicatie- en marketingperspectief geeft het best wel veel
mee. mee en ik vind interessant hoe het te werk gaat, ook met het gedeelte van
dat jij vragen moet stellen die belangrijk zijn en dat je dan het juiste antwoord
terugkrijgt. Dus daar ben ik best,
wel veel mee bezig en aan het uitproberen en ik vind de AI-tools als in afbeeldingen
en art, dat is heel gaaf om te zien. Daar ben ik zelf nog niet zo heel erg mee
bezig, maar ik vind het wel echt leuk om te zien hoe dat ontwikkelt.
Oké, dus nuttig ook wel.
Ja, voor werk als ik bijvoorbeeld een creatieve vraag stel, dan je komt even
ergens niet uit, dan is het gewoon een hulpmiddel om even zeker te zijn van
je zaak om ergens uit te komen.
Dus dat is wel voor werk, voor vrije tijd, voor school, voor alles.
Ja, voor school kun je er ook wel misbruik van maken, denk ik.
Maar goed, dat is… Ja, dat wel. maar dat probeer ik eigenlijk zo min mogelijk.
Ik vind het fijn om ideeën binnen te krijgen en dan gewoon zelf aan te passen.
Dat houdt toch nog een beetje je eigen stijl eraan. Ja, precies.
André?
Ja, ik heb net als ieder andere mens ook JTPT gebruikt natuurlijk, dat is ongelooflijk.
Indrukwekkend wat het allemaal kan. Het is eigenlijk ook wel grappig om te zien
hoe snel dat al normaal is geworden.
Dat genereren gedicht over dit en dat, dat doet het binnen een paar seconden.
En eigenlijk verbaas je dat steeds minder, merk ik.
Dus dat is wel grappig om op te merken. En jij had op een gegeven moment de
GPT4 gelanceerd en daar hadden ze zo'n demo van. Ik heb dat nog niet echt kunnen
uitproberen, maar waar ook bijvoorbeeld beeldherkenning in zat.
En ja, als het om mijn eigen vakgebied gaat, zag je daar het voorbeeld dat ze
op een bloknootje een soort website maakte met een knopje erop en zo.
En een heel rudimentair schetje en dat spiegelde gewoon html uit dat dat al
deed. Dus dat is, ja, nogmaals, ik heb dat niet echt kunnen proberen.
Volgens mij is dat überhaupt nog een beetje achter de hekken op het moment.
Dus, moet nog maar zien of dat echt een soort trucje was of dat er echt heel veel mee mogelijk is.
Maar dat is wel iets waar, ja, wat me wel even van mijn stoel blieft, zeg maar.
En ook, ja, GitHub Copilot heb ik destijds geprobeerd, toen dat nog in de trialfase
zat. Dus dan gaat het echt om het assisteren bij het coderen.
Dat was al indrukwekkend om te zien, dat je een comment schrijft en dat het
al gelijk een functie voor je uitschrijft.
Ik moet daarbij wel zeggen dat, denk ik, in het alledaagse gebruik ik op een
gegeven moment ook alweer besloten heb om dat dan weer uit te zetten,
omdat de dingen die je schrijft en specifieke projecten waar je mee bezig bent,
ja, merkte dat ik dan toch wel weer soms vaker gestoord werd door die suggesties
dan dat het me echt in mijn productiviteit hielp ofzo maar misschien,
Misschien moet dat nog verder ontwikkelen. Misschien is dat al verder ontwikkeld,
want we gebruiken het al een tijdje niet meer sinds het betaald is.
Martin?
Ja, voor mij ja, open deur natuurlijk maar ChatGPT. Dat is van de laatste tijd
echt ongelofelijk indrukwekkend op hoeveel vlakken het een waardevolle input
kan leveren op vragen die je stelt.
En zeker in ons werk, voor het schrijven van code, ik vind het echt onbegrijpelijk
dat daar gewoon dingen uitkomen die ik zelf niet had kunnen verzinnen.
En ook gewoon syntax begrijpen van talen die ik zelf niet ken.
Zoals van de week heb ik een PowerShell script zitten schrijven.
Ik kan dat helemaal niet, ik moet dat altijd googlen. En je vindt nooit precies
wat je nodig hebt, maar hier beschrijf je gewoon wat je wil.
En het is voor ons natuurlijk wel makkelijk om dat halucineren wat je dan nog
wel eens doet, om te controleren of het werkt. of het werkt,
want je kan het gewoon runnen, je ziet of het werkt, of je kan een unit test
schrijven, je kan zien of zo. Dat vind ik heel indrukwekkend.
En van wat langer geleden, AlphaGo, dat vond ik heel indrukwekkend.
Gewoon de eerste AI eigenlijk die het spel Go won van de wereldkampioen.
Iets wat eigenlijk toen onverwacht was dat dat zou gebeuren op zo'n korte termijn.
Dan zeg je dat het nog een jaar of tien gaat duren voordat we computers hebben
die krachtig genoeg zijn om alle opties door te rekenen om een mens te verslaan.
Ja, en nu is er een algoritme wat eigenlijk niemand echt goed begrijpt wat het
doet, maar het wint wel. Indrukwekkend. En van de Iteracenter ook de,
ik ken die spellen zelf verder niet hoor, maar Dota 2 en Starcraft.
Maar ook gewoon inderdaad 99,9 procent van de van de menselijke spelers wint
het gewoon niet meer van de bots.
Dus dat zijn voor mij wel indrukwekkende voorbeelden. Oké, ja.
Goeie voorbeeld ook. Gaan we naar de eerste stelling en AI stelt nieuwe eisen
aan data privacy en en daar moet een nieuwe balans in gevonden worden. Wie wil als eerste?
Ja, ik wil wat zeggen. Het vond wel een lastige stelling, maar ja,
ik weet niet precies welke kant je op duidt, maar je hebt natuurlijk de data
privacy van waar wordt dat model mee getraind.
Ik weet ook niet precies hoe de techniek werkt van zo'n large language model,
maar blijkbaar hebben ze een model gemaakt wat taal goed begrijpt en hebben
ze toen een soort van gezegd van nou ja, ga maar het internet lezen en dan kun
je daar vragen over gaan stellen.
Dus alles tot en met september 2021 ofzo.
Daar weet dat ding wat van. Maar dan kun je je natuurlijk afvragen welke dingen
hebben we hem dan laten lezen.
Enerzijds op wat ziet dat model dan als waarheid. Maar ook inderdaad ja,
als daar privacy gevoelige dingen in zitten, wil je dan wel dat die gegevens in zo'n model zitten.
Het staat op het internet. Waarom heb je het dan daar neergezet?
Ja dat is ook zo. Privacy is in die zin alweer een beetje een...
Iedereen heeft ook een mobiele telefoon die de hele dag volgt waar je bent.
Heel veel mensen gooien van alles en nog wat op Twitter of Facebook.
Je kunt je afvragen hoe beschermend ben je dan met je eigen privacy.
En de andere kant natuurlijk, behalve wat dat model dan gelezen heeft,
is ook de vragen die je daaraan stelt. Dan kun je ook afvragen van wat je allemaal in Google gooit.
Maar ja, als je het als een soort van persoonlijke AI gaat zien en je gaat daar
al je levensproblemen tegen uitleggen in de hoop dat die je gaat helpen,
dan komt er natuurlijk misschien… Daar staat het op zich bij ChatGPT wel transparant in.
Ik weet niet hoe het bij andere modellen gaat, maar daar zeggen ze altijd bij
van oké wat je nu gebruikt, wat je nu invoert dat kan gebruikt worden voor leerdoeleinden
en dat soort dat soort zaken. Dus op zich is dat dan wel je eigen verantwoordelijkheid
denk ik, als dat dan maar goed aangegeven wordt.
Ja ik had pas geleden een mooi voorbeeld op internet.
Er had ook iemand over code geven aan ChatGPT en eigenlijk was het idee even
een beetje van op het moment dat je het op StackOverflow zou plaatsen,
dan kan je het een chatty petit geven op het moment dat je denkt,
dit kan ik eigenlijk niet publiek brengen op Stack Overflow om diezelfde vraag te stellen.
Gewoon niet doen, anders verwoorden een nieuw code snippet.
Te zorgen dat ook wel echt het gegevensbeschermd blijven.
Ja, voordat je de vraag stelt, zou ik dit gewoon ook zelf op internet zetten.
Maar bij ChatGPT is dat dan nog wel echt een duidelijke handeling.
Je kopieert een stukje code, je gooit het erin en je gaat daar je vragen over
stellen. Maar met Copilot bijvoorbeeld, ja, ik heb eerlijk gezegd geen idee
wat die allemaal onder water de lijn op stuurt om te analyseren.
Ze zeggen geloof ik dat ze private repositories niet gebruiken.
Maar ja, of ze dat doen, dat weten we eigenlijk niet geloof ik.
In het begin van Copilot was dat inderdaad een probleem. code snippets van privacy
post toys gewoon tevoorkwamen.
Ja, ik heb ook zoiets herinneren.
Ik heb inderdaad kort geleden een cursus gedaan over React en dan moesten een
aantal opdrachten doen en ik begon gewoon en een van die opdrachten,
ik weet niet meer precies wat de opdracht was, maar je moest een bepaald componentje
gaan maken en ik deed alleen maar gewoon de naam van het component intikken
en bam, hij gaf gewoon de hele uitgewerkte opdracht voor me.
Ja, dat is bizar. Dus ja, die repo had hij wel duidelijk meegekregen.
Rooske, hoe kijk jij dat tegenaan?
Nou ja, voor de meeste AI tools gebruik je wel een account en daarin worden
denk ik wel gegevens bewaard die van belang zijn.
Ik heb ook gelezen dat de EU er ook al mee bezig is om een regelgeving op te
doen, dus dat vind ik wel van belang dat het ergens bewaard wordt of niet eens
wordt bewaard of voor zoveel dagen wordt bewaard.
Want net zoals op andere bedrijven Zijn ze er steng op? Dus ik neem aan dat
ze ook hier wetgeving aan voor gaan maken.
Ja, dat is ook wel verleidelijk bij GPT. Ik moet zeggen dat ik volgens mij pas
een week geleden echt een account maakte.
En dan viel me op dat je best wel veel moet opgeven.
Je moet je telefoonnummer opgeven, je e-mailadres, je geboortedatum, dat soort dingen.
Naar geboortedatum kan je nog wel verzinnen ofzo. Dus dan kan je wel creatief
zijn, maar je telefoonnummer wordt geverifiëerd. Dan merk je dat het ook wel
een soort druk is. Iedereen gebruikt het, het is ongelooflijk populair,
dus je wilt het ook proberen.
En voor het weet geef je dan toch je telefoon erbij weggeven.
Dat is wel een ingewikkelde balans. Ja, uiteindelijk is jouw data en het staat
ergens vast. En het is wel van belang dat het...
Ja, die herleidbaarheid vind ik dan wel interessant.
Van hoe kunnen ze altijd herleiden dat de gegenereerde code of tekst jouw code
als bron heeft gehad. Daar gaat het dan om, want dat is best wel,
denk ik, dat het ingewikkeld is.
Dus dat gaat ze misschien niet altijd lukken, maar goed, dat is mijn onwetendheid
en zorgpunt, zeg maar, daarbij.
Ja, oké.
Dan gaan we naar de volgende vraag.
Is AI een bedreiging voor hoe we ons werk vandaag de dag doen?
Ja, in zekere zin zie ik dat een beetje als dat een fabriek,
bijvoorbeeld een molen, heeft vervangen.
Het is een bedreiging voor sommige delen, misschien voor sommige werkzaamheden.
En ja, het zal banen vervangen, maar het zal misschien banen verbeteren.
Het zal een hulpmiddel zijn voor heel veel mensen. Maar ja, in zekere zin vormt
het inderdaad een bedreiging. Maar net zoals andere innovaties sinds verleden ook.
Ja, misschien kan ik ook iets meer zeggen over, ik heb dus Copilot gebruikt
voor mijn frontend werk en wat ik zei, ik heb ook al gemerkt op een gegeven
moment dat ik het weer uit heb gezet.
Ik denk dat het ligt in de aard van, er staat AI, maar ik denk dat je generatieve AI bedoelt.
Ja. Dat we daar op toespitzen en als het daarom gaat, dan merk ik wel dat het
zich richt op, dat het vooral goed werkt als je repetitieve dingen doet.
Als je bijvoorbeeld functies schrijft, die je een paar keer moet herhalen,
of een JSON-object, waar je dezelfde regels nodig hebt enzo.
Als je echt nieuwe dingen moet doen die nog niet in zo'n project bestaan,
of die je nog even moet opzetten ofzo, dat zijn punten waar ik vaak tegenaan
loop van, ja, dit is toch niet helemaal wat ik in gedachte had,
of de richting waar ik op wil.
Dus ik zou zelf dat onderscheid maken zeg maar, als het om hele repetitieve
dingen gaat, die al heel vaak gedaan zijn, dan denk ik dat AI een bedreiging
vormt, is het dan misschien een beetje groot gezegd, maar dan denk ik in ieder
geval dat het je het beste kunt helpen.
Maar als je echt een nieuwe richting op gaat, ja dan is het,
was mijn ervaring toen in ieder geval, en dat is ook alweer een jaar geleden,
dat het in die trialfase zat, dat het niet altijd even bulbzaam was.
Ja, nee, ik denk dat het ons werk anders gaat maken, dus dat andere vaardigheden
belangrijk worden om goed te zijn in je werk.
Of dat een bedreiging is. Het kan een bedreiging zijn omdat bepaalde taken die
eerst gedaan werden door mensen misschien niet meer zoveel door mensen gedaan worden.
Het kan ook een bedreiging zijn in de zin dat sommige dingen die je misschien
zelf leuk vindt om te doen, misschien vind je het wel leuk om twee dagen een
heel algoritme uit te gaan zitten programmeren. Ja, en als je dan ineens een
AI hebt die dat in vijf seconden voor je doet, ja, dan kan het je werk misschien
een stuk minder leuk maken.
Dus het zal wel anders worden en dat zal best wel snel gaan.
Ik denk dat het ook lastig te voorspellen is hoe dat precies gaat zijn in de komende tijd.
Maar dat het gaat veranderen, dat is zeker duidelijk, ja.
En misschien zelfs, ja, ik heb laatst met een collega ook over gehad,
dat als je nou mocht kiezen, je krijgt het voorstel van of je krijgt nu een
schoolverlater erbij, dat wordt jouw persoonlijke hulpje en dan mag je laten
laten doen en vragen wat je wil, of je krijgt ChatGPT, één van de twee.
En allebei kozen we eigenlijk voor, ja, doe dan maar ChatGPT,
want dat is gewoon, die weet van zoveel dingen best wel veel.
En het gaat ook zo snel, dus ook al levert hij iets fout op,
je hebt het meteen en je kan het meteen fixen.
Dus ik denk zeker voor junior mensen zou dat best wel een uitdaging kunnen zijn.
Die zullen zich, denk ik, heel goed deze technologie eigen moeten maken om te
voorkomen dat datgene wat zij nog kunnen bijdragen in het project eigenlijk
al heel snel uitbesteed wordt aan de machine.
Ja, interessant punt. Niet dat ik me wil merken in de discussie, helemaal niet juist,
maar wat ik wel denk en ik weet niet,
het is niet een echt creatief proces zeg maar, want het baseert zich op bestaande dingen,
dus je krijgt niet echt iets nieuws en kijk een nieuwe junior zeg maar,
zou zo maar zo geniaal en creatief kunnen zijn, dat iets heel nieuws en geniaals
maakt wat nooit uit die AI was gekomen, dat is het enige wat je dan gaat missen.