Subscribe
Share
Share
Embed
Gesprekken over technologie, innovatie, management en ondernemerschap. En ook over economie, psychologie en artificial intelligence. Kitty is hoogleraar aan Nyenrode Business Universiteit, toezichthouder en ondernemer.
Ik heb begrepen dat de boodschap is dat AGI überhaupt niet haalbaar is omdat er ooit een tekort zal zijn aan resources en computationele kracht. Dus ik moet het allemaal nog maar zien dat het echt zo'n vaart zal lopen. Je komt er heel gauw in een soort gebied terecht waar je volledig wilt gaan monitoren hoe het met mensen gaat en daar moet je heel erg mee uitkijken of je dat altijd moet willen. Mensen vinden onmiddellijk medelijden met zo'n robot dinosaurus en die vinden het vreselijk, die kunnen het bijna niet aanzien dat hij mishandeld wordt. En als je dan vraagt: "Ja maar waarom?" dan denken ze van: "Ja gek eigenlijk dat dit mijn reactie is want dat ding voelt helemaal niks." Tibor Bosse is hoogleraar artificial intelligence en communicatiewetenschap aan de Radboud Universiteit Nijmegen. Hij bestudeert sociale interacties tussen mens en machine, in het bijzonder hoe die interactie door ons als natuurlijk wordt ervaren. Tibor onderzoekt vragen over acceptatie van machines door mensen en wat nou eigenlijk het verschil is tussen mens en machine. Welke rol speelt AI in onze wereld over 10 of 20 jaar? Dit is de Kitty Koelemeijer Podcast. Om mijn podcast te ondersteunen, abonneer je op mijn kanaal. En klik ook op het belletje dan blijf je op de hoogte van nieuwe afleveringen. Wat is nou de essentiële onderzoeksvraag waar jij je mee bezig houdt? Dat is een hele mooie openingsvraag. De essentiële vraag voor mij is eigenlijk hoe kunnen we sociale interactie tussen mensen en machine helemaal begrijpen. Dus je moet je voorstellen er zijn tegenwoordig allerlei technologieën om ons heen waar we op de een of andere manier een gesprek mee kunnen voeren. Denk aan chatbots waar je dan via tekst mee kunt spreken. Denk aan robots die tegenwoordig steeds meer in klaslokalen of in het ziekenhuis rondlopen daar kun je ook mee praten. Die kunnen misschien ook jouw non-verbale signalen opvangen, dus die kunnen aan je gezicht misschien wel herkennen of je blij of boos of verdrietig bent. Dat zijn allemaal processen die onderdeel uitmaken van sociale interactie tussen mens en machine. Er zijn allerlei toepassingen waar die sociale interactie tussen mens en machine op de een of andere manier gebruikt wordt, maar ze werken nog niet perfect. Er zijn genoeg voorbeelden waar het ineens fout gaat. Dat je een vraag stelt aan een chatbot en je krijgt een heel raar antwoord. Dat geeft wel aan dat die sociale interactie nog niet perfect is. Ik probeer te begrijpen wat maakt nou dat die sociale interactie wel of niet goed verloopt. Als we dat snappen ja dan kunnen we aan de ene kant allerlei mooie dingen mee doen, dan kunnen we ook toepassingen ontwikkelen waar die sociale interactie een rol speelt. We kunnen ook beter begrijpen wanneer we het misschien wel helemaal niet moeten willen. Misschien kunnen we ook begrijpen wanneer mensen teveel beïnvloed worden of misleid worden door AI. Die machines waar je het over hebt, daar is altijd sprake van AI? Ja, wat mij betreft wel. Het is natuurlijk een beetje een grijs gebied. Soms is de AI wat dunner dan in andere gevallen. Bepaalde robots zijn helemaal niet zo slim op zichzelf, die zien er vooral menselijk of op een andere manier mooi uit. Ik richt me wel met name op die toepassingen waar intelligent gedrag een rol speelt. Wat is voor jouw intelligent gedrag? In de context van mens-AI interacties, dan beperk me even tot wat dan kunstmatige intelligentie is. Daar gaat het hierom. Wat menselijke intelligentie is weer net een iets andere vraag. Ik ben vooral geïnteresseerd in hoe kun je die machines een soort van intelligent gedrag laten vertonen. In mijn geval gaat het met name over sociale intelligentie. Dus hoe kunnen we ervoor zorgen dat die machines taal begrijpen, wat natuurlijk een belangrijk onderdeel is van sociale intelligentie. Maar ook dat ze non-verbale signalen kunnen oppikken op het moment dat iemand een glimlach vertoont of door middel van armgebaren of je lichaamshouding. Dat geeft alle informatie weg over de sociale interactie. Hoe kunnen we ervoor zorgen dat machines dat ook kunnen oppikken en daar op een natuurlijke manier op kunnen reageren. Niet zozeer het probleem oplossend vermogen? Nee, dat is denk ik een algemenere definitie van intelligentie. Er zijn ook mensen als je dan vraagt hoe definieer je AI dan gaat het om inderdaad problemen oplossen. Of vaak wordt intelligentie in termen van een soort optimalisatie geschetst. Als je een bepaald probleem hebt, je zit hier in de wereld gegeven die en die omgevingsfactoren, wat is de beste beslissing die je kan nemen. Dat is een iets andere definitie van intelligentie. Die is bijvoorbeeld om een spelletje schaken altijd te kunnen winnen. Dat is echt optimalisatie, dat is voor mij iets minder interessant. Ik ben meer geïnteresseerd in die sociale intelligentie. Hoe kunnen we machines zodanig ontwikkelen dat ze menselijke cues kunnen oppikken en het begrijpen. Het begrip Theory of Mind komt daar vaak om de hoek kijken. Hoe kunnen ze een soort begrip hebben van wat de mens bezighoudt mentaal. Wat wil iemand, wat voor emoties ervaart iemand, en daar op een passende manier op reageren. Ik heb ooit een cartoon gezien voor Theory of Mind. Daar zit een echtpaar wat al heel lang samen is aan de ontbijttafel. De man leest de krant en die vrouw zegt tegen zichzelf hij heeft niet door waar ik nu aan denk. En dan zie je die man ook denken van: "Ja dat denk je maar want ik weet wat je denkt." Dat is een mooi voorbeeld van dat het bij mensen best vaak goed werkt. Een echtpaar waar mensen elkaar al jaren kennen maar aan een paar cues genoeg hebben om te interpreteren wat iemand bezighoudt. Hoe werkt dat dan bij machines, hoe krijg je die Theory of Mind dan toegepast in de praktijk? Dat is nog best een uitdaging, dat werkt nog helemaal niet zo goed. Er zijn genoeg voorbeelden van machines die de intenties van de gebruiker helemaal niet op een juiste manier interpreteren. In theorie zou je natuurlijk allerlei cues kunnen gebruiken. Aan de ene kant meer de verbale kant, dus als je met een chatbot een tekst gebaseerd gesprek hebt dan typ je dingen in en dan kan het systeem daar allerlei informatie uithalen uit wat jij schrijft of zegt. Daarnaast heb je ook weer die non-verbale cues. In theorie kun je ook op het moment dat iemand bepaalde gezichtsuitdrukkingen vertoont of armgebaren laat zien, op basis daarvan interpreteren hoe het met iemand gaat. Dat is best een ingewikkeld en ook wel een delicaat vakgebied als het gaat om de ethische aspecten daarvan. Je komt al heel gauw in een soort gebied terecht waar je volledig wilt gaan monitoren hoe het met mensen gaat. Daar moet je heel erg mee uitkijken of je dat altijd moet willen. Dus het gaat mij niet zozeer om die technologie perfect te krijgen, als wel om gewoon beter te begrijpen van wanneer ervaren mensen het als natuurlijk om met een machine te praten en wanneer haken ze helemaal af. Maak je dan ook het onderscheid tussen digital intelligence en embodied intelligence? Bijvoorbeeld Guszti Eiben die ook in deze podcast is, die ken jij goed, die maakt dat onderscheid. Die zegt: “Digital intelligence is iets wat al heel lang bestaat en ik hou me bezig met artificiële intelligentie in een fysiek lichaam." Ja, het interessante is dat in mijn vakgebied het eigenlijk allebei voorkomt want als je het hebt over pure tekst gebaseerde interactie dan zou je dat min of meer digital intelligence kunnen noemen. Als je alleen met zo'n chatbot spreekt waar je een zinnetje kunt intoetsen en je krijgt een zinnetje terug, dan is die hele embodied wereld eigenlijk vrij beperkt. Want het enige wat er is is die tekst. Maar als je gaat naar een situatie met een fysieke robot die door de kamer kan rijden en met camera's allerlei dingen in de omgeving kan waarnemen, en wie weet wat voor sensoren er allemaal aan zo'n robot hangen, als het gaat om geluid en beweging en locatie, dan heb je veel meer een embodied intelligence. Dus ik ben eigenlijk in beide geïnteresseerd, maar dan met name in de ervaring van de mens als je met zo'n systeem interacteert. Dus je hebt een robot die praat met jou en die reageert ineens op jouw emoties. Wat doet dat nou met jou, wanneer ervaar je dat als natuurlijk. Die sensoren van zo'n robot zijn eigenlijk het spiegelbeeld van onze eigen zintuigen. Het zijn de zintuigen van de robot zou je kunnen zeggen. Het woord sensor komt van het werkwoord sense, waarnemen dus in dat opzicht is een camera een soort van de ogen van de robot. Met de kanttekening dat het allemaal weer niet precies hetzelfde werkt dat een heel ander soort berekeningen voor nodig zijn. Maar het is wel de manier waarop zo'n systeem informatie uit de buitenwereld tot zich neemt. Zijn we daar al ver genoeg in of verwacht je daar nog doorbraken? Is het een beperkende factor op dit moment of zeg je die sensoren dat functioneert eigenlijk allemaal goed genoeg. Er is de laatste jaren wel ontzettend veel in een stroomvoorstelling terecht gekomen. Als je het hebt over iets als beeld herkennen. Tien jaar geleden was het nog helemaal niet zo eenvoudig om een foto te maken en dan tegen de computer te zeggen wijs maar aan wat er te zien op die foto. Inmiddels is dat indrukwekkend. Je kunt een foto nemen van een opname op straat en de computer kan tegen jou zeggen: "Daar heb je fietsers, daar heb je voetgangers, dit is een gebouw, etc.” Dus dat maakt wel dat die embodied intelligence vanuit computers een stuk beter te realiseren is dan vroeger. Maar tegelijkertijd gaan ook nog steeds dingen fout. Er zijn ook genoeg voorbeelden van een beetje klungelige fouten. Geef eens een voorbeeld. Ik moet dan meteen denken aan, dat is alweer een beetje een klassieker, misschien ken je dat wel. Dat gaat over, ik weet even niet meer in welke context het precies was. De opdracht was voor de computer om ik meen foto's met wolven te kunnen herkennen. Er was dus een AI model getraind om het onderscheid te kunnen maken tussen een foto waar een wolf opstond en een foto zonder wolf. Zo'n systeem leert op basis van heel veel voorbeelden, dus er waren allerlei foto's. Een herdershond of zo, die andere? Het kan ook een kat zijn of überhaupt geen dier, dat maakt niet zoveel uit. In ieder geval, het probleem was: staat er een wolf op ja of nee, zo simpel eigenlijk. Er was zo'n systeem getraind, daar hadden ze voorbeelden aan gegeven en dat leerde vrij goed om die foto's te herkennen, dus iedereen was enthousiast. Op zeker moment kwamen er wat nieuwe voorbeelden uit een andere dataset en dat ging men dan weer voeren aan dat systeem en het ging finaal de mist in. Het kon er helemaal niets meer van. Wat bleek nou, dat systeem had niet geleerd om wolven als zodanig te herkennen maar die had een trucje geleerd dat op alle foto's die tot dan toe had gezien waar wolven op stonden, dat er ook sneeuw te zien was. Dus het keek gewoon is er een witte achtergrond te zien. Zo ja dan zeg ik: "Het is een wolf”. Maar toen kwam plotseling een nieuwe dataset met foto's met of zonder wolven en sneeuw en toen ging het helemaal de mist in. Dat krijg je met die black box algoritmen, dat wij niet weten op grond waarvan die classificatie wordt gedaan. Dat is het precies. Het herkent die features zelf en dat kan zijn een dier met een staart maar dat kan ook zijn een witte achtergrond. En dat weet je in principe niet meer met die moderne AI technieken, Dat is ongelooflijk ingewikkeld om dat te ontrafelen wat voor vuistregels het systeem dan gebruikt. Dat blijft een uitdaging. Daardoor gaan heel veel van die moderne systemen die met machine learning en deep learning werken toch ook soms, in bijzondere gevallen, ineens weer mis. Welke van die sensoren is nu het belangrijkst voor het creëren van een natuurlijk aanvoelende interactie? Wat geeft nou de doorslag? Dat is een goede vraag. Welk gedrag van de machine? Er zijn allerlei aspecten waar je naar kunt kijken. Er wordt vaak gedacht het moet er heel realistisch uitzien bijvoorbeeld. Dat is ook weer meer die embodied kant zou je kunnen zeggen. Hoe een robot of een virtueel wezen in een computergame of noem maar op. Hoe iets eruit ziet dat zorgt voor een iets extra's als dat goed lijkt. Maar er is ook onderzoek dat aantoont dat de inhoud van de conversatie veel belangrijker is. Dus dat zo'n systeem de juiste dingen op het juiste moment terugzegt tegen jou, dan voelt dat veel echter. Dus gewoon een tekst gebaseerde chatbot, waar je een gesprek alleen maar door iets in te toetsen en je krijgt een antwoord terug, dat op die manier werkt dan kan het een hele realistische ervaring oproepen. En dan hoeft je dus helemaal niet een prachtig uitziende robot of een avatar. Alsof je met een mensen aan het mailen bent of chatten. Precies, die zie je ook niet altijd tegenover je. Dan vul je heel veel informatie zelf in. Het gesprek dat gaat wel voort en je weet helemaal niet hoe die ander eruit ziet bij wijze van spreken maar dat hoeft ook niet. Terwijl als je dat dus wel ook allemaal wilt toevoegen, dus je wilt wel een robot bouwen of je wilt een avatar in een computer game intelligent gedrag laten vertonen, dan moet je daar ook allerlei keuzes maken. Dat betekent ook dat de lat hoger ligt. Dus er zijn ook meer elementen waar het mis kan gaan. Als die avatar zich een beetje houterig beweegt dan is dat bijvoorbeeld dodelijk voor de ervaring die je hebt, omdat het er ineens helemaal niet meer natuurlijk uitziet. Dus soms is het ook “less is more”, dat je maar beter gewoon met hele eenvoudige principes werkt. Heb je een soort rangorde, dat je zegt het komt natuurlijk over als je aan die en die voorwaarden voldoet? Dat zou wat mij betreft een ultieme onderzoeksvraag zijn. Kunnen we in elke situatie volledig voorspellen wanneer iets natuurlijk overkomt en wanneer niet. Er zitten zoveel kanten aan. Hoe meet je dat? Vraag je mensen: "Vond je het natuurlijk, geloofwaardig, interessant, leuk”, of kijk je naar het gedrag van mensen? Allemaal. De klassieke aanpak is inderdaad de subjectieve beleving, dus een vragenlijst. Je zet iemand in een lab tegenover een robot, ga maar een gesprek voeren. Na afloop krijg je een soort standaardvragenlijst. Met de Turing test, is dit een mens. Dat is in feite ook een subjectieve vraag, is het wel of niet een mens. Maar ook gewoon met schalen van 1 tot 10 van hoe sociaal vond je de gesprekspartner, betrouwbaar. Dat is subjectief. Gedrag is inderdaad een mooie aanvulling want we weten ook die subjectieve metingen zijn niet altijd even betrouwbaar. Misschien zijn mensen alweer vergeten hoe ze het een paar minuten daarvoor ervaren. Ze rationaliseren of interpreteren. Exact, dus je kunt gewoon kijken naar zoals ik nu geanimeerd met mijn armen aan het bewegen ben in een gesprek, dat zou ook iets kunnen zijn, een gedragsmaat. Breinactiviteit, meet je dat ook, met fMRI scans bijvoorbeeld? Eigenlijk heb je dan drie verschillende richtingen. Subjectief – vragenlijst -, gedrag - wat zeg ik, wat doe ik, hoe beweeg ik - en fysiologisch, dat is inderdaad iets als hartslag, EEG metingen, het zweet op de vingers is ook een bekende maat voor hoe aroused iemand is, hoe intens je betrokken bent bij de conversatie. In een ideale setting zou je dat eigenlijk allemaal mee willen nemen. Het komt ook al niet altijd helemaal met elkaar overheen. Soms zeggen mensen dat ze het heel geloofwaardig vinden maar dan wijzen die andere metingen uit dat het helemaal niet zo is. Misschien vinden ze dat ze dat zouden moeten vinden. Dat zou kunnen. Of hebben ze het gevoel dat ze zelf getest worden. Ja, daarom is het altijd beter om daar een combinatie van meetmethoden te gebruiken. Wat verder wel interessant is is dat mensen op zichzelf heel erg de aanleg hebben om zo'n machine menselijk te behandelen. Antropomorfiseren. Exact, dat is toch een soort aangeboren neiging van als we tegenover iets zitten en het heeft wat sociale cues, of het ziet er menselijk uit of het zegt net de juiste dingen, dan hebben we heel gauw de neiging om er allerlei menselijke eigenschappen op te projecteren. Waarom doen we dat? Ik denk dat dat voor een heel groot deel evolutionair bepaald is. Dat het eeuwen geleden beter voor ons was dat we in bepaalde bewegende dingen een soort agency in zagen. Stel, er beweegt iets in de struiken dan kun je maar beter aannemen dat het misschien wel een leeuw zou kunnen zijn waar je voor moet vluchten dan dat je er niks mee doet. Of juist door overeenkomsten te zien de kans op een goede relatie ook groter is en daarmee de veiligheid. Ja precies, de leeuw was een negatief voorbeeld. Er zijn natuurlijk wel positieve voorbeelden denkbaar waar het gewoon handig is als je agency, het agent zijn, of het mens, of het dier, of wat dan ook zijn snel herkent in een andere entiteit. Dat werkt nog steeds bij robots en chatbots en dat soort dingen. Wat doe je daarmee in je onderzoek? Wat ik interessant vind is dat dit aan de ene kant speelt. Dus dat we heel snel min of meer automatisch die reflex hebben van we zien ergens agency in. En tegelijkertijd is er een soort parallelproces gaande dat dat weer een beetje onderdrukt. Dat is meer een rationeel proces zou je kunnen zeggen, dat voortdurend tegen jou zegt: het voelt wel als een echt wezen met intenties en emoties maar het is het helemaal niet. Je bent je er toch ergens diep in je achterhoofd van bewust dat het een koude machine is die helemaal geen emoties heeft of ervaart en dat je je dus eigenlijk laat meeslepen in een illusie. We doen ook wel studies waar we bekijken hoe die twee processen parallel een rol spelen. Dus aan de ene kant je ziet iets, je gaat er meteen vanuit van het is een mensachtig wezen en tegelijkertijd nee, dat is helemaal niet waar wat ben ik nou raar aan het doen. We hebben een onderzoek gedaan, één van mijn promovendi heeft mensen een klein robotje mee naar huis gegeven een paar dagen, een soort auto-achtig robotje. Dat kun je zo op tafel zetten en die rijdt rond en die heeft een soort van gezichtje op zijn display. Aan het eind van die paar dagen vroegen we mensen in gesprek van hoe heb je het nou ervaren? En die gaven precies hetzelfde aan. Er waren situaties waar je echt het gevoel had die robot die voelt iets en even later dacht je ook weer wat raar eigenlijk dat ik het zeg. Die genereren zich er bijna voor. Het is net zoals die scène in de film AI van Stephen Spielberg, een hele oude film, er is ook een kunstmatig jongetje die vele duizenden jaar op de bodem van de zee om zijn moeder blijft roepen, of zijn familie. Het kan niet anders dan dat het je raakt emotioneel. Precies. Terwijl je weet het is een robotje, maar je je leeft zo mee. Dat is iets, daar zijn we ons van bewust, het besef dat het allemaal nep is verdwijnt naar de achtergrond. Daar hebben ze dan ook een naam voor in de filmwereld ‘suspension of disbelief’, dus je schakelt je ongeloof gewoon tijdelijk even helemaal uit. Net als wanneer je in de bioscoop zit en naar een film kijkt. Dan weet je misschien best dat het allemaal acteurs zijn, maar dat verdwijnt naar de achtergrond. We willen het ook geloven. Ja, we willen het en we zitten zo in elkaar. We zijn allemaal op zoek naar narratieven en naar sociale cues om ons heen dus het is heel makkelijk om dat te geloven. Maar tegelijkertijd kan het ook door één foutje van zo'n AI systeem weer in één keer ongedaan gemaakt worden. Dat vind ik dan ook wel weer boeiend. Dat is de bekende ervaring als je een chatbot van een klantenservice of zo tegenkomt en je stelt een paar vragen je krijgt een goed antwoord. En dan stel je nog een vraag en ineens krijg je heel raar antwoord waar je totaal niet mee geholpen wordt. Dan denk je in één keer: o ja, wacht het is maar een computer en dan haken mensen heel snel ook weer af. Die duale mechanismen, van de ene kant meegezogen worden in de illusie en aan de andere kant dat ook weer snel doorbroken kan worden, dat vind ik vind ik heel interessant. Heel veel onderzoek naar AI is heel rationeel gaat eigenlijk over cognitieve psychologie. Wat jij doet daar zit ook heel veel affectieve psychologie in, of hedonistische psychologie. Kun je uit de voeten met wat er op dit moment beschikbaar is in jouw onderzoek? Je kunt best wel een hoop doen, zowel als het gaat om emoties bij de mens op de een of andere manier in kaart te brengen. Ook dat kan weer met vragenlijsten en met fysiologische metingen. Ontdek je dan nieuwe dingen? Er zijn heel veel typeringen van emoties en classificaties. Dat zijn op zich theorieën die al een langere tijd bestaan. Je hebt volgens mij van die basistheorieën, je hebt categorieën van emoties, blij, boos, verdrietig. En je hebt ook dimensionale theorieën, emotie dat is een soort van punt op een tweedimensionale ruimte en op de ene dimensie heb je dan positief versus negatief en op de andere dimensie heb je arousal, de intensiteit. Dus je kunt heel blij en heel erg aroused zijn, of juist heel niet blij en niet aroused. Die theorieën worden ook heel veel nog gebruikt in de mens-computer interactie. Kun je daarmee te voeten of heb je iets nieuws nodig, of ben je het al aan het ontwikkelen? Het zijn theorieën en daarom zijn het ook wel per definitie vereenvoudigingen van de echte wereld. Je kunt met die emoties nog wel een hoop doen. Ik vertelde net over dat onderzoek van die promovenda die dat robotje aan mensen heeft meegegeven. Ze doet ook onderzoek naar hoe mensen reageren als robots mishandeld worden. Dat heeft iets akeligs, er zijn ook wel filmpjes op internet beschikbaar waar ze dan zo'n robot dinosaurus aan zijn staart optillen en die gaat dan heel akelig janken. Dat roept ook meteen emoties op bij mensen. Dat zijn interessante voorbeelden omdat emoties daar een rol spelen, maar daar heb je ook weer dat duale. Mensen hebben onmiddellijk medelijden met zo'n robot dinosaurus en die vinden het vreselijk, die kunnen het bijna niet aanzien dat hij mishandeld wordt. En als je dan vraagt: "Ja maar waarom?" Dan denken ze van: "Gek eigenlijk, dat dat mijn reactie is, want dat ding voelt helemaal niks." Je hebt natuurlijk ook bepaalde overtuigingen, bepaalde culturen waarin een ziel wordt toegekend aan objecten. Dat is ook niet voor niets dat wij dat doen als mensen. Niet iedereen, maar het komt wel voor. Animisme geloof ik dat het heet. Ja, dat is in Japan een kennisstroming. Wat dat betreft zou ik het ook nog eens interessant vinden om meer vergelijkende studies tussen culturen te doen. Daar hebben we nog niet zoveel onderzoek naar gedaan in mijn groep. Wij hebben datzelfde gevoel, bij ons is het niet geformaliseerd, wij voelen dat dus ook. Ja, dat is zo. Er zijn natuurlijk ook individuele verschillen. De ene mens zit wat rationeler in elkaar dan de ander dus die zal wel wat sneller zeggen wat een onzin allemaal dat we die ziel toeschrijven. Het kan ook alle twee. Dat zijn wel interessante vragen als je het hebt over die sociale interactie met machines want daar moeten we dan iets mee. Ik vraag het ook omdat bijvoorbeeld economie en psychologie vinden elkaar in behavioral economics. Ik vraag me af is er ook zoiets aan de hand met AI en psychologie. Is daar ook een soort fusie in een nieuwe theorie? Dat zit wel een beetje in de hoek van het soort onderzoek wat we binnen onze afdeling doen. Want daar kijken we met name hoe mensen reageren op allerlei AI systemen, dus onder andere die sociale systemen, die robots en die chatbots, etc. Maar niet alle AI is sociaal, dus we kijken ook bijvoorbeeld naar hoe mensen reageren op als een AI systeem gewoon een beslissing voor jou neemt. We hebben het dan meer over algoritme of ‘automated decision making’, dus automatische beslissingen van een machine. Stel je voor dat je een adviessysteem hebt dat tegen jou zegt wat voor medicijn je moet nemen als je ziek bent, ik noem maar even een voorbeeld in de zorg. Dat is niet per se een sociaal systeem, maar het nog is wel AI en daar speelt die psychologie in feite ook een belangrijke rol. Want er zijn allerlei meer psychologische processen die bepalen of je zo'n advies van zo'n systeem dan wel of niet accepteert. Ik heb ook collega's die daar onderzoek naar doen, dus dat is de psychologie van computers en AI zou je kunnen zeggen. Als je door de tijd heen kijkt zie je dat wij steeds meer accepteren van machines. Wij accepteren ook steeds meer persoonlijke aanbevelingen als we online shoppen bijvoorbeeld. Wat tien jaar geleden nog raar en vreemd was, dat vinden we nu steeds normaler. Er zijn al robots op de markt, of die komen binnenkort, die huishoudelijke taken voor je doen, die huisdieren te eten geven, weet ik wat je ze allemaal kunt leren. Die acceptatie van machines wat zie jij daarin gebeuren? Dat is ook een hele interessante, ik noemde net al collega's die doen daar onderzoek naar. Wat wij daar zien, het is een ingewikkeld veld, er is ook nog niet een eindconclusie. In sommige situaties lijkt het erop dat mensen die beslissingen juist wel accepteren en in andere situaties weer niet. Wat wij laatst gevonden hebben is dat het eigenlijk vooral van belang is of zo'n beslissing of een advies van een machine, of dat nuttig voor jou is. Dat lijkt, in ieder geval uit ons onderzoek komt dat, misschien nog wel het belangrijkste factor te zijn om te bepalen of mensen het wel of niet accepteren. Nog veel meer dan bijvoorbeeld iets als controle of het feit dat het überhaupt een machine is. Mensen zeggen vaak van: "Ik moet niks hebben van machines die dingen voor me doen." Of mensen zeggen juist: "Ik geloof heel erg in machines.” Uiteindelijk wordt het allemaal ondergesneeuwd als je kijkt naar of het echt nuttig is of niet. Of het nut heeft, dat lijkt de voornaamste factor te zijn. Dat zie je ook bij de adoptie van technologische innovaties in het algemeen, de modellen die daarvoor zijn gemaakt. Daar zit dan altijd nog een tweede variabele in hoeveel moeite je moet doen, welke drempels je moet nemen. De ‘ease of use’ is dat bij jou ook, of die ‘ease of use’ die is er gewoon, dat kan ook. Die komt natuurlijk steeds meer, dus het wordt allemaal steeds makkelijker te gebruiken. Die andere inderdaad, die benefits die zijn echt ongelooflijk belangrijk. En de rest is bijzaak. De rest lijkt bijzaak. Er is ook nog een kleiner effect van iets wat we controle noemen. Het liefst wil je dan nog wel zelf een eindbeslissing kunnen maken nadat de computer advies geeft. Volledig uitbesteden dat vinden mensen toch vaak wat spannender. Maar de voornaamste factor is gewoon voegt het wat toe, werkt het goed is het nuttig in jouw leven. Dan heb je blijkbaar nog wat bewijs nodig, of wat positieve ervaringen voordat je die controle een beetje loslaat. Ja, dat zie je met allerlei technologieën natuurlijk. Als het maar lang genoeg op de markt is en het heeft zich al bewezen, ook al zeggen mensen misschien, als je je gewoon vraagt zouden ze zeggen: "Ja maar ik wil de controle niet uit handen geven,” we doen het toch maar ontzettend vaak in de praktijk omdat het toch makkelijker is. En dat gaat zowel om advies systemen in de zorg, we besteden tegenwoordig de keuze voor onze date uit aan machines die een match voor jou maken met een potentiële date. Je ziet het ook langzaam maar zeker bij, een fysiek voorbeeld, zelfrijdende auto's. Dat is nog wel een stukje verder. We accepteren niet zoveel fouten van auto's. Daar merk je inderdaad, ook al wordt er misschien aangetoond dat objectief gezien er veel minder ongelukken zijn met zo’n auto. Het verschilt ook wat tussen domeinen. Ik denk als er maar vaak genoeg voorbeelden zijn die aantonen dat, stel dat het echt veiliger en beter en sneller en efficiënter is, dan zullen mensen vroeger of later daar ook voor de machine kiezen. Een meer filosofische vraag: wat is nou het essentiële verschil tussen een mens en een machine? Dat is een hele filosofisch, het essentiële verschil. Eigenlijk zijn er nog wel heel veel verschillen. We proberen misschien naar model van de mens die machines ook sociaal te maken, zoals wat wij ook in ons onderzoek doen. Maar ik denk dat de vraag vooral moet zijn: hoe kunnen ze elkaar aanvullen. Ik denk dat we niet moeten proberen om ze op de een of andere manier gelijk te maken, er zijn zoveel verschillen. Ze zijn ook niet gelijk. Ze zijn absoluut niet gelijk. Noem voor jou één heel belangrijk verschil. De subjectieve ervaring, dus het kunnen voelen van bepaalde zaken. Ik had het net over die dinosaurusrobot die heel erg aan het huilen is als hij mishandeld wordt. Maar die voelt geen pijn zoals wij pijn voelen. Die is geprogrammeerd om te huilen of heeft geleerd om te huilen. Die simuleert emotie. Omdat dat iets oplevert. Ja, dat kan soms functioneel zijn en daar zitten ook natuurlijk negatieve kanten mogelijk aan vast. Er kunnen zelfs mensen gemanipuleerd worden om producten te kopen omdat de robot anders begint te huilen, ik noem maar even wat. Dat is inderdaad in zekere zin doen alsof en dat is een illusie waar we niet altijd in moeten trappen vind ik. Dat is een makkelijker gezegd dan gedaan. Het idee van kunstmatig leven, hoe kijk je daar naar, wat is leven voor jou? Je hebt intelligentie, kunstmatige intelligentie. Je hebt leven, kunstmatig leven, bestaat dat of is dat een absurde gedachte? Kunstmatig leven, dat hangt voor mij heel erg af van de definitie van leven. Welke definitie gebruik jij? Ik hou me niet zo bezig met leven op zich. Ik moet wel terugdenken aan wat ik op de middelbare school in tekstboeken heb geleerd. Daar had je van die rijtjes met eigenschappen waar leven aan zou moeten voldoen, van reageren op prikkels en reproduceren. Ik denk dat je veel van die eigenschappen ook nu al of misschien in de toekomst in machines zou kunnen nabouwen. Dus misschien komt er een punt dat we woorden zoals leven ook voor machines gaan gebruiken. Er zijn natuurlijk heel veel woorden die we oorspronkelijk niet hebben bedoeld voor machines maar die we er wel voor gebruiken, als in die emoties, daar hadden we het al over. Begrijpen gebruiken we ook heel vaak als woord terwijl je de vraag kunt stellen of een AI systeem iets begrijpt. Je zou kunnen zeggen nee, begrijpt niet. Nee, want als je leven toekent, dan krijgen machines ook rechten. Wellicht kun je dan een redenering formuleren die die kant op gaat. Dat is de vraag of je dat moet willen. En bewustzijn? Dat is ook weer zoiets. Dat zit een beetje in de hoek van die gevoelens van die dino die ik net noemde. Een bewustzijn is één van de meest complexe en nog niet goed begrepen fenomenen in de hele wetenschap als je het mij vraagt. Om dat in een AI systeem terug te zien, dat zie ik voorlopig nog niet gebeuren. En artificial general intelligence? Dat zit ook een beetje in die hoek. Hoe kijk je daar naar, want dat is het doel van veel ondernemingen, om dat te creëren. Dat vind ik ook een hele ingewikkelde discussie. De eerste vraag is hoe je dat dan precies definieert. Veel van die discussies gaan voor mij een beetje te kort door de bocht. Die gaan er vanuit dat intelligentie iets heel eenvoudigs is dat je kunt meten met één testje of iets dergelijks. Terwijl, er zitten zoveel verschillende aspecten aan intelligent gedrag en op een aantal van die aspecten is de computer allang veel beter dan mensen als het gaat om om repetitief werk en snelle berekeningen maken. Dat is op een specifiek domein. Het idee met AGI is dat je willekeurig welke taak die door mensen kan worden gedaan door het algoritme kan laten doen, zonder dat je het specifiek traint daarvoor zelf. Precies, veel van de bestaande, of eigenlijk alle bestaande AI toepassingen zijn nog ‘narrow’ in die zin dat ze op een een specifieke taak, schaken of een gesprek voeren of zo zijn toegespitst. Het idee van dat AGI is inderdaad dat je het algoritme zo ergens kunt neerzetten en het kan in deze situatie een potje schaak spelen en dan zet je het ergens anders en dan kan het weer een auto besturen. Ik geloof niet dat dat op korte termijn zal gebeuren. Ik weet dat er enorme meningsverschillen zijn. Als je het tien AI onderzoekers vraagt, de ene zegt: "Het gaat nooit gebeuren." En de ander zegt: "Het is hier over een paar jaar." Ik zit wel iets meer in de lijn van ik moet het allemaal nog maar zien. Je bent nuchter. Ik ben daar nuchter in en ik waak ook voor een bepaald narratief. Wat je wel vanuit de grote techbedrijven vaak ziet is dat er veel geïnvesteerd moet worden om maar die general intelligence te creëren. Ik weet niet of dat nou de beste ontwikkeling is. Er is toevallig een artikel laatst uitgekomen van collega's van mijn universiteit waar ze ik - heb het nog niet helemaal gelezen - maar ik heb begrepen dat de boodschap is dat AGI überhaupt niet haalbaar is omdat er ooit een tekort zal zijn aan resources en computationele kracht. Dus ja ik moet het allemaal nog maar zien dat het echt zo'n vaart zal lopen. Ik denk dan altijd zelf als er zoveel partijen zo serieus mee bezig zijn daar zoveel in investeren dan zit daar een incentive achter om dat te doen. En ook het idee dat het mogelijk is, in ieder geval in bepaalde mate. Ik vind het dan altijd een beetje riskant om te zeggen het is niet haalbaar, dat lukt toch niet. Zij zeggen dat onderbouwd, ik zeg dat niet goed onderbouwd. Ik zou ook niet zo snel zeggen dat iets nooit mogelijk is, daarvoor wil ik het eerst goed kunnen bestuderen als dat al gaat voor een complexe vraag als dit. Ik weet dat collega's dat die claim maken. Tegelijkertijd, de claim dat het er heel snel zou zijn is ook moeilijk te onderbouwen. Ik zie wel dat de ontwikkelingen razend snel gaan met die verschillende grote taalmodellen. De volgende versie is weer zoveel groter dan de vorige en ook weer veel indrukwekkender als het gaat om complexere problemen oplossen. We hadden het net over Theory of Mind er zijn ook wel artikelen waaruit blijkt dat die grote taalmodellen die er nu bestaan iets bezitten wat daar een beetje op lijkt. Dat het echt wel op basis van een gesprek met jou tot op zekere hoogte kan achterhalen wat jouw intenties zijn en wat je bedoelingen zijn. Dat is allemaal echt indrukwekkend, maar dan nog moeten we niet denken dat het dan nog één klein stapje is naar die artificial general intelligence. Zit er een grens aan die taalmodellen? Miljarden parameters, dat kun je je niet eens voorstellen, hoeveel data daarin gaat. Ik heb wel eens de indruk dat we zo'n beetje alles wat we hebben invoeren bij die taalmodellen. Daar kun je methodologisch vragen bij stellen, of je dat wel moet doen. Zit daar een grens aan? Ik bedoel, op een gegeven moment ben je natuurlijk ook weer de output op grond van dat soort modellen ook weer aan het invoeren. Dat is een reëel risico. Ik kwam toevallig afgelopen dagen een of andere post tegen waar uit bleek dat als je bepaalde zoekopdrachten op internet invoert dat je daar afbeeldingen terugkrijgt en de meeste van die afbeeldingen zijn al, afhankelijk van de zoekopdracht, AI gegenereerde afbeeldingen. Dan zie je als je een bepaald dier opzoekt niet dat dier meer als eerste maar dan zie je artificiële, AI gegenereerde dieren. Wat zijn we dan aan het doen? Dat is misschien wel een soort vervuiling van het internet zou je kunnen zeggen. En als die verhouding straks doorslaat dan trainen we die modellen op hun eigen output. Je krijgt het er ook niet meer uit. Nee. Dan moet je alle artificieel gegenereerde zaken eruit halen, maar daar zit ook altijd iets van een mens bij. Dus het lijkt me heel lastig om dat te doen. Dat denk ik ook en de vraag is waar je dan over 10 jaar staat met dit soort modellen. Dat is niet precies mijn expertise maar ik denk wel, dat ik kan me heel goed voorstellen, dat dat op een gegeven moment ergens ophoudt. Zowel vanwege dit argument, dat je dus een soort terugkoppeling krijgt en dat de kwaliteit alleen maar slechter wordt omdat het gewoon te weinig menselijke data is, als ook wel meer computationele argumenten, dat het aantal berekeningen te groot is waar we niet de rekenkracht voor hebben om dat allemaal uit te voeren. Dus geen validiteitscontrole. Dat ook, maar ook omdat er als je alle computers in de wereld zou gebruiken om zo'n model te trainen, je dan nog te weinig resources hebt. Dus het is de vraag of deze route die de AI gemeenschap is ingeslagen met nog grotere en nog grotere modellen. Een soort van brute kracht aanpak of die uiteindelijk tot fundamentele doorbraken zal leiden. Wat is het alternatief? Goede vraag, ik zie dat in de AI gemeenschap er wel sterk wordt geloofd in een soort hybride vorm van AI. Waar je die hele grote datagedreven modellen combineert met wat meer klassieke AI op basis van kennis. Dat is hoe in de jaren 50 en 60 van de vorige eeuw AI systemen in eerste instantie ontwikkeld werden. Je hebt mensen, laten we zeggen een menselijke arts heeft kennis in het hoofd, en dat probeer je om te zetten in termen van regeltjes en dat programmeer je in een systeem. Dat heeft allerlei voordelen. Het is veel beter te controleren, je hebt geen ongewenste output als in hallucinaties en bias en al die dingen die in de moderne AI, daar de keerzijde van zijn. Terwijl we juist wegbewegen van dat ‘rule- based’. Daarvan bewegen we enorm weg, maar er zijn mensen die zeggen de sleutel zit in het combineren van het samenbrengen van die twee werelden. Dat je toch de controle van die ‘rule-based’ modellen hebt met de kracht van de grote datagedreven modellen. Ken je daar al toepassingen van? Er zijn wel voorbeelden. Wij doen zelf ook wel onderzoek, dat is niet iets wat in de praktijk gebruikt wordt, maar we kijken naar in de context van die chatbots hoe je conversaties met een chatbot kunt houden. En daar zie je eigenlijk precies hetzelfde, dat beide aanpakken hun voordelen. Chatbots werden vroeger ook gewoon met regeltjes ‘rule-based’ geprogrammeerd. Als de mens zegt dit, dan zeg ik dat, enzovoort, enzovoort. Dat is handig, dat is controleerbaar. Stel dat je dat in een beetje een gevoelig domein in de zorg ofzo wilt inzetten dan gaat het in ieder geval nooit fout. Het nadeel is, het is heel erg eentonig. Dus dan kijken wij dan naar een soort hybride chatbot die die vragen stelt, maar als je een antwoord krijgt dan ook af en toe zo'n meer datagedreven module kan aanroepen om een menselijker gevoel te geven. Dus die interpreteert dan wat jij gezegd hebt en dan krijg je ook een beetje variatie in de in de taal. Daar zijn denk ik wel mogelijkheden. Welke toekomst zie jij voor AI? Over een jaar of 10, waar staan we dan? Natuurlijk vooral op jouw gebied. Op het gebied van die sociale AI denk ik dat daar nog een hoop meer mogelijk is. Ik vind het vooral interessant om te begrijpen wanneer we dat echt als geloofwaardig ervaren. Ik denk dat dat nog wel stukken beter kan. Ik was, moet ik eerlijk zeggen, zelf ook wel onder de indruk toen ik mijn eerste gesprek met chat GPT hield. Wie niet. Er komen prachtige teksten uit. Als je dat extrapoleert dan komen we waarschijnlijk wel uit in een toekomst waar puur die tekst gebaseerde gesprekken niet of nauwelijks meer van echt te onderscheiden zijn. Tel daarbij op, als je ook nog die andere embodied informatie meeneemt, dus als een machine ook beelden goed kan herkennen en tegenover jou zit en alle cues van mijn sociale interactie kan oppikken. Dan kom je in een toekomst waar je een machine tegenover jou hebt zitten waar je een gesprek mee voert dat wel griezelig dichtbij een mens-mens conversatie komt. En misschien nog wel op sommige fronten veel beter is in jouw gedrag lezen. Nu zeg ik er even helemaal niks van of dat goed of slecht is. Is dat goed, vind je daar ook wat van? Daar vind ik zeker wat van. Mijn antwoord is bij dit soort vragen vaak toch wel iets in het midden. Ik zie daar, iets breder alleen die sociale interactie, AI in het algemeen heeft ontzettend veel potentieel. Er zijn prachtige toepassingen denkbaar in de zorg, in het onderwijs, in de transportsector, noem maar op. En tegelijkertijd zijn er ook een hoop zorgen, ethische vragen. Zeker nu die ontwikkelingen zo snel gaan en die grote big data-achtige modellen alles bepalen. Er zijn serieuze vragen die we ons moeten stellen rondom de betrouwbaarheid en de transparantie van die systemen, de ecologische voetafdruk. Veel van die zorgen kun je ook hebben als het gaat om die sociale agents waar ik het over had. Als je een perfect mensachtig wezen tegenover jou hebt zitten, dat alles begrijpt wat je zegt, dat jou eigenlijk beter kan begrijpen dan jij jezelf begrijpt. Dan is dat misschien prachtig voor bepaalde toepassingen, eenzaamheid bij ouderen, ik noem maar wat. Misschien dat er echt wel mogelijkheden zijn. Maar het heeft ook iets griezeligs, misleidends misschien soms. Hoe voorkom je die negatieve kanten ervan? Denken jullie daar ook over na? Ik kan het zeker niet alleen, voor een heel groot deel is dat ook regulatie. Op verschillende plekken in de wereld is er wetgeving die er ingevoerd wordt, niet in de laatste plaats binnen Europa. Dat vind ik op zich een goede ontwikkeling. Iets dichter bij huis, bij dit soort systemen, als je het hebt over die sociale AI, een robot of een chatbot waar je een gesprek mee kunt voeren, dan denken we altijd heel goed na over hoe je dat dan zou willen inzetten. Het onderzoek in het lab is één ding, meer fundamenteel begrijpen van hoe werkt die interactie. Daar kun je soms best ver gaan. Maar als je het dan voor één specifiek domein in de praktijk zou willen inzetten, dan moet je daar heel goed over nadenken wat dan een geschikte toepassing is. Ik noemde al eenzaamheid bij ouderen. Dan kom je soms in een hoek terecht dat je met een soort van misleiding bezig bent. Als het niet transparant is voor iemand, dat die persoon met een AI systeem in contact is, omdat die persoon de technologie niet begrijpt of omdat die persoon zelf in een kwetsbare groep valt zoals mensen met dementie dan moet je daar wel heel goed over nadenken. Houden wij daar de regie over? Zijn wij daar AI altijd de baas? Dat is natuurlijk de vraag, AI alignment. Die alignment dat heeft ook te maken met dat AI misschien zelf bepaalde dingen zou kunnen gaan doen die we eigenlijk niet voorzien hadden of niet gewenst hadden. Ik denk bij specifiekere toepassingen, als je het gewoon puur hebt over een robotje die je in een kamer zet bij iemand, die zijn vaak redelijk afgebakend, ook weer in combinatie met die klassieke rule-based systemen, dan kun je dat redelijk controleren, dat hij niet iets heel geks gaat doen. Maar als dat niet bij de ontwikkelaars ligt die controle, als je inderdaad meer zoals het nu de afgelopen jaren is gegaan met die grote taalmodellen die over de hele wereld zijn uitgestort, zou je kunnen zeggen, ze waren er ineens en iedereen gebruikt ze. Die zijn veel minder makkelijk controleerbaar. En dan is er denk ik wel een risico dat het systeem ook dingen gaat doen die je niet wilt als gebruiker of als ontwikkelaar, die je niet voorzien had. Er is nog veel te doen. Ik vraag ook altijd aan mijn gasten wat hun advies is aan jonge onderzoekers. Dat mogen ook managers, ondernemers zijn, zelfs je jongere zelf. Als ik me dan mag beperken tot advies met betrekking tot AI of sociale AI, dan denk ik dat het heel belangrijk is dat mensen tot op zekere hoogte proberen te begrijpen wat het is, hoe het werkt. Ik zie soms dat die vraag te weinig gesteld wordt. Ook omdat er zoveel mogelijkheden zijn, zijn heel veel mensen enthousiast. Wij zien het ook bij onze studenten die massaal GPT gebruiken. Niet per se altijd om te frauderen, maar ook als een soort hulp om een huiswerk te maken. Dat kun je niet tegenhouden, het gebeurt overal. Maar wees je bewust van hoe het werkt. Het feit dat de output soms gewoon helemaal niet klopt, dat er feitelijke onjuistheden in zo'n output staan. Het feit dat het ontzettend veel energie kost om die modellen te ontwikkelen, het feit dat er soms racistische of seksistische uitkomsten in staan waar niet een automatische check op zit. Dat zijn vragen die denk ik te weinig gesteld worden. Hoe wil je dat bereiken in een situatie waarin het voordeel heel groot is, het ontzettend makkelijk is om het toe te passen en dus ook heel verleidelijk om jezelf die vraag niet te stellen, daar niet over na te denken? Daar heb je gelijk in. Even terug verwijzen naar die benefits waar ik het over had, als het gewoon werkt, het lijkt te werken, het doet iets voor jou, dan gebruiken mensen het al gauw en dan zijn ze niet kritisch. Dat zit hem dan toch denk ik in onderwijs, in educatie. Wat mij betreft mag er ook op middelbare scholen, misschien op lage scholen al, veel meer aandacht worden besteed aan AI literacy. Het kritisch nadenken over de mogelijkheden van AI maar ook wel de keerzijdes. Dat is mooi. En nog iets persoonlijks misschien. Nou als ik het op mezelf betrek dan zie ik dat net zo goed binnen mijn eigen gezin. Ik heb twee kinderen die ook geïnteresseerd zijn in technologie, nog niet zo heel veel met AI doen maar ik ben er van overtuigd dat die vroeger of later ook daar meer mee in aanraking zullen gaan komen. Ze zitten op de middelbare school dus dan gaan ze ook vragen stellen van kan ik dit gebruiken om als ondersteuning bij mijn huiswerk. Dan zal ik de eerste moeten zijn die met hen het gesprek aangaat van denk goed na over wanneer je het inzet en hoe je het inzet. Ik denk dat ze daar allemaal beter van worden als we daar langer bij stil blijven staan. Dankjewel Tibor, fijn dat je er was. Graag gedaan. Bedankt voor het luisteren naar dit gesprek. Om deze podcast te steunen, like deze aflevering, abonneer je op mijn kanaal en klik op het belletje.