Prenumerera
Dela
Dela
Bädda in
I avsnitt 58 av Uppdrag Kunskap dyker Jonas och Bodil ner i vår komplicerade relation till artificiell intelligens.
Med utgångspunkt i en intervju med Yuval Harari diskuterar de rädslan för att AI ska ta över,
jämförelser med invandring och varför teknikfatalism är farlig.
De resonerar kring ansvar, makt och varför demokratiska samtal är vårt bästa skydd mot okontrollerad teknikutveckling. Samtalet rör sig också kring valrörelsen, vårdrobotar och varför vi ibland hellre litar på teknik än människor.
Ett tankeväckande avsnitt om hur vi kan ta kommandot över framtiden istället för att låta oss sköljas över av den.
Med utgångspunkt i en intervju med Yuval Harari diskuterar de rädslan för att AI ska ta över,
jämförelser med invandring och varför teknikfatalism är farlig.
De resonerar kring ansvar, makt och varför demokratiska samtal är vårt bästa skydd mot okontrollerad teknikutveckling. Samtalet rör sig också kring valrörelsen, vårdrobotar och varför vi ibland hellre litar på teknik än människor.
Ett tankeväckande avsnitt om hur vi kan ta kommandot över framtiden istället för att låta oss sköljas över av den.
Skapare och gäster
Vad är Uppdrag kunskap?
I denna podd träffas Bodil Jönsson och Jonas Fagerson och samtalar bla om uppdraget "Uppdrag Kunskap", boken "Fact up!" och sådant som hör därtill. "Uppdrag kunskap" vill medverka till ett samhälle där tilliten till kunskap åter blir en självklarhet. ”Uppdrag kunskap” vill väcka till liv ett ökat medvetande om själva poängen med kunskap – för nuets skull och för framtidens, för individens skull och för samhällets. Utan kunskap ingen demokrati.
Kära lyssnare, varmt välkomna till episod 58 av podcasten Uppdrag kunskap. Hej på er, Bodil.
Bodil:Hej, Jones.
Jonas F:58 sa jag och verkade självsäker, men jag tror faktiskt att det är så. Men den här räkningen har det ju gått roll I. Men vi säger att det är 58. Vad... Hur har du haft det?
Bodil:Jag, som alla 2:a, jag har ju fått känna in mig I hur det är att leva I ett land som har val. Ett utsträckt val. Har varit mycket räknade.
Jonas F:Ja. Utsträckt... Tänkte på det att man... Det det har man ju inte varit van vid tidigare att det har varit just utsträckt på det sättet. Eller så har man inte...
Jonas F:Man har vetat ungefär vad det ska bli liksom. Men de sista valen har ju varit lite märkliga på det sättet att det är så jämt.
Bodil:Och så blir jag lite konfunderad över att det finns så många som verkar tycka att det här är så kul, att det blir så spännande för att för att det är roligt att det är spännande. Jag tycker egentligen att ett att ett val är mycket viktigare än att det just ska vara spänningen på mållinjen Ja, det är är det Det det är det är ingen fotbollsmatch.
Jonas F:Nej, inget fotbolls-VM. Nej. Nej, det är ju nånting som vi ska som vi ska vara I 4 år. Och det ska ju påverka våra liv också, både högt och lågt. Ja.
Jonas F:Så blir det ju inte riktigt med fotbolls-VM, även om det gör ont när de förlorar just då.
Bodil:Jag är inte ens säker på att du vet att Lebour vann över trött hem.
Jonas F:Jo, det vet jag.
Bodil:Det vet du, ja
Jonas F:precis. Och och Isak fick spela några minuter?
Bodil:Ja, bara ett fåtal på slutet, ja. Ja.
Jonas F:Jo, ihop. Men det inte det är inte top of mind kanske på samma sätt som våran politiska framtid där I.
Bodil:Nej, inte det.
Jonas F:Nej, det är ju intressant. Det är ju det är ju lite sportkommentators känsla av... Alltså ett nörderi runt siffror och och statistik och nu kanske det är klart. Vi tror med 99.9 procents säkerhet att det är klart och så där.
Bodil:Och till och med SVT fick ju en hel del kritik för det var mycket som verkade som melodifestival I själva sanningen. Ja.
Jonas F:Ja, det är ju på ett annat sätt än här vad... Och det är klart att göra så många timmar tv när det inte händer så mycket och ingen vet och då huvudpersonerna inte är tillgängliga. Det är en utmaning. Men det är ju ett förminskande kanske också
Bodil:Ja.
Jonas F:Av det hela. Vi gjorde ju ett 1 avsnitt sist som blev lite... Vi fick en hel del reaktioner på. Det väckte känslor.
Bodil:Och
Jonas F:idag ska vi ju prata en del om känslor och vi ska prata om tillit till varandra och teknikens roll I våra liv. Men är det nån speciell reaktion du har fått som du tänker?
Bodil:Alltså jag tänker bland annat på... Vi hade ju med ett avsnitt där våra respektive AI-botar pratade med varandra. Och det var en lyssnare som ville berätta om, fullt av känsla var det I det, att hon kunde inte riktigt höra på. Hon blev så upprörd så hon måste skriva till oss för att rösterna var så monotona. Och jag kan inget annat där än att säga att, men vi ville inte...
Bodil:Ville inte att det här skulle vara våra egna röster som vi hade försökt lägga in för vi vill ju ha till stånd ett fåtal samtal och då ska de få tala på sitt AI-sätt och vi ska tala på vårt mänskliga sätt och det är lite viktigt att göra den distinktionen. Men jag kan ju förstå det. Alltså är man inställd på att det ska vara mänsklig diktion, harklingar, pauser, allt det som hör till det mänskliga, då är det det är det ju fruktansvärt att lyssna till en AI-bot. Jag är så van vid det så jag tror inte jag... Jag tror bara det är ett sätt för mig, ett av många, att veta att det inte är en människa jag pratar om och jag är oerhört medveten om det I alla de AI-sammanhang där jag vet vad jag gör.
Bodil:Sen vet jag ju att AI:n är med och spelar och låtsas att det är människa, utan att jag jag märker det, men jag tycker om när jag känner skillnaden.
Jonas F:Jag tänker att det också... Jag vet ju nu när man när man gör bilder till exempel med hjälp av AI och så där, så så läggs det en vattenstämpel på för att det ska bli spårbart vad du har för ursprung. Jag tänker att det är teknik som låtsas vara människa kan bli olycklig överlag. För det ställer så enormt höga krav på oss att vi ska bedöma och så där. Här är en skiljelinje som som...
Jonas F:Jag tänker de som jobbar med robotar och sånt där som man försöker att ge väldigt mycket mänsklig attribut, det är ju också lurigt. Det sändes ju en tv-serie för ett antal år sen som jag tror hette nånting på Westworld som bestod av av av botar, alltså robotar och människor. Där människor spelade robotar. Det var... Jag tycker det var ändå...
Jonas F:Där var det ju möjligt att särskilja med väldigt väldigt små attribut så spelade de robotar väldigt bra, men går det åt 2:a hållet? Men jag tänker att det blir krävande av oss I förlängningen om vi ska vara osäkra på
Bodil:Ja, och det spetsar ju också fenomenet mänskliga relationer. För väldigt ofta när människor möter människor så kan ju den ena parten önska sig att hon eller han skulle slippa allt det mänskliga som skulle blandas in I detta. Det finns till exempel de som mycket hellre skulle vilja en vårdrobot som kom hem till dem än att en livs levande människa. Men de vill inte ha det här inledande snacket om hej och hur är det och varför det. Och de vill inte heller hålla på och prata om sånt som de inte tycker är väsentligt utan de vill att nu ska du veta om, kära Robert, att så här är det hemma hos mig.
Bodil:Jag vill ha det på detta sättet. Nu kör vi det spåret och det är det som ligger I vår relation. Och den är ju då ganska mycket på den huvudpersonens villkor. Det blir den inte I en relation mellan en huvudperson och en vårdmänniska.
Jonas F:Nej. Nej, jag vet... Vis... Vi pratade mycket om välfärdsteknik och omsorgsteknik och det var en sån given förutsättning tror jag att det mänskliga är alltid bäst I de lägena. Att människan trumfar tekniken men när vi vi började granska det där och reflektera över det så konstaterade vi att vi måste ju också fråga en person om man vill att någon ska ha nyckel till ditt hem och göra 3 besök nattetid när du sover för att titta till dig.
Jonas F:Utan att väcka dig eller nånting. Om du vill... Eller om du hellre vill ha teknik som larmar en person om nånting är fel. Och då förutsettsatte man att att en person var mycket bättre för individen som behövde stödet. Men de flesta tyckte absolut inte det.
Jonas F:De var hellre övervakade och monitorerade utav tekniken på natten och kunde känna att den ytterdörren var låst och ingen främmande gjorde nånting här. Men att om de behövde det så kom det någon.
Bodil:Och det där är ju också det här att känna att man att man själv har makten. Du kan förenkla det. Vi behöver inte ta något så avancerad som nattkameran, utan man kan bara ta... Jag kan inte öppna dörren själv. Hur vill jag ha det?
Bodil:Vill jag att någon ska vara snäll och öppna dörren? Vill jag be någon att öppna dörren? Eller vill jag ha en dörröppnare? Ja precis. Och jag har jag har ställt den frågan så många gånger.
Bodil:Jag har ännu inte hittat någon som inte föredrar en dörröppnare. För det gör det gör en ju mer autonom på de enkla sakerna som man vill ska gälla för alla människor. Som att själv kunna öppna sin egen dörr. Ja. Nu får vi sätta igång med det vi skulle göra, Jonas.
Jonas F:Ja, men jag tycker det är en bra ingång för att vi pratar ju om vår relation till teknik och vad vi kan ha för relation och vad människor har fått för sig att det går att ha för relationer till teknik. Vi har ju bägge 2 lyssnat på på en intervju på The Economist med Harari som pratar om detta. Vad slog dig av den här intervjun? Vad vaknade det för tankar hos dig?
Bodil:Alltså det är ju det är ju så mycket så det kommer att fylla både denna och showen och många 2:a för att det kom upp allt möjligt. Jag... Om jag skulle blivit intervjuad där så skulle jag börjat från en helt annan ända. Jag skulle börjat med tiden, för här finns så många tidsperspektiv som ligger I den rädsla som florerar numera att AI ska ta över världen, att AI ska sopa mattan med alla levande människor inom 10 till 20 år. Och det är ett av de scenarier som förs fram.
Bodil:Och där man skulle kunna säga att det här är ju bara en uppmaning... Upprepning av millennieebuggen som var den att man trodde att datorerna skulle braka samman. Man trodde inte då att de skulle förgöra människorna men världen skulle misslyckas med det den ville göra. Det blev ingenting av millenniebuggen men det är klart att vi som var med då, vi kan inte låta bli att se att delar av masspsykosen kring vad AIn kan ställa till med, den liknar den masspsykos som fanns kring år 2000. Men ändå så är det ju nånting annat.
Bodil:Om jag hade fått lov att börja med tiden så skulle jag börja med att säga att vi kan inte gå in I den här teknikfatalismen som innebär att nu har vi satt igång nånting som vi inte kan stoppa. Kan man säga do till teknik så kan man också säga ando, men det beror på I vilket läge som man gör det. Och jag tycker ju att långt före det som vi började kalla för AI så hade vi låtit tekniken på sitt sätt styra och ställa med oss utifrån att vi var så fascinerade av den och vi utgick från nåt vis ifrån att det här kan man inte göra någonting åt. Detta trots att all teknik är artefakter. Så när vi pratar om artificiell intelligens så är det ett ärterfakt bland många artefakter som människan har skapat.
Bodil:Men den är ju gigantiskt omfattande och det gör ju att när jag skulle sätta in tidsascenalen här så skulle jag börja med att säga, vi måste ta små steg I detta. Det har ju kommit nu häromdagen, Kid's Act inuti inuti EU, där man ska försöka reglera först nu hur mycket av den moderna tekniken till och med före AI:n har påverkat och påverkar barn. Ta det som ett exempel att förr eller senare så kommer vi fram till lagstiftningar, politiska ställningstaganden och ännu djupare mänskliga ställningstaganden, hur vill vi ha det? Och det är för mig mycket viktigare att tala om det än att tala om vad AIn skulle kunna ställa till med om vi bara övergav den.
Jonas F:Men det finns ju... Du talade ju tidigare om det långsamma Europa.
Bodil:Mhm.
Jonas F:Att att att långsamhetens lov borde hyllas mer och så där. Men hur rimmar... Jag jag kan ju också känna att vi har varit aningslösa I I våran iver att ta till oss ny teknik, och då inte AI utan också den från smartphones, när vi började liksom få kontakt med människor I applikationer I I telefonen. Där telefonen spårade oss och och nu sitter vi och pratar om flera generationer egentligen av unga människor som har farit väldigt illa av tekniken. Nu är vi...
Jonas F:Reagerar vi inte lite långsamt med tanke på att teknikutvecklingen är så hög och till viss del autonom. Alltså nu pratar man om om nya... Ny teknik som utvecklar sig själv med hjälp av gammalt tidigare teknik. Så att det drivs ju också I ett tempo som som människan verkar svårt att bromsa.
Bodil:Ja, men det gör det väl bara ännu viktigare att säga att då börjar vi väl nu då. Alltså vi... Det är klart att vi har varit väldigt omogna I detta. Och tänker du på tidigare teknikgenombrott, ånglokan, dragandet av järnvägsrälsarna, telefonledningar, elledningar, allt sånt har också samtidens människor tyckt... Gick väldigt fort.
Bodil:Men men jag säger ju, men snälla vara, det tog ju väldigt tid för det var ju beroende av det materiella. Man skulle dra räls, man skulle dra linor. AIn har ju nu vält in utan att vi behöver en enda ny pryl. Och den har dessutom blivit personlig, relativt var och en av oss på nåt sätt via algoritmer som vi inte har inblick I. Harari tar I intervjun upp att det här klarade ju inte ens Hitler.
Bodil:Alltså, AI är ju förrädisk på att vara så personlig så att den kan nå fram.
Jonas F:Ja, vi har ju... Jag har ju... Han är ju skrämmande. Många människor som har en till och med en känslomässig relation, alltså som som har... Som på nåt vis ersätter mellanmänskliga relationer, som vi är vana att se det.
Bodil:Det finns ju fantastiska dokumentationer av dem som har en AI-brott som bojfren till exempel. Ja. Och ja, på ett sätt så är det ju inget konstigt I det. Den här boyfränder, den har undan för undan byggt upp en kännedom om den människan som den växelverkar med. Och den kan ju uttrycka sig som om den har känslor.
Bodil:Och den kan ha ansträngt sig att ta rätt på så mycket om den berörda människan som kanske en mänsklig motpart aldrig kan göra, vad vet jag. Den den har ju en förmåga att samla på sig oerhört mycket information. Och till sist så kan man då falla pladask för det här och så kan... Måste man väl då, tror jag... Jag har inte nån läggning åt det hållet.
Bodil:Så jag har ännu inte tyckt att jag har några känslor för nån AI-bot. Jag kan beundra dem, fast man vet vad de kan göra, men inte några 2:a känslor. Men jag kan få såna här roliga varianter att jag tänker att ja, men kan du tänka dig omvändningen att en ajbot blir förälskad I en livs levande människa? Och det kan jag inte eftersom det är så grundmura till mig att AIn inte är baserad på känslor. Och där någonstans tycker jag vi ska försöka hålla oss det mesta av det här programmet.
Bodil:Vi kan göra fler poddar på detta temat men det är ju ändå det som är det viktiga att vi människor vi har tankar och vi har känslor och vi är så oerhört duktiga på att prata om våra tankar vilket också AIn är. Vi är inte alls duktiga att prata om våra känslor. Men det är känt upp till högsta forskningsnivå hos Kaneman med flera, att de flesta beslut som vi tar de har ett stort element av känslor inblandat. Och vi kan ta beslut blixtsnabbt, sen kan vi hålla på dagar och månader med att berätta om den intellektuella bakgrunden till ett beslut. Men I stunden var det baserat på känsla, det vill säga, känslorna tenderar att komma före tankarna.
Bodil:Och det där delar vi inte alls med AI-bottarna, utan när vi pratar om artificiell intelligens, och jag pratar också om den mänskliga intelligensen som jag kallar för naturlig intelligens för att markera att vi har haft den längst. Vi har haft den mycket längre än vad AI:n har haft sin. Men bägge 2 handlar om intelligenser. Men när man ska se på vad vi vill ha AI:n till och vad vi kan... Alltså den har ju så fantastiska möjligheter att göra oss mer lyckliga.
Bodil:Betyder inte att den blir lycklig, men vi kan bli mer lyckliga om vi till exempel slapp vissa farsoter, om vi kom till rätta med klimatet på nåt annat sätt. Och det är ju på det sättet ett så potent hjälpmedel bara vi inte börjar blanda in att vi låtsas att aen har ett eget liv. För aen har inget liv. Men vi måste ju då också få in några tidsskalor som är lite mer mänskliga. Och du har ju alldeles rätt I...
Bodil:Det var där du började med din fråga, att I Sverige så har vi varit så stolta över att vi är såna tidiga användare av den allra senaste tekniken och det är det som gör oss så väldigt framgångsrika på alla möjliga sätt. Ja, det är väl inget fel säger jag på att vara tidiga användare men vi måste ju under tiden vi är tidiga användare försöka lägga mänskliga aspekter på det här. Vad vill vi Ja,
Jonas F:och det är ju svårt, det är ju en... Jag tänker att det är svårt och det är krävande att ta tid, men det måste ju göras hela tiden. Jag tänker den strategin man hade runt tilliten till persondatorn när man gick administrativ databehandling, ADB-kurser I tid och otyd. Absolut. Med ett enda syfte, det var att ta bort rädslorna för den här märkliga maskinen som hade hamnat I våra hem.
Bodil:Och då kunde vi se den. Nu kan vi inte se den. Nej. Men men alltså då som nu... Jag vill inte påstå att man då hade så mycket respekt för människan, utan man tänkte människan måste läras upp till att vilja hantera detta åverkan.
Bodil:Men det som krävs nu det är ju att vi själva, varenda en och framförallt vi tillsammans har en respekt för att vi har nån inbyggd tid I oss. Vi har våra hjärtslag, vi har våra aktuella val vart 4:e år. Det är väldigt långsamma system och vi måste av självbevarelsedrift se till att vi har tid att fatta vad vi håller på med.
Jonas F:Du
Bodil:och jag vi har ju oerhört roligt med AI men det betyder, åtminstone inte från min sida, jag tror inte från din heller, att vi inte då och då också anar oss till, oj så detta kan missbrukas. Vem äger det här till exempel? Vem äger AI? Och ännu värre I Argentina när man tänker låta AI:n bulle äga sina... Sitt...
Bodil:Sitt eget företag och agera tillsammans med människor som ägare. Det är alldeles sjukt att på det sättet upphöja AI till att vara en juridisk person. Men det pågår just nu.
Jonas F:Ja.
Bodil:För att Argentina liksom 2:a nationer, det kommer komma tror jag mycket mer sånt. De vill ju haka på det här snabbt. Och hur kan du haka på det tillräckligt snabbt? Jo, se till att det ska inte finnas någon mänsklig lagstiftning överhuvudtaget kring det här. Där borde ju Europa igen visa sitt sätt att vara lite långsammare.
Jonas F:Jag tänker att det finns ju så många nivåer av det här med ansvarsfrågan. Dels så är det en 1 teknik som är kanske för 1:a gången på riktigt individuell. Alltså helt utformad utifrån dig som person och som dessutom lär sig och följer med I din livsutveckling och så där. Där har man ju som person ett ansvar. Men det är ju också på alla nivåer upp till till samhällssystemets ansvar och våra lagar och regler.
Jonas F:Hur ska man utkräva ansvar? Han har ju en diskussion där om om det här med att det går ju inte att... Argentina är ju egentligen väldigt bra exempel. För där, om de gör fel, om man bryter en lag, vem straffar man? Och hur straffar man någon som inte har känslor och som inte känner eller kan känna sig berövade eller känna sig som en förlorare.
Jonas F:För det klarar ju inte AI. Den förlorar ju aldrig. Det går ju inte om man är
Bodil:Nej, alltså den kan inte den kan inte lida. Den kan möjligen ångra sig om den intellektuellt kommer på att den har gjort fel. Så är det klart att den kan till sig själv säga an do. Men alltså jag kan inte komma ifrån att a in är artificiell, den är av människan skapad. Och det är klart att den går att styra, men alltså, jag vet inte hur jag ska se på det här.
Bodil:Nej, jag jag är också lite rädd för det här perspektivet på 10 år. För om inte vi människor har blivit mer medvetna om oss själva och vad... Vilket ansvar som är vårt inom loppet av 10 år, då kan det ju bli riktigt farligt. Alltså, för då har vi ju bara fortsatt den agentinska vägen till att upp höja AI:n till nåt som den aldrig var tänkt som. Det var den ju inte.
Bodil:De neurala nätverken var inte tänkta för detta.
Jonas F:Nej. Och det är väl... Om man sätter den här utvecklingen I parti... Eller III kontrast till klimat... Klimatets utveckling och och hur vi människor agerar på på det.
Jonas F:Så är det klart att det finns kanske anledning att vara höja ett varningens finger och och bromsa upp. Stanna till och reflektera. Vi är ju inte så duktiga kollektivt globalt att kanske ta I de här frågorna just nu.
Bodil:Nej, men om du började backa till ansvarsvarianten så kan åtminstone jag tänka att om det är så, vilket det finns mycket som tyder på, att klimatet har utvecklats så långt så att det blir effekter som mänskligheten far illa av. Och så ser vi att för att vi ska kunna komma åt detta så kommer det att krävas så kallat för lång tid. Det vill säga vi kan aldrig hinna ifatt det här problemsberget som vi har skapat oss. Då är det ju lite fantastiskt att tänka att vi kan ju ha det inom räckhåll tack vare att vi har utvecklat en artificiell intelligens. Alltså det det är ju det är ju så stort bara vi vidhåller att vi måste säga att det är vi som kan fatta beslut och göra utrymme för att om man ska fatta beslut tillsammans, många människor tillsammans, så tar det lång tid.
Bodil:Och det är inte säkert att det här ska ses som förlorat för att vi inte kan hantera det globalt. Jag tror som du vet inte så hemskt mycket på att vi är så duktiga än så länge på att hantera nåt globalt. Utan det finns de som tror på att man måste leka fiender mot fiender med krig som metoden. Och det finns de som tror på att vi måste vara konviviala, försöka agera vän mot vän och ha fred som är underförstådd förutsättning. Om vi nu håller oss till fredssidan och vän-vän-sidan och säger att det här är vår win-win-variant, Då får vi ju hantera aIn efter det både tidsmässigt och hur vi hur vi tänker på den.
Bodil:Alltså, ska jag kunna vara ännu bättre vän till dig än vad jag redan är så kan vi ha stor glädje av att leka a I. Men det gäller ju också om jag ska vara vän till det samhället jag lever I eller till en annan människa, till exempel inuti Europa. Hur förstärker jag vänskapen? Hur förstärker jag fredsviljan? Och det gör jag ju inte genom att säga att då kommer Kina bara att rusa före oss.
Bodil:Ja men låt Kina rusa före oss då om det nu skulle vara det som var grejen och jag inte tror att vi kan rå på det. Men vi måste ju bygga utifrån det vi tror på. Du ler så välvilligt. Vet du, drar jag på för mycket nu?
Jonas F:Nej, nej, nej. Jag tänkte också, det var när jag lyssnade på intervjun så tänkte jag att vad har vi, vad har vi att lära av de som har gått före? Finns det några sådana? Och då är det ju lite sorgligt tycker jag att att mycket av den tekniken som vi får tillgång till, den kommer ju från västvärlden naturligtvis. Vi vet väldigt lite om Kina till exempel, som har gjort enorma förändringar I samhället med hjälp av den här tekniken under lång tid.
Jonas F:Jag tänkte man... När de införde social credit så där övervakningssamhället med alla kameror som kunde förstå vad folk läste för böcker och vad de handlade och och hur de betedde sig I samhället. Så var man ju väldigt dystopisk till det. Jag har faktiskt ingen aning om hur det har gått I Kina. Men de borde vi kunna lära oss av och dra lärdom av vad som har fungerat och inte fungerat.
Bodil:Alltså det där är lite lite spännande, för det du säger då med viss fasa, det är ju individualismens bild av vad som har skett I Kina. Men de gör... Tänker på människor I ett samhälle. Om bara samhället inte vill mig nåt ont, om vi har vårt samhälle för att vi har skapat det tillsammans, vi vill samhället väl, samhället vill oss väl, vad har jag då emot att samhället vet mer om mig? Varför skulle...
Bodil:Vad skulle det vara för fel på övervakningssamhället? Vi kallade det nyss för informationssamhället. Alltså man kan ta ett 1 neutralt ord va, men man kan, vad skulle välvillige-samhället, den som ville min hälsa väldigt väl, borde väl skaffa på sig alla möjliga hälsodata kring mig för att bättre kunna hjälpa mig. Vad har jag bara jag förlorar på det? Om jag tror...
Bodil:Ungefär som föräldrar och barn, om jag tror dem om nåt gott. Sen finns det ju fasansfulla historiska exempel på vad samhällen kan göra genom att hetsa människa mot människa utifrån hur de har övervakat dem.
Jonas F:Nej men jag tror det finns anledning att försöka och vidga våra perspektiv. Vi är ju... Nu är vi ju I en sån situation att vi... Att Kina är ju förfärligt och och västvärlden är är bra. Och och vi lever då inte I ett liknande samhälle som Kina.
Jonas F:Men börjar man fundera lite på vad vi har gett oss in I I västvärlden.
Bodil:Ja.
Jonas F:Vad vi har upplåtit åt 4 5 multi-trilionär miljardärsgubbar som då äger all data I stort sett. Utan att veta om det, hur mycket har vi gett dem av oss själva? Hur mycket övervakas vi egentligen och vad vet de om oss och vad använder de den datan till? Sociala medier, appar, devices, telefoner, datorer, nätverk. Frågan är om det är någon som har jämfört hur övervakade vi är I relation till till människor som bor I Kina.
Jonas F:Fast vi tror att vi lever I ett väldigt fritt samhälle där vi har den här friheten. Och jag tänker på varje gång jag går in och gör mina... När jag gör bankens jobb, som som tidigare banken sköt åt mig, det vill säga har koll på mina pengar och överföringar räntor och grejer och sånt där. Så gör jag ju allting själv nu. Men det är ju väldigt ihopbyggt alla system.
Jonas F:Vet jag riktigt, inte för att skrämmas utan för att bara visa på skillnaden mellan kulturer och att vi nu tror att Kina är... Ont. Det är liksom den synen. Man undrar, det det måste ju finnas mycket att lära sig av vad de har gjort tänker jag. Det var väl där det började, att det finns nån som har gått före.
Bodil:Så egentligen så skulle vi ju backa... Vi ska se hur långt vi klarar av backa. Jag minns att när när Google kom till och blev den dominerande sökmotorn, Det var ju några stycken Altavista och lite 2:a som som fanns där ett tag och som var lite spännande vem som skulle vinna. För redan då Ja, precis. Redan då så var det ju så att alla vi som var med, vi trodde ju på att någon skulle vinna, vilket ju är konstigt.
Bodil:Varför trodde vi på det? Men men men nu blev det Google och googla blev ju ett inhemskt svenskt verb som man vet vad det betyder att googla. Men jag har funderat en hel del på hur mycket... Alltså Google har ju varit och är så praktiskt. Men hur mycket vet Google och mig genom vad jag har frågat.
Bodil:Och en del av mina frågor har ju varit allmängiltiga, somliga är personliga åt 2:a är ju väldigt privata. Det är inte säkert att jag skulle vilja att nån annan människa hade fått tillgång till alla de frågorna som jag har ställt via Google. Jag tror inte jag tror inte jag kan hitta på nån människa som jag skulle vilja ge de frågorna mer än på skoj så här. Hade varit oöverskådligt material, men kanske Google är det ju inte oöverskådligt, utan den kan ju göra en persona av detta. Och kanske används det redan mycket Alltså inte bara till reklam för varor utan på nåt annat sätt som jag inte har inblick I.
Bodil:Det samhället det samhället som kunde köpa Googles informationer rupet, säg Sverige, så vi inte gör det abstrakt. Sverige köper upp all Google information om svenskarna. Det hade varit konstigt. Och vad skulle staten kunna ha det till?
Jonas F:Ja, för den här den här nya tekniken gör det ju möjligt att ha den till väldigt mycket. Ja. För det vi har haft svårt att hantera innan det är ju de här individuella mängderna med data på individuell nivå som nu AI hanterar alldeles utmärkt. Men ja, ja, det... Ett sånt här bild som sitter fast hos mig, det var ett skifte när vi var på en föreläsning en kvinna som hade startat upp ett hyrbilsföretag I USA som hette Zip Car.
Jonas F:Och då berättade hon för mig att deras affärsmodell gick inte alls ut på att hyra ut bilar. Det var bara ett verktyg, utan det var all den datan de kunde samla om hyrbilstagaren. För den datan var då mycket mer pengar I än själva biluthyrningen, så den fick... Man behövde bara göra folk nöjda och ligga rätt prismässigt. Så plötsligt så visste de ju vart de åkte, vad de gjorde dit de åkte, vad de bokade in sig, vad de hade för rörelsemönster, mängder med data.
Jonas F:Om de hade husdjur, om de hade hur många de var som skulle köra. Alltså all den här datan sålde de sen och gjorde stora pengar på.
Bodil:Så
Jonas F:jag tänker när man funderar på ansvaret, så just I relation till Kina så tror jag ju att vi kanske inte lika öppet är ikapp men jag tror att vi är liksom I händerna på på nån form utav makt ändå. Utan att bli konspiratoriskt så tror jag att det finns kommersiella företag som har ganska stor makt över vad vi får se och vad vi får göra och vad vi får veta och vad vi kan ta reda på och så där.
Bodil:Så
Jonas F:att det är så det så Men vad finns
Bodil:nästa skarpa linje efter detta, den går väl vid om man föreställer sig att AIn skulle kunna ta ansvar. Och då ska vi hitta på vilka bestraffningsmedel skulle vi då ha?
Jonas F:Om den inte tar det?
Bodil:Ja, för då... Men då har vi ju absolut ingen koll. Alltså, det är väldigt synliggörande för vår relation till AIn, det är den som du inte kan utkräva ansvar av. Den kan du ju inte heller vara på nåt sätt vara delaktig till. Där finns ju ingenting.
Bodil:Utan människor kan straffa människor på olika sätt och själva kan vi straffa oss på olika sätt men AI:n spelar ju inte på den på den planhalvan. Och det är bara om vi... Alltså om vi inbillar oss, om vi gör ett väsen av AI, då kan den spela där. För då kan far föreställning om AI kan leda till oanade, vidriga effekter. Men AI:n själv är ansvarslös och ska få bli ansvarslös.
Jonas F:Ja, det är teknik.
Bodil:Det är teknik precis. Artificiell artificiell heter det ju va? Man skulle lika gärna kunna säga att det är en maskin. Alltså för att sila staket lite grann. Jag tycker inte det är så dumt att se artificiell intelligens eller kunna säga artificiell tankar eller nånting annat.
Bodil:För att det är bra att det finns med en markering av det artificiella som I artefakt.
Jonas F:Nej, för det är diskussionen som når oss eller debatten som pågår, det som når mig I alla fall handlar ju om väldigt mycket, dels de som är ansvariga för de tjänsterna och den... Maskinerna som finns tillgängliga för oss. När de ansvariga säger att vi måste bromsa, vi kommer... Den kan ta död på mänskligheten inom 10 år och så där. Det får ju inte mig att kännas mig direkt trygg med de ansvariga för maskinen eller maskinen.
Bodil:Nej, och du var inte trygg med dem innan heller och det är väldigt bra att vi inte är trygga med dem. För det är ju också en konstig fördelning av makt och ansvar I världen, att de sitter på en sån oerhörd makt. Så bara därför skulle man ju egentligen springa till skogs... Och avsluta sig all möjlig teknik för att om vi trodde att de I grunden skulle tjäna på att vara onda, då hade världen varit äkta livsfarlig. Sen är ju de också...
Bodil:Jag tyckte jag, Harari hade en bra... Ett bra exempel när han sa att, jo då, jag kan tänka mig en ledare för ett AI-företag som är hämningslöst intresserad av den monetära framgången så att han tillåter sig vilka medel som helst och överlåter allt det så kallade ansvarat AI. Men vederbörande är ju kanske också pappa. Och som pappa så kommer han att fundera lite över vilka effekter detta kan ha. Nån sån där dubbel variant, det finns ju inte på den artificiella sidan.
Bodil:Den är artificiell.
Jonas F:Ja. Sen är det ju det är ju mycket det är ju mycket att sätta tilliten till en person och inte till ett rigoröst system. Jag tänker också, man tar också upp Elon Musk som som ett exempel som en person som vissa inte tror har... Senast nu hans ex fru, hon tycker ju kanske inte att han... Att han tror att han lever I en verklighet, utan att han lever I en artificiell verklighet.
Jonas F:Att hans beslut inte påverkar människor, att det bara är då på... Som har förlorat sig kanske då, I sin nyfikenhet och sin framdrift. Det är ju en... Där önskar man kanske att det fanns ett 1 annat system bakom som höll emot att maktkoncentrationen inte var så så enorm. Sen
Bodil:finns det ju en tröst I detta också och det är att om man tänkte... Kunde tänka sig att den artificiella intelligensen kunde vända sig mot något så skulle den vara makarle duktig på att göra detta på en... Där det finns en människa, en ägare, en supernation, en mask om du så vill. Men det är ju oerhört mycket svårare att göra det I en demokrati. Det vill säga på det sättet så borde och...
Bodil:Inte bara borde, utan så tycker jag är en demokratisk användning av AI, det är mycket tryggare än vad det är I en I ett monosamhälle där det finns en som bestämmer. För där kan AI:n rikta om sig. Det kan den inte när vi är många.
Jonas F:Nej. Och det är väl kanske där våra samtal och resonemang och våra... Våran beslutsvilja borde ligga, att det handlar mer om det politiska samtalet, om vad vi vill ha för framtid än att än att fundera över om vi om vi ska fortsätta vara I händerna på teknik. Jag skulle vilja skulle vilja vilja att ta kommandot över utvecklingen och vara en del I den.
Bodil:Jag skulle vilja markera där och säga att ja, det är den demokratiska viljan. Alltså det är det demokratiska sam... Samtalet. Det är det det är där någonstans som styrkan kan ligga. För det går ju att politisera det här också.
Bodil:Ja. Men det är inte riktigt men det är inte riktigt detsamma, utan den det demokratiska samhället är det demokratiska sättet att vara och det är då per definition långsamt. Det är inte... Det är till och med långsamt ju I förhållande till individen. Får inte tala om hur långsamt det är I förhållande till den artificiella intelligensen.
Bodil:Men låt då oss som människor stå där mittemellan och säga att det måste få lov att ta lite tid. Och jag skulle ju vilja se många fler som lite mer medvetet använder sig av AI för att komma underfund med vad kan vara bra för mig och vad är dåligt för mig och så. Så det är inte det här att ta ställning till om vi ska dra ur sladden till omvärlden eller om vi ska faktiskt vara med och spela på världsplanen, utan det är att våga stå för att det är ett hjälpmedel. Alltså på gränsen till att säga att du kan se på det ungefär som på en blindkäpp. Vad är det som blindkäppen till för en människa som inte kan se?
Bodil:Jo, det är att kunna känna sig för lite längre bort. Titta på AI:n på det sättet. Den kan hjälpa dig att kunna se lite längre bort. Den kan kanske till och med hjälpa mänskligheten med klimatet, Men men det är också allt den kan. Ingrid Sjöstrand hon skrev en gång om en människa, hon är duktig, hon kan allt, men det är också allt hon kan.
Bodil:Och jag travesterar det ibland och säger att tekniken är duktig. Den kan allt, men det är också allt den kan. Den det kan inte vara nåt annat än teknisk. Men det är den bra på.
Jonas F:Ja. Jag vet inte ens om vi ska gå in på det men han... Härari gör ju också en 1 jämförelse I I den här med immigranter som anlände till till oss. Vad fastnade du för I den bilden? Ska vi ta
Bodil:Det kan vi det kan vi göra för att... Alltså där han ringade in 3 olika sätt som man kunde... Man kan urskilja människor som är rädda för främlingar. Det finns till och med I uttrycket från förr I världen när vi hade gäster så såg man att vi hade främmande. Alltså det var ju så som man såg på varandra.
Bodil:Vad kan det vara för farligt med det främmande? Jo, man skulle kunna tänka sig för det 1:a att de tar våra jobb. Man skulle kunna tänka sig att de skulle kunna ändra vår kultur. Och så skulle man kunna tänka sig att de politiskt på något sätt var illojala mot såna tankar som man själv har. De 3 sakerna.
Bodil:Och det är ju spännande då att tänka på AI på samma sätt. Oj så mycket jobb den kan ta. Oj så mycket det kan ändra vår kultur. Oj så mycket det kan vara inte ens illojalt mot våra värden för den har ju inga värden utan all ojalt. Alltså, man inte vet vad lojalitet är för någonting.
Bodil:Tittar man på AI på det sättet så är ju den största invasionen som har ägt rum I mänsklighetens historia. Och den sitter vi här och säger att vi kan inte göra nånting åt. Du och jag säger ju inte det förstås, men men resonemangen så som de löper I kulturen. Så jag skulle ju vilja med stor glädje gå ut och vara härförare för en demokratisk glädje I att reda ut vad vill vi här I Sverige ha AI till. Vi behöver inte fråga världen, tar råd som det är.
Bodil:Vi kan börja med att fråga varandra.
Jonas F:Som kommer den här uppgivenheten som är att tekniken sköljer över oss.
Bodil:Ja, absolut.
Jonas F:Att vi kan hålla I smakerna och vara våra egna grindvakter och bestämma vad som ska komma in och
Bodil:Men då gäller det då gäller det ju på nåt sätt också att att inte för mänskliga orgeln, alltså inte se den som en vän och inte som en fiende. En hund är bra på... En bra på att vara hund. En teknik är bra på att vara teknik.
Jonas F:Och jag ser också ljusglimtar som jag inte hade sett innan. Jag tyckte ju att det var fint att open AI är de här open source där... Som var väldigt transparenta, där det var mänsklighetens teknik inledningsvis, att utforska och se vad man kunde ha den till. Att det sen blev inlåst I några få aktörer. Men jag ser en utveckling och hör om en utveckling där där man äger sin egen modell.
Jonas F:Och det blir bättre och bättre hela tiden och det har man på sin gamla teknik. Man på gamla datorn kan rymma en liten modell som kan hjälpa en som inte har kontakt med 2:a nätverk och så där, utan faktiskt bara är din. Där någonstans tror jag det finns en 1 som som individ en spännande resa framåt. Okej. Där vi kan få hjälp med saker som vi tycker att vi vill bli avlastade med för att kanske få ännu mer tid till det mänskliga, det som...
Jonas F:Ja, och som vi äger själva. Ja.
Bodil:Och det, alltså det tror jag, det löser sig inte av sig själv men jag tror också att delar av en sån utveckling kan vi nog redan skönja. Det som är lite svårare och som jag har tänkt på mycket under den svenska valrörelsen, det är... Men samhället då. Och det som har varit svårt det har varit att det är som att AI har inte funnits med I det man har ens tagit upp det som samtal. Och ändå så tror jag att det är där någonstans som de viktigaste demokratiska besluten kommer att tas under den kommande mandatperioden.
Bodil:Så nära är det att vi måste bestämma oss, inte bara du och jag utan också samhället. Hur ska vi ha det I Sverige med detta?
Jonas F:Och för att binda ihop det med med vad du och jag pysslar med så mycket, det har ju med tilliten till kunskap och att det finns sanningar, att det finns fakta som underlag för de besluten som ska tas. Där tänker jag att det sträcker sig mycket längre bak än AI:n Och där vi nu har vaknat till för att det finns... Påverkar människor som vill slå mynt av att vi har val I Sverige och att man skapar massa innehåll och lägger ut för att påverka oss I en viss riktning. Det har ju inledningsvis ingenting med den nya tekniken nu, utan det ju gammal teknik. Men det har också tagit tid för oss att reagera på hur sociala medier till exempel påverkar våran relation till varandra och relation till det gemensamma.
Jonas F:Där tror jag det är... Finns all anledning att ha fokus på det kommande år om vi ska kunna behålla det sättet som vi lever tillsammans I en demokrati.
Bodil:Sen är nu EU häromdagen instiftade kids act så behövs det på detta område nåt adult act. Alltså vem är nu de vuxna I rummet? Ja, det måste ju vara vi själva som får se till att vi är med och skapar såna samhälleliga lagar. Där... Som får växa fram för vi kan ju inte bara säga att nu ska vi fatta beslut imorgon.
Bodil:Vi har inte övat oss på att fatta beslut som med lagens hjälp styr upp AI:n. Men vi kan göra det.
Jonas F:Jag tror också att kunskap om vad det är att kunna vara delaktig I och ha och ha resonemang, både som individ men också ute I folk... Större folkgrupper och I demokratins olika institutioner. Du skriver ju här att vi behöver provtänka och provreglera.
Bodil:Precis.
Jonas F:Att våran lag uppkom inte ur intet. Det gjorde inte FNs heller världsdekret. Nej. Så att tänker jag som... Ja.
Bodil:Det finns ju en förlaga egentligen till Kides Act som är en delmängd och det är FNs barnkonvention som styr upp det som man menar ska råda I världen för barn. Och sen har man då ur denna brutit fram en liten del och sagt att barn under 15 år ska inte behöva fastna I de sociala mediernas träsk. Det var aldrig tänkt för dem när det kom till och det är de som har blivit de största användarna och det är de som har varit mest illa. På motsvarande sätt kan vi väl försöka tänka på allt annat.
Jonas F:Ja, och jag tänker på den gamla ADB-utbildningen som man gick där I 8:e klass, att det handlar ju om folkbildning och kunskap om, för att kunna vara delaktig och kunna nästa gång gå och rösta på lite 2:a grunder när det är dags. Vilka tror jag bäst kan hantera den här utvecklingen och vilka har jag tillit till när det gäller det gemensamma? Ja, här är här... Det här är ju ingenting som vi löser på 55 minuter, Bodil.
Bodil:Nej, och det är inte det som en podd är till för heller, men det är det är viktigt att samtala om det. Så när vi har varit så här, kasta tankar fram och tillbaka så är det det som också ingår I provtänkandet. Vi har läst på vi har läst på, Jonas, både du och jag. Du har gjort väldigt mycket mer AI-mässigt än vad jag har gjort, men att I görandet också reflektera stort och smått, större och mindre än det man själv håller på med, det jag tror nästan det är en förutsättning för att det ska komma till såna här samtal. Det är att man har lagt lite mer av sin tid på det som man har hunnit tänka.
Jonas F:Ja, jag tänker att jag brottas med att jag hela tiden ska påminna min AI om att att den inte är människa. Att jag inte vill att den ska vara människa I relation till mig. Jag vill att den ska vara en maskin, att den ska uttrycka sig på det sättet. Så att inte jag luras att tro att vi har nån slags relation med varandra.
Bodil:Och du sa ju om dagen att den hade sagt att det här tänkte den inte göra?
Jonas F:Nej, för jag hade inte diskussion om när jag försökte få den att göra nånting som den inte höll med om och den höll I. Men... För jag kan också förstå att det det är ett gränsland där, speciellt som vi kanske kommer I... Vi lever I en tid där vi är lite trötta på på saker och ting. Jag kan förstå att människor fastnar I det.
Jonas F:Och får människor att tro att att man kanske har besvarade känslor på 2:a sidan. Vilket man bevisat inte har. Så att ja, vi har att ta I. Vi pratade ju en del om tillit och tillit till varandra och tillit tillit I tekniken. Och jag har valt ett citat från en bok som du skrev tillsammans med Åke Åkesson.
Jonas F:Och den hette, rätta mig nu, tid för tillit och trygghet.
Bodil:Absolut.
Jonas F:Ja. Jag tycker att det blir en bra avslutning. Och sen så får man ju... Vi är ju jätteglada för alla reaktioner som har kommit och vi svarar ju naturligtvis på de som... Till de som hör av sig och och för gärna samtalet vidare med er som hör av...
Jonas F:Ser till... Hör av er till oss. Är det nånting annat som vi borde ta upp, Bodil?
Bodil:Nej, nu orkar vi inte mer.
Jonas F:Det är vi klara för idag.
Bodil:Vi är ju ändå, inte bara inte bara människor, utan vi är ju ändå människor.
Jonas F:Vi vill ju säga tack till er som har lyssnat naturligtvis och tack för att ni följer oss och tack för att ni hör av er. Bodil, du har ju valt låt idag och där finns en textrad som som som jag tror både du och jag fastnade för. You can't heav one without detather.
Bodil:En
Jonas F:väldigt känd låt. Love and Marriage av Frank Sinatra. Och citatet lyder: Tillit är något personligt och ligger just I relationen till en annan människa. En trevlig helg på dig.
Bodil:Detsamma.