Abonneren
Delen
Delen
Embedden
AI Wereld Vandaag houdt je dagelijks op de hoogte van het belangrijkste nieuws over kunstmatige intelligentie.
Van OpenAI en ChatGPT tot Google, Microsoft, Claude en de nieuwste AI-tools. Je hoort wat er gebeurt in de wereld van AI, welke ontwikkelingen ertoe doen en wat ze betekenen voor jou.
Kort, helder en toegankelijk. Zonder onnodige hype of ingewikkeld jargon. Ideaal om tijdens je ontbijt, onderweg of tussendoor bij te blijven.
AI Wereld Vandaag is een podcast van AIWereld.nl, dé Nederlandse website over kunstmatige intelligentie.
Dit is AI Wereld Vandaag
Je geeft een AI-assistent toegang tot je bankrekening om je geldzaken te regelen. Maar weet je bank dan nog welke opdrachten echt van jou komen? Grote Amerikaanse banken blokkeren inmiddels externe AI-assistenten die namens klanten inloggen en handelingen uitvoeren. Dat meldt Reuters op basis van ingewijden.
Het gaat hier niet automatisch om hackers die een wachtwoord hebben gestolen. Klanten geven zulke software soms zelf hun inloggegevens. Bijvoorbeeld om hun uitgaven te ordenen. Alleen kan een AI-agent meer doen dan een overzicht maken. Zo'n programma kan websites bedienen en zelfstandig meerdere stappen uitvoeren. En de bank kan niet zomaar controleren of iedere stap ook jouw bedoeling was.
Wells Fargo maakt daarom nieuwe afspraken bekend, die op vierentwintig november ingaan. Verzoeken van een externe AI-assistent kunnen dan worden behandeld alsof de klant ze zelf indient. De bank houdt bovendien het recht om bepaalde hulpmiddelen te blokkeren. Ook JPMorgan zegt niet zomaar iedere externe agent toe te laten vanwege de risico's voor klanten.
Hoeveel mensen door ongewenste handelingen daadwerkelijk geld hebben verloren, is niet duidelijk. Een golf aan bewezen bankroven kunnen we hier dus niet van maken. Wel ontstaat een praktisch probleem: toestemming om naar je uitgaven te kijken, is iets anders dan toestemming om geld over te boeken.
Dat is ook voor Nederlandse gebruikers relevant. Niet omdat deze Amerikaanse voorwaarden hier automatisch gelden, maar omdat steeds meer assistenten aanbieden om taken van je over te nemen. De nuttigste vraag is dan niet alleen wat zo'n assistent kan, maar vooral wat hij namens jou mag.
In een fabriek in China krijgt dat zelfstandig werken een heel tastbare vorm. Daar helpen mensachtige robots onderdelen bouwen voor andere robots.
Het Duitse industriebedrijf Schaeffler opende deze week een nieuwe fabriek in Taicang. Volgens het bedrijf werken zes robots samen aan vijf werkstations. Ze sorteren onderdelen, zetten ze in elkaar en helpen bij het controleren en verpakken. Het gaat onder meer om de aandrijvingen die de gewrichten van andere robots laten bewegen.
Dit is dus geen machine die op eigen initiatief een complete kopie van zichzelf bouwt. Het zijn afgebakende productietaken in een door mensen ingerichte fabriek. De locatie wordt ook gebruikt om robots te trainen en hun prestaties te meten.
Vandaag kondigde Schaeffler daarnaast een samenwerking aan met het Duitse Wandelbots. Hun doel: robotwerk eerst digitaal testen en een werkende toepassing daarna gemakkelijker naar andere fabrieken overbrengen. Een taak die op de ene productielijn lukt, moet zo minder maatwerk vragen op de volgende.
De aankondigingen komen van de bedrijven zelf. Hoeveel tijd en geld dit in de dagelijkse productie bespaart, moet in de praktijk blijken. Maar AI die niet alleen een antwoord schrijft, maar daadwerkelijk een onderdeel oppakt, wordt hier heel concreet.
Voor mensen die zelf AI-apps bouwen, is er ondertussen een waarschuwing van cloudplatform Railway. Dat is een dienst waarop je een app online kunt laten draaien. Het bedrijf meldt dat een onbevoegde partij mogelijk geheime toegangsgegevens van klanten heeft ingezien.
Daaronder kunnen sleutels zitten waarmee een app bijvoorbeeld een AI-model gebruikt. Zo'n sleutel is een digitale toegangscode. Krijgt iemand anders die in handen, dan kan die afhankelijk van de instellingen verzoeken uitvoeren op jouw rekening.
Dit heeft onder andere te maken met problemen binnen programmeertaal PHP. In de aflevering van gisteren hebben we het daar dieper over.
Railway vraagt gebruikers daarom hun opgeslagen sleutels en andere geheime gegevens te vervangen. Belangrijk daarbij: alleen een nieuwe code in je app zetten, schakelt de oude niet uit. Die moet je bij de aanbieder ongeldig maken. Controleer ook of het verbruik onverwacht is gestegen. Hoeveel klanten daadwerkelijk zijn geraakt, is nog niet vastgesteld.
Los daarvan gaat een verhaal rond over een ontwikkelaar met bijna negenentachtigduizend dollar aan Google Cloud-kosten. Hij zegt dat programmeerassistent Codex een bestand met toegangssleutels openbaar heeft gemaakt. Maar die beschuldiging berust op zijn eigen verhaal en een analyse van een ander AI-model. Onafhankelijk technisch bewijs ontbreekt.
Er is bovendien een belangrijke afloop die in veel gedeelde berichten wegvalt: volgens de bevestiging die de ontwikkelaar publiceerde, heeft Google het openstaande bedrag kwijtgescholden. Dit is dus geen bewezen rekening die hij uiteindelijk zelf heeft betaald. En er is geen aangetoond verband met het Railway-incident.
Microsoft beschrijft een andere zaak, waarbij aanvallers AI juist bewust inzetten. Een aan China gelieerde hackersgroep gebruikte AI-agenten om aanvallen op honderden organisaties te versnellen. Bij meerdere aanvallen kreeg de groep volgens Microsoft binnen drie uur vergaande toegang tot een cloudomgeving.
Een belangrijke route liep via de back-updienst ConnectWise. De aanvallers misbruikten toegangsgegevens van apps die organisaties al toestemming hadden gegeven om hun gegevens te benaderen. Denk aan een back-updienst die bestanden moet kunnen lezen om er kopieën van te maken.
Met het AI-hulpmiddel Artex konden de aanvallers sneller systemen onderzoeken en vervolgstappen uitvoeren. De meeste pogingen mislukten. Ook een geslaagde aanmelding betekent niet automatisch dat er gegevens zijn gestolen.
Het verschil met het bankenverhaal is belangrijk: daar kan de toegang beginnen bij een klant die zijn assistent toestemming geeft. Hier beschrijft Microsoft doelbewust misbruik van vertrouwde softwarekoppelingen. AI maakt het voor de aanvallers mogelijk om meer van dat werk tegelijk en sneller te doen.
Ook de beveiliging van de Nintendo Switch twee is met hulp van AI onderzocht. Een onderzoeker heeft een manier gevonden om een deel van de beperkingen te omzeilen. Om te laten zien wat daarmee kan, presenteerde hij een aangepaste versie van Mario Kart World, met personages die Nintendo zelf niet in die racegame heeft gestopt.
Bijzonder is hoe hij programmeerassistent Codex liet meewerken. De AI kon via aangesloten apparatuur het beeld van de spelcomputer bekijken en knoppen bedienen. Er was zelfs een apparaatje dat de aan-uitknop indrukte als een proef de console liet vastlopen.
De onderzoeker zegt ongeveer twee weken intensief aan de doorbraak te hebben gewerkt. Het was dus niet één opdracht waarna de AI even de hele spelcomputer kraakte. Hij bepaalde zelf kansrijke routes en werkte de aanval verder uit. De aanpassingen aan Mario Kart waren volgens hem vervolgens in één dag gemaakt.
De toegang is niet volledig en verdwijnt na een herstart. Wat dit onderzoek vooral laat zien, is dat een programmeerassistent ook buiten een codevenster kan helpen: een proef uitvoeren, het resultaat bekijken en een volgende poging voorbereiden.
Voor onze afsluiter hoeft er geen nieuwe spelcomputer open. We gaan juist terug naar Fallout twee, het rollenspel uit negentienachtennegentig.
Een ontwikkelaar presenteert Rerun Reactor. Daarmee kun je een AI-assistent in gewone taal vragen om aanpassingen aan het spel te maken. Bijvoorbeeld een robotmaatje dat je geneest en slechte grappen vertelt. Of een handelaar die andere spullen verkoopt.
Het systeem zoekt de bijbehorende personages en voorwerpen op, schrijft de aanpassing en levert een bestand of link waarmee je die kunt proberen. Zo wordt een spelidee niet alleen een gesprek met een chatbot, maar iets wat je in de spelwereld kunt testen.
Je hebt wel je eigen exemplaar van Fallout twee nodig. De dienst geeft de oorspronkelijke game niet gratis weg. En de AI kan niet zelf doorspelen om te controleren of iedere nieuwe opdracht goed werkt. Dat testen blijft aan de speler.
Het is nog een jong project, geen garantie dat je met één zin een perfecte uitbreiding krijgt. Maar het is een leuke mogelijkheid: terugkeren naar een spel dat je al jaren kent, en er zelf iets aan toevoegen dat de oorspronkelijke makers nooit hebben bedacht.
Vond je dit een interessante aflevering? Volg dan AI Wereld Vandaag en stuur deze aflevering door naar een vriend of collega die ook wil bijblijven.
Meer leren en lezen? Kom langs bij AI Wereld punt en el. Daar zitten wél mensen aan de knoppen overigens.