Vítejte u 23. dílu KYBcastu, který je určený nejenom učitelům a dalším pracovníkům ve vzdělávání, ale i rodičům. Podvodná videa, fotografie a zvukové nahrávky jsou s námi už dlouho. S umělou inteligencí (AI) přichází nová éra realisticky upravených fotografií, videí a dalších materiálů, u kterých je prakticky nemožné na první pohled zjistit, že se jedná o podvod. Často nám s tím nepomohou ani specializované nástroje. Těmto materiálům se říká deepfakes a do budoucna se s nimi nejspíš budeme setkávat čím dál víc. Dnes se zaměříme na to, co s tím můžeme dělat.
---
Co jsou deepfakes
Obecně můžeme za deepfakes označit realisticky upravené fotografie, videa nebo zvukové záznamy, které se tváří jako skutečné, že je téměř nemožné to poznat. Více informací a praktické ukázky najdete v článku
Jsou deepfakes nebezpečím nebo nevinnou zábavou?
Příklady deepfakes
Rozpoznávání deepfakesPoznat deepfakes je často velice složité nebo nemožné. Na fotografiích lidí se můžete zaměřit na detaily, o kterých mluvíme v podcastu. Zkuste si třeba vygenerovat obličej na
thispersondoesnotexist.com, zaměřte se na detaily a sami si ověřte, jestli byste dokázali poznat, že jde o výtvor umělé inteligence. Můžete si také vyzkoušet kvízy na nástěnce
Bezpečnost dětí na netu, kde najdete i spoustu dalších užitečných materiálů.
Weby, které mohou pomoci při ověřování informací a odhalování deepfakes
Centrum proti hybridním hrozbámManipulátoři.czOvěřovna! Budoucnost a závěr
Bohužel to nyní vypadá, že se při ověřování videí, fotografií nebo třeba zvukových nahrávek nemůžeme příliš spoléhat na nástroje k automatizované detekci podvodných a upravených materiálů. Nástroje umělé inteligence se velice rychle zdokonalují a detekční mechanismy k odhalení materiálů vytvořených nebo upravených pomocí AI jsou spíše pozadu a často označují za podvod i originální a neupravený obsah. S masovým rozšiřováním umělé inteligence tak bohužel ještě roste význam "tradičních" metod ověřování informací, při kterých si můžeme pouze vypomoci různými nástroji typu
deepware.ai. Hlavní práce ale zůstává na nás.
Jedno je jisté: při ověřování bychom se měli zdržet rychlých soudů a zbrklého přejímání informací, jak nám ukazuje
příklad "zfalšované" složenky, o kterém píše D. Dočekal.
---
Použitá hudba
Skladba Puppy Love (Sting) interpreta
Twin Musicom podléhá licenci Creative Commons 4.0 BY (uveďte zdroj).
School Yard interpreta
Crowander podléhá licenci Creative Commons BY-NC 4.0 (uveďte zdroj, neužívejte komerčně).
What is KYBcast - podcast NPI ČR?
Provokativní, edukativní a zábavný průvodce kyberprostorem!
Jsou jako Cyril a Metoděj, i Maněna s Matějíčkem se pokouší spasit národ v době temna. Jejich podcast KYBcast zaměřený na kyberbezpečnost pomáhá v překotných změnách nejenom lidem z praxe, ale i učitelům, žákům a jejich rodičům. Tvoří Václav Maněna a Pavel Matějíček pod záštitou NÚKIB.
KYBcast vzniká v rámci Národního plánu obnovy, financování Evropskou unií – Next Generation EU