Na deep fake nejsme připraveni. Manipulovat s ostatními dnes může každý, varuje analytik Šlerka
Falešná videa vytvořená umělou inteligencí se stala běžnou součástí internetu a sociálních sítí. S nadcházejícím supervolebním rokem jich navíc masivně přibude. Mají uživatelé šanci poznat dílo, které vytvořil stroj? „Pro drtivou většinu falešných videí dnes platí koukat se na synchronizaci úst a zvuků a na to, jakým způsobem fungují kupříkladu stíny,“ vysvětluje v pořadu Jak to vidí... datový analytik a expert na nová média Josef Šlerka.
Problematice zneužívání umělé inteligence se aktuálně věnuje série článků publikovaných na webu investigace.cz.
„Ukazujeme tam, jak funguje generování obsahu, který napodobuje nějaký styl, nebo upozorňujeme na to, jak jednoduché je dnes vyrobit falešné video. Dá se to zvládnout doma v kuchyni, zadarmo nebo s minimem peněz. V podstatě každý může od zítřka začít manipulovat se svým okolím,“ přibližuje Šlerka.
Záplavě falešných videí čelíme už dnes. S nadcházejícím supervolebním rokem u nás i ve světě to však bude podle Šlerky mnohem častější úkaz.
„Za velmi varovné ale považuji, že mnoho lidí věří falešnému videu i přesto, že je výrazně označeno jako deep fake,“ uvádí vedoucí oboru Studia nových médií na Filozofické fakultě Univerzity Karlovy.
„Například našemu videu s Václavem Klausem, kde mluví v rozporu se svými dlouhodobými a všeobecně známými názory, věří až třetina lidí i přesto, že jsme tam zcela jasně označili, čeho si všímat, aby si člověk uvědomil, že to je deep fake. Navíc se to říká i ve zvukové stopě. Pozornost je ale evidentně stržena úplně jiným směrem,“ dodává Šlerka.
Stačí pár sekund
Citlivost k rozpoznání, že je video falešné, snižuje podle Šlerky stopáž videa, případně jeho formát. „Když trvá video pár sekund, což je délka, na kterou jsme zvyklí ze svých mobilních telefonů, snižuje se naše šance rozpoznat, že je falešně vytvořeno. Navíc třeba reels (krátká videa – pozn. red.) na facebooku jsou na výšku, což zase snižuje naši rozpoznávací pozornost.“
Pozornost ale podle Šlerky velmi zdatně odvádějí i titulky, které mají dvojí funkci. „Většina lidí kouká na videa bez zvuku. Zapínají si ho až ve chvíli, kdy mají pocit, že tam bude něco zajímavého. Tím se ale úplně ztratí zvukový aspekt. Titulky ale zároveň k sobě poutají pozornost, tedy opět oslabují naši schopnost odhalit, že je to fake.“
Jak odhalit deep fake?
Odhalit falešné video je podle experta na nová média kvůli zlepšujícím se technologiím čím dál složitější. „Pro drtivou většinu falešných videí dnes platí koukat se na synchronizaci úst a zvuků a na to, jakým způsobem fungují kupříkladu stíny. U výměny obličejů se totiž ne vždycky daří dobře zachovat světlo, které padá na obličej.“
Vyrobit falešné video je čím dál jednodušší, podvodníci tak okrádají zájemce o investice
Číst článek
Zásadní je také nesledovat pochybné video na mobilním telefonu, ale zvětšit si ho přes celou obrazovku třeba na stolním počítači, aby vynikly nesrovnalosti. „Důležité je také poslouchat pečlivě hlas. Většina z nás má různé nádechy, výdechy, různé zbylé zvuky. Bohužel i toto začínají systémy velmi dobře imitovat.“
V neposlední řadě je podle Šlerky důležitý kontext. „Je nutné přemýšlet nad tím, jestli obsah, který slyšíme, je uvěřitelný a pravděpodobný. Přece jenom Václav Klaus bojující proti globálnímu oteplování není moc pravděpodobný obraz. Do budoucna to tedy zřejmě bude to poslední, s čím budeme moct nějak zacházet. Bohužel to platí jen pro obsah na sociálních sítích. S falešnými videi se ale budeme setkávat mnohem častěji a jinde,“ dodává Josef Šlerka.
