„Dobrý příklad jsou nedávné volby v Německu. V těch hlavně strana Alternativa pro Německo používala generátory obrázků a videí, kterými vyplnila své účty na sociálních sítích,“ říká redaktorka Radiožurnálu Jana Magdoňová.

Přehrát

00:00 / 00:00

Přepočítávání prstů na rukou už nemusí spolehlivě fungovat. Modely generativní umělé inteligence se rychle zdokonalují, varuje redaktor Antiviru Jan Cibulka

„Vznikaly tak například líbivé spoty, kde se směje blonďaté batole nebo šťastné děti jedou autobusem do školy. Nikdo z těch lidí ale nebyl reálný, všechny vygenerovala umělá inteligence,“ upozorňuje datový novinář serveru iROZHLAS.cz Jan Cibulka.

Magdoňová zdůrazňuje, že může jít o problém ve chvíli, kdy strany používají umělou inteligenci k inscenování situací, které se nikdy nestaly, ale podporují například rasové stereotypy.

„V případě zmíněné německé AfD dávala strana na své sociální sítě obrázky, které byly temné až výhružné. Měly znázorňovat temnou budoucnost Německa v případě, že AfD nevyhraje. Na obrázcích byly například skupiny zamračených mužů, kteří upírali pohled přímo do fotoaparátu, a podle popisku obrázků to měli být imigranti ze Sýrie,“ popisuje Cibulka.

Nulové náklady

Strany sice něco podobného mohly dělat už v minulosti, ale díky umělé inteligenci se dají náklady na takové obrázky nebo videa srazit k nule. „Straničtí marketéři proto takového materiálu můžou vyrobit prakticky neomezené množství a zaplavit tím své sociální sítě,“ varuje redaktorka.

„Pokud se jim navíc podaří přesvědčit své příznivce třeba nějakou soutěží o dárek, aby materiál sdíleli a sami šířili, stane se virálním. Dostane se tak k velkému množství lidí, kteří vůbec nemusí patřit k příznivcům strany,“ upozorňuje Cibulka.

Vygenerovat podobné obrázky nebo videa je opravdu snadné. Řada generátorů je dostupná online za malý poplatek nebo úplně zdarma. „Pak jen záleží na tom, jaké zadáte umělé inteligenci požadavky,“ vysvětluje Magdoňová.

„Některé tyto systémy se snaží bránit proti generování obrázků, které jsou rasistické nebo se sexuálním podtextem, ale není příliš složité tyto ochrany obejít. Anebo si stáhnout model generativní umělé inteligence, který můžete spustit přímo ve vašem počítači. Ten taková omezení neobsahuje,“ dodává.

S problémem se setkáváme už i v Česku. Jak připomíná Jan Cibulka, mediálně sledovaná je kauza šéfa SPD Tomia Okamury. „Toho Poslanecká sněmovna v polovině února vydala k trestnímu stíhání kvůli dvojici plakátů. Jeden z nich zobrazoval výhružně se tvářícího mladého muže tmavé pleti se zakrvaveným nožem v ruce. Podle policie plakát podněcoval nenávist k některé rase, etnické skupině,“ popisuje.

Jak poznat AI obrázky?

Poznat, zda video či obrázek vytvořila umělá inteligence, je přitom stále složitější. Přepočítávání prstů na rukou už nemusí spolehlivě fungovat, zdůrazňuje Cibulka.

„Modely generativní umělé inteligence se rychle zdokonalují. Spoléhat nemůžeme ani na to, že video nebo obrázek označí sociální síť jako vygenerovaný umělou inteligencí nebo jako volební kampaň. Strany spoléhají na sdílení takových materiálů svými fanoušky a tím mohou označování za volební kampaň efektivně obcházet,“ podotýká.

„Je potřeba si dávat pozor na příspěvky na sociálních sítích, které vyvolávají emoce, strach nebo posměch,“ varuje Jana Magdoňová. Redaktorka radí zaměřit se na to, co se snaží příspěvek sdělit a zda není vytvořený tak, aby nahrával volební kampani konkrétní strany.

„Ani programy na rozpoznávání materiálů, které vytvořila umělá inteligence, nefungují spolehlivě. Je potřeba myslet na to, že volby se blíží a takových věcí bude zkrátka na sociálních sítích přibývat,“ uzavírá Jan Cibulka.

Jiří Chum, krt Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít