Server iROZHLAS.cz s ním mluvil ve středu v sídle Evropského parlamentu, kde patřil k nejpřesvědčivějším řečníkům na semináři o boji proti dezinformacím před eurovolbami. 

Rozvoj digitálních technologií dal tvůrcům politických kampaní do rukou nové zbraně. V článku Přežije demokracie velká data a umělou inteligenci? varujete, že voliči jsou proti nim bezmocní. Říkáte, že tyto technologie se navzájem posilují a tvoří Bermudský trojúhelník, který se neustále zvětšuje. Jak to myslíte? 
Prvním vrcholem trojúhelníku jsou velká data – obrovské množství dat, která o nás na internetu i v reálném světě shromažďují firmy, vlády či tajné služby. Tato data je možné spojovat a analyzovat, vyvozovat z nich závěry s využitím metod strojového učení a umělé inteligence. K tomu se přidávají nejnovější poznatky z psychologie a z behaviorálního marketingu, který může přesně cílit na každého jednotlivce, ať už s komerčním či s politickým zadáním.

Tyto tři oblasti zažívají prudký rozvoj, navzájem se posilují a tvoří onen zvětšující se Bermudský trojúhelník: Nad velkými daty, jaká dříve nebyla k dispozici, jsme se naučili pomocí umělé inteligence vytvářet podstatně hlubší analýzy, které umíme přetavit v daleko lepší porozumění tomu, jak se lidé chovají, co je motivuje a také tedy jak jejich chování ovlivňovat.

Já se obávám a upozorňuji na to, že tato nová situace je silně asymetrická. Dřív, když jsme vešli do obchodu, věděli jsme poměrně přesně, co můžeme čekat. Jak s námi budou obchodníci nejspíš jednat a jaké metody použijí, aby nám prodali své zboží. Dnes je to pokročilá, komplikovaná věda, které jako běžní občané nemůžeme rozumět. Tím vzniká obrovská nerovnováha.

Kdo této nerovnováhy využívá? 
To se ukázalo v případu Cambridge Analytica (jejích služeb využíval v prezidentské kampani v USA mimo jiné Donald Trump – pozn. red.) nebo naposledy při vyšetřování toho, kdo v Britiánii financoval kampaň za Brexit (významnou roli hrál Arron Banks, investor s vazbami na Rusko – pozn. red.). Víme také o ruských pokusech ovlivnit volby ve Francii, o některých klientech analytické společnosti Palantir (která shromažďuje a analyzuje velká data pro vlády a tajné služby po celém světě, včetně britské GCHQ a americké NSA – pozn. red.), o působení stratéga Trumpovy kampaně Stevea Bannona...

Všichni tihle lidé jsou součástí společenství, které má zjevný společný zájem. A někteří z nich se tím vůbec netají, že si chtějí koupí know-how a technologickou kapacitu, aby tento svůj zájem prosadili. Když investujete padesát nebo sto milionů do falešných facebookových nebo twitterových účtů a pomocí umělé inteligence je necháte působit na veřejné mínění, pak si zřejmě můžete do značné míry koupit výsledek voleb. Teprve nyní se snažíme ověřit, do jaké míry se to skutečně dělo a děje. Ale když se naše obavy potvrdí, znamená to samozřejmě konec demokracie v podobě, v jaké jsme ji dosud znali.

Zkoumal jste falešné účty, které v kampani před nizozemskými obecními volbami na sociálních sítích používala Strana pro svobodu Geerta Wilderse. Voliči kvůli nim měli třikrát větší šanci narazit na obsah šířený pravicovými populisty než na sdělení jiných stran. Zároveň tyto účty záhy po volbách ze sítí najednou zmizely, což potvrzuje, že byly skutečně falešné. Máme se na něco podobného připravit také před volbami do Evropského parlamentu, které budou příští rok na jaře? 
V Evropě máme aspoň zatím konsensus na tom, že platí svatá trojice lidských práv, právního státu a demokratických mechanismů. Všechny tři se navzájem potřebují, nemůžeme říct, že si z této trojice vybereme jenom jeden nebo dva prvky. A také víme, že existují státy, které se ocitly pod geopolitickým tlakem a snaží se tyto principy narušovat a relativizovat. Z toho mám velkou obavu.

Zjevně máte na mysli Rusko nebo Čínu. Na co bychom si tedy měli v kampani před volbami do Evropského parlamentu dávat pozor a co bychom měli dělat? 
Měli bychom mobilizovat všechny naše technické i forenzní kapacity, abychom zajistili svobodné volby, ve kterých se voliči mohou rozhodovat samostatně na základě informací, které potřebují a ne na základě těch, které jim někdo podstrkuje, aby ovlivnil jejich názory. Potřebujeme posílit výzkum, vyšetřovací, soudní a digitální dovednosti, abychom to, co se děje, zmapovali a dostali pod kontrolu.

Je možné něco takového zvládnout před volbami, a ne až po jejich skončení, kdy je teprve možné podezření z ovlivňování pořádně vyšetřit?
Musíme se o to snažit před volbami, během nich a samozřejmě i po nich. Cítím dnes v Evropském parlamentu zvýšenou míru zájmu o toto téma a zároveň je to velmi citlivé. Všude, kde to půjde, ho budeme prosazovat, zejména v Evropské komisi, která má na rozdíl Evropského parlamentu zákonodárnou iniciativu (van den Hoven je stálým členem Skupiny pro etiku ve vědě a informačních technologiích při Evropské komisi – pozn. red.).

V přednášce v Evropském parlamentu jste ve středu varoval, že instituce, které se zabývaly hledáním pravdy, ji už nehledají. Tím myslíte média a novináře?
Samozřejmě jsou čestné výjimky, ale mediální krajina se mění a dost lidí o hledání pravdy ztrácí zájem. Dá se to poznat třeba na tom, když novináři opomíjejí důležité detaily, nekladou doplňující otázky... Média i žurnalistika tím trpí.

Zejména on-line média se čím dál míň řídí osvědčenými pravidly pro poznávání skutečnosti. Výsledkem je, abych to řekl lidově, záplava žvástu. A zajímavé na lidech, kteří žvást produkují a šíří, je, že nejsou motivováni hledáním pravdy, ale něčím jiným: chtějí šířit nejistotu a zmatek, případně jen „udržovat konverzaci“.

Nejde ale jen o média, ani věda není v nejlepší kondici. Lidé si říkají: Vždyť věda je také jen jeden z možných názorů! Toho ovšem využívají obchodníci s pochybnostmi, jak je nazývá americká historička vědy Naomi Oreskesová. Ve skvělé stejnojmenné knize ukazuje, jak se někteří vědci v uplynulém století nechali koupit a sloužili komerčním zájmům (například tabákových firem – pozn. red.) tím, že publikovali jen část informací, která se zrovna hodila, nebo si dokonce vymýšleli data. Tím samozřejmě utrpěla reputace univerzit a celé akademické obce coby další instituce hledající pravdu.

Třetí příklad je politika, kterou čím dál víc ovlivňují lobbisté. Nastolují témata a narušují zákonodárné procesy. Samotní politici nemají dost času nebo vůle věnovat se do hloubky jednotlivým tématům a výsledkem je, že jim návrhy zákonů píší lobbisté.

Všechny tyto příklady ukazují, že tradiční postupy, které nám sloužily k tomu, abychom věděli, co se opravdu děje a co je důležité, jsou v krizi.

Co s tím? Vymyslet nějaký lepší reputační systém, který by nám pomohl poznat, čemu a komu můžeme věřit? 
Ano, tímto směrem je zaměřený projekt, na kterém pracujeme s kolegy v Nizozemsku. Pro lepší představu by se dal popsat jako Wikipedie pro názory. Snažíme se přijít na to, jak využít digitální platformy k tomu, aby podporovaly šíření pravdivých informací. Tomu by se dalo pomoci, kdyby se nám podařilo vytvořit spolehlivý reputační mechanismus, který by uživatele odměňoval za to, že na sebe nechají působit fakta, vyměňují si názory a nakládají s informacemi zodpovědným způsobem. Velká část webu je už dnes založená na reputačních mechanismech, ty ale - jak vidíme - nestačí. Proto bychom měli experimentovat s novými. 

Mluvíte o hledání pravdy. Zastánci různých „alternativních pravd“ by nejspíš namítli, že je to jen řečnický trik západních liberálních elit, které si chtějí udržet své výsadní postavení. 
Nepochybuji o tom, že jsou tu i staré liberální elity, které se chtějí udržet u moci... Já si ale nemyslím, že bychom jim nějak nadržovali. Ve světě máme několik klíčových problémů, které bychom měli urychleně řešit. A víme, které to jsou, protože všechny státy světa se  v OSN shodly na sedmnácti cílech udržitelného rozvoje od vymýcení chudoby přes rovný přístup ke vzdělání či lékařské péči, snižování nerovnosti po ochranu oceánů a boj se změnou klimatu.

To všechno jsou zcela konkrétně definované celosvětové problémy, každý z nich do detailu rozepsaný, které my všichni naléhavě potřebujeme řešit. Není to žádný partikulární zájem jedné úzké skupiny lidí. Každý, kdo působí na politické scéně, by měl být hodnocen podle toho, jaká konstruktivní řešení přináší pro tyto problémy celého světa, které jsme si definovali a které tudíž známe.

Pravda tedy vychází z hodnot a toto může být jedna sada hodnot, na nichž se shodne hodně lidí, i když asi ne úplně všichni. Vy mluvíte a píšete také o tom, že naše hodnoty by se měly promítnout do designu, tedy do návrhu věcí. Jak si takový design vycházející z hodnot máme představit? 
Když v hi-tech éře mluvíme o soukromí, o demokracii nebo o bezpečnosti, je to jen začátek. Potřebujeme politickou, filosofickou i každodenní debatu o tom, co těmito hodnotami vlastně myslíme. A nakonec je musíme vyjádřit a zhmotnit v návrzích nemocnic, železnice, kancelářských budov, počítačů... Pokud je pro nás důležitá například bezpečnost, musíme na ni myslet už při koncipování všech těchto věcí. Například software, který kontroluje provoz na železnici, musí být navržen tak, aby strojvedoucí v případě nebezpečí vůbec mohl cokoli udělat a nebyl jen bezmocnou loutkou, obětí prostředí, které někdo jiný špatně navrhl.

Pokud po lidech chceme, aby se chovali odpovědně, musíme na to myslet nejen při designování věcí, ale také při návrhu institucí. Organizace musíme vymýšlet a nastavovat tak, aby lidem vůbec daly šanci nějakou odpovědnost přijmout. Je krajně nespravedlivé vytvořit instituci tak, že lidé nevědí, co se v ní odehrává, nemají si z čeho vybrat, ale zároveň jsou tlačeni k nějakému rozhodnutí. Jak můžeme po někom chtít odpovědné rozhodování, když mu k tomu nevytvoříme žádné podmínky?

Nejde tedy o lepší návrh webů, aplikací nebo uživatelských rozhraní, která by například podporovala pečlivější práci s informacemi, když je přijímáme a posíláme dál? 
Také, ale ten problém je obecnější a zásadnější. Už umíme designovat s ohledem na lepší použitelnost, přístupnost například pro lidi s handicapem... Takže utváříme materiální svět v souladu s našimi hodnotami.

Jak řekl Winston Churchill, nejdřív tvarujeme naše domy a naše domy pak začnou tvarovat nás. Začneme se podobat domům, které jsme postavili, zdědíme vlastnosti věcí, které jsme navrhli a vyrobili.

Tohle pravidlo se uplatňuje všude, kam se podíváme, protože ve 21. století je všechno, co nás obklopuje, někým navrženo od A až do Z. Všechno. Některé věci jsou triviální, třeba barva stolku, u kterého sedíme, je z morálního hlediska irelevantní, ale zabezpečení výtahu, jímž jsme sem (do pátého patra budovy Evropského parlamentu – pozn. red.) přijeli, má pro nás pro všechny obrovský význam.

Takže inženýři a lidé, kterým záleží na hodnotách, se ve 21. století musí naučit přemýšlet o hodnotách jako o požadavcích. My po věcech chceme, aby byly takové. A my chceme po lidech, kteří navrhují a utvářejí náš svět, aby nám dokázali vysvětlit, proč jsou přesvědčeni, že tato budova, tato nemocnice, tato digitální platforma, tato webová stránka má vypadat právě tak a ne jinak. Abychom měli představu, co vlastně dělají, protože je to pro nás velmi důležité.

Na konec se ještě vrátím k názvu vašeho článku Přežije demokracie velká data a umělou inteligenci? Jedno novinářské pravidlo říká, že když titulek končí otazníkem, odpověď zní: Ne. 
Moje odpověď je opatrné ano. Ale musíme se postavit hrozbám a využít příležitostí. Je nanejvýš naléhavé, abychom se naučili víc přemýšlet o designu věci. Musíme zjistit, které postupy a mechanismy fungují, postupovat opatrně a cíleně designovat proti neblahým tendencím, které jsou nyní na vzestupu v důsledku laxního a naivního neoliberálního přístupu ve smyslu „ok, necháme trh, aby se s tím sám vypořádal, výsledkem bude dobře fungující společnost.“ Jenže se ukázalo, že takhle to nefunguje. Vyhlídky nejsou beznadějné, pokud se teď opravdu začneme snažit.

Petr Kočí, Filip Struhárik Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít