‚Internet často ovlivňuje životy lidí víc než stát.‘ EU chce zpřísnit pravidla pro online svět

Proč potřebujeme směrnici o digitálních službách?
Honza: Je to vlastně nějaký nový typ regulace, která přijde z Evropy a která by nějakým způsobem měla vyřešit některé problémy, které evropští zákonodárci vnímají na velkých platformách, typicky na sociálních sítích. Často se to týká nějaké regulace, třeba projevu, toho, co na té platformě se objeví, za jakých podmínek. Týká se to třeba i regulace on-line reklamy, to znamená, jakým způsobem se ta reklama cílí, na koho. Protože ten současný stav je vnímaný jako neoptimální.

Ten balíček opatření bude mít konkrétní dopad na uživatele internetu, sociálních sítí. Víme to už teď?
Honza: Je tam toho hodně. Těch povinností je tam celá řada. Jedna z nich třeba bude, že ve chvíli, kdy sociální síť člověku smaže nějaký příspěvek, protože řekne, že porušoval pravidla, tak dneska se člověk nutně nemusí dozvědět, jaká pravidla vůbec porušil. Teď by se to dozvědět měl. Dokonce bude mít právo se proti tomu odvolat k nějakému nezávislému orgánu, který rozhodne spor mezi platformou a uživatelem. Dobrá zpráva je, že všechno toto bude platit ta platforma.

Stejně tak by se měl člověk dozvědět, pokud ten jeho příspěvek třeba není smazaný, ale ta sociální síť ho skryje, stáhne jej dolů, aby ho vidělo méně lidí, protože ho z nějakého důvodu vyhodnotí jako nevhodný nebo by se neměl moc intenzivně šířit na síti. V takové chvíli by se ten člověk měl dozvědět, že se to stalo a bude to moci nějakým způsobem řešit.

Marie: Cílem té směrnice tak, jak to popisuje třeba i tisková zpráva, která k tomu vyšla, je v podstatě nějakým způsobem narovnat nějakou určitou mocenskou nerovnost mezi platformami a uživateli. V podstatě dát větší důraz na samotné uživatele, aby měli větší kontrolu nad tím, co na platformě vidí a právě třeba nad tím, jak ta platforma kontroluje ten obsah, který oni sami vytvářejí.

Samozřejmě to znamená docela velký důraz na nějakou gramotnost ze strany těch uživatelů, aby se v tom oni zase dokázali zorientovat a dokázali pochopit ty postupy, aby věděli, jaká jsou jejich práva. A tam si právě myslím, že bude poměrně podstatné, jakým způsobem k tomu přistoupí legislativci třeba v České republice, jakým způsobem se to potom nastaví na národní úrovni.

Takže EU, jestli chápu správně, se rozhodla vnést větší transparentnost do toho silně podnikatelského prostředí sociálních sítí?
Marie: Minimálně je to tak prezentováno.

Honza: Spousta lidí neví, proč ta sociální síť funguje nějakým způsobem, proč dostali třeba na týden zakázáno postovat na Facebooku, dostanou jen nějakou velmi obecnou odpověď, že porušili pravidla platformy. Neví jaká, neví, co konkrétně vyvedli. A často je to označení i chybné. Ten člověk prostě nic nevyvedl, ale nějaký algoritmus se prostě spletl. Ta ruční kontrola také není příliš pečlivá, to znamená, že nově by se to člověk dozvědět měl a má i způsob to nějakým způsobem rozporovat.

Zároveň se ta platforma bude muset hlásit do nějaké centrální databáze při stažení toho obsahu, který bude končit právě zase u evropských orgánů a potom bude docházet k nějakému vyhodnocování, zdali tedy platforma upřednostňuje nějaký typ obsahu, zdali se snaží nějakým způsobem třeba i nevědomky nebo prostě s ohledem na to, jaký má byznys model, tak jestli třeba někam neposouvá veřejné mínění.

Což je zase - spousta lidí obviňuje sociální sítě typu Twitter nebo Facebook, že nadržují liberálům, konzervativcům nebo někomu. Ale s jistotou to vlastně nevíme, protože my nevíme, co ta platforma v jaké míře maže, v jaké míře to schovává. Často se uživatelé ani nedozví, že ten jejich příspěvek třeba není smazaný, ale je stažený, že ho vidí minimum ostatních uživatelů.

On se může algoritmus splést?
Marie: Toto je vlastně hrozně dobrá vykopávací otázka, jestli se může algoritmus splést. Já myslím, že funguje nějaké všeobecné přesvědčení, mýtus, že ten algoritmus je nějaká neomylná a hlavně neutrální entita. Což samozřejmě není pravda, protože ty algoritmy samozřejmě programují lidé, takže nejsou neomylné, nejsou ani neutrální. Existuje docela dobře popsaný jev, kterému se říká algoritmický bias.

Honza: Typický příklad: internet je plný vtipů, kdy někdo naučil algoritmus, aby rozpoznával kočky a teď je ten algoritmus strašně spolehlivý a pak najednou o fotce kaktusu řekne, že je to kočka. Nebo existuje oblíbený úkol pro strojové učení na obrázky: rozpoznat rozdíl na takovém data setu, kde jsou fotky spících čivav a croissantů. A on ten pes, když je ten malý psík stočený, tak vypadá dost podobně jako croissant. Takže ten algoritmus se právě může splést, často a velmi často se plete, a často velmi humorným způsobem. Člověk ten rohlík od toho psa velmi snadno odliší.

Marie: Toto je vlastně docela dobrá ilustrace, ale ono to může mít i různé jiné implikace. Když tam jeden výzkumník zkoušel třeba zadávat různá témata, která jsou víc politická. Konkrétnímu programu, já jsem zapomněla tedy, který to je, ono jich je víc, zadáte nějaká témata, která se týkají bezpečnosti a terorismu, tak všechny obrázky, které z toho vypadnou, tak obsahují Korán a odkazy na islám a obsahují lidi, kteří jsou tmaví a kteří mají na sobě oblečení, které odkazuje k islámské kultuře. Tam je úplně evidentní, že je už tom algoritmu zakódovaný bias toho, že si představuje, že něco, co se týká bezpečnosti a terorismu, je automaticky spojené s islámem bez jakékoli další vstupní informace.

Ty algoritmy prostě nejsou neutrální, a my k nim nemůžeme přistupovat jako k neutrálním a neomylným. Existuje taky spousta studií, které popisují to, že tím, že většinu těch algoritmů, které třeba nějakým způsobem třídí obsah na sociálních sítích, programují lidé, kteří sedí v Silicon Valley, je to prostě určitá skupina lidí, kteří mají určité hodnoty, jsou v určitém věku, většinou jsou to prostě bílí muži 30+, kteří žijí v Kalifornii – ty jejich hodnoty nejsou reprezentativní pro, já nevím, střední třídu v Indii, řekněme. Je potřeba k tomu přistupovat tak, že algoritmus umí to, co ho ti lidé naučí, takže on sám o sobě je bezcenný, učí se od těch lidí. To si myslím, že je potřeba zdůraznit.

Takže ano, algoritmus se určitě může splést a poměrně často to dělá. Vy jste se předtím ptal, jestli si myslíme, že ji potřebujeme. Já si třeba myslím, že je otázka, jak bude fungovat, ale myslím si, že minimálně nějaké pokusy o regulaci potřebujeme právě proto, že potřebujeme transparenci, že potřebujeme minimálně tlačit na to, abychom věděli, jaké ty procesy jsou za tím, jak to funguje, abychom dokázali rozpoznávat tyto omyly, abychom do toho dokázali vstupovat s nějakou snahou ji nějakým způsobem narovnávat.

Honza: Ono je to taky hodně poplatné tomu, jaká data vlastně dovnitř jdou. A to bude trošku problém, protože ve chvíli, kdy budeme nějakým zákonem vyžadovat transparentnost toho, jak ty věci fungují. Ono je často velmi těžké je popsat bez toho, abychom ta data, na kterých se to učilo, viděli. A ta samozřejmě nedostaneme, respektive veřejnost pravděpodobně ne. Ta směrnice předpokládá, že by tam měl být zřízený nějaký přístup pro výzkumníky, kteří by se měli k těm datům následně dostat za nějakých podmínek.

Doteď, když takové snahy byly, třeba typicky Facebook, který začal zpřístupňovat nějaká data výzkumníkům, tak víceméně všichni časem odpadli, protože to byl takový ten typický příklad „trucovitého poslouchání“. Platforma formálně splnila, co se po ní chtělo, ale udělala to způsobem, že se nepodařilo naplnit ten cíl, že ta data a ty informace, ke kterým pustila výzkumníky, nebyly příliš hodnotné.

Ještě ke všemu je velmi ostře svazovala v tom, co s nimi smí dělat a jak ty výsledky smí publikovat. To znamená, pro nějaký nezávislý výzkum to prostě vhodné nebylo. Otázkou je, jestli se toto podaří nějakým způsobem rozbít, aby opravdu, pokud ta kontrola nebo vůbec to pochopení společnosti o tom, jak to funguje má být efektivní, tak minimálně výzkumná sféra musí dostat velmi privilegovaný přístup k těm informacím, aby mohli popsat ty problémy.

Když tu byla zmíněna data, tak myslím, že je úplně jednoduchá otázka nasnadě. Co všechno o nás jako uživatelích sociální sítě vědí?
Marie: Ty algoritmy sociálních sítí o nás neví žádná jiná data než ta, která my v podstatě dobrovolně, a to dobrovolně potom ještě jakoby zproblematizuji, ale než to, co my jim o sobě řekneme. Tady hodně často panuje taková představa toho úplně všemocného algoritmu, který pomalu odposlouchává telefony a vlastně nějak úplně pokoutně sbírá data, což považuji za důležité zdůraznit. Toto se prostě neděje.

Není to velký bratr?
Marie: V tuto chvíli to není úplně… ono to není tak jednoduché, protože zároveň, já chci říci, on si pamatuje všechno, co my jsme kdy o sobě tomu Facebooku řekli. Zároveň ten algoritmus umí velmi dobře data kompilovat dohromady, takže on ví všechno o nás, zároveň ví všechno o různých našich spojeních na Facebooku a tím, že je samozřejmě ta jeho operační kapacita obrovská, tak dokáže tato data kombinovat dohromady, dokáže pracovat s informací o nějakých našich spojeních o tom, co si náš kamarád před pěti lety tady ve spojení s nějakým naším dalším kamarádem a podobně... Věci, které už si samozřejmě jednoduše nedovodíme, tak Facebook si je nějakým způsobem dovodí a z toho potom můžou vznikat i třeba nějaké překvapivé, pro nás třeba překvapivé věci, které nám ten Facebook ukazuje skrz reklamy.

Chci ale jen říci, že ten pocit velkého bratra vzniká právě z toho, že my tomu Facebooku o sobě něco řekneme, co možná už není třeba v naší kapacitě si úplně pamatovat, že jsme mu řekli, zároveň jsme tam někde na začátku odsouhlasili, že toto je v pořádku, protože jsme odklidili ty podmínky používání. A já si myslím, že problémem není tolik to, že by ten Facebook ilegálně sbíral něco, k čemu my jsme nedali souhlas, ale problémem je to, čemu se říká takzvaný informační asymetrie. V podstatě už není v moci jednotlivého uživatele to všechno odklikat informovaně, protože těch souhlasů dáváme tolik a je to často napsané takovým jazykem, který už pro nás není srozumitelný.

V podstatě by nebylo vůbec možné fungovat v on-line prostředí, kdybychom to všechno chtěli číst a mít opravdu pod kontrolou. Takže si myslím, že problém je spíš v tom, že platformy do jisté míry zneužívají toho, že není v kapacitách jednotlivce se v tom prostředí orientovat a že je tam zase nějaká mocenská asymetrie v tom, co si oni můžou dovolit a v tom, jaké jsou ty možnosti toho jednotlivce. Takže buď se můžete úplně odstřihnout od on-line světa, anebo se nějakým způsobem smířit s tím, že o vás ty korporace sbírají data a vy úplně přesně nevíte, co se s nimi děje.

Oni se pak asi přeprodávají dál.
Marie: Ano.

Honza: Je důležitý si uvědomit, že nejenom my sdělujeme ty informace a teď, abychom nenasazovali psí hlavu jenom té Metě, tak třeba i Googlu a dalším firmám…

Marie: Ano, to je podstatné..

Honza: …tak je sdělujeme i tím, že se prostě pohybujeme po internetu. Nejde jenom o to, co vyplníme na té stránce, která má ten modrý rámeček a je tam napsáno Facebook, ale všude jsou tlačítka Like, která mají dvojí funkci. Jednak tedy člověk může lajkovat nějaký obsah na úplně jiném webu, třeba na zpravodajském webu, ale zároveň s tím tlačítkem přichází i maličký kousek kódu, který kromě toho lajkování zároveň sleduje, kteří lidé prochází i přes tuto webovou stránku.

A netřeba na to tlačítko klikat, ono si prostě pamatuje, že ten člověk zároveň navštěvoval i tyto další weby. Spoustu těch našich informací nesdělujeme my, ale sdělují to firmy, které využívají Facebook třeba pro reklamu, protože si samy posílají informace o našich interakcích třeba s jejich webovou stránkou nebo s jejich aplikací, s nějakým e-shopem. Tato data posílají do Facebooku, aby to následně mohli využít k cílení reklam. A samozřejmě, že ta data nejsou využita jenom v cílení reklam té firmy, která je tam poslala, ale právě v tom je ta síla velkých platforem, že ta data sdružují a jsou schopni ty výstupy z nich nabídnout i dalším subjektům.

Prodat je dál.
S tím prodejem dál, to je věc, kterou třeba vím, že Facebook strašně nemá rád. On říká: my vaše data neprodáváme. Jako striktně, takto řečeno, je to pravda. Oni opravdu nevezmou data o Honzovi Cibulkovi a neprodají je někomu za 50 dolarů. Oni ale umožní nějaké firmě nebo někomu, kdo tam má reklamní účet, tak aby na mě velmi přesně, na základě těch mých dat, zacílil reklamu. Oni mu je vlastně zprostředkovaně prodají skrze tu službu, kterou nabízí. To typicky znamená právě cílení reklamy.

Víte, co mě vždycky fascinovalo, když už se bavíme o tom, co všechno o nás algoritmy nebo sociální sítě vědí, a už se pak člověk cítí i trošku paranoidně, když vlastně mluví celý den o tom, že by si chtěl koupit k večeři tofu a najednou se mu na všech možných internetových stránkách začnou objevovat reklamy na tofu. Jak se toto může stát?
Marie: To je přesně ten okamžik, kdy má člověk pocit, že je mu odposloucháván telefon. Já tady budu citovat jiné lidi, protože na toto nejsem odbornice, takže to nemám rozhodně z vlastní hlavy. Toto se neděje, protože třeba odposlouchávání individuálních telefonů je hrozně drahá technologie, kterou používají za šíleně drahé peníze tajné služby a armády, opravdu hodně bohatých vlád a nemá na to ani ten Mark Zuckerberg. Takto bych to řekla. Ale je tam nějaký způsob, jak k tomu právě tím, co jsem předtím popisovala a teď konkrétně popisuji jednu studii, kterou jsem četla, kde to bylo na příkladu toho, kdy se člověk bavil se svojí matkou o tom, že ona ráda používá nějaký bujon do polívky a tomu člověku se večer zobrazila reklama na ten bujon.

Ono je to opravdu spíš tím způsobem, že ty služby mají geolokaci vašeho telefonu, takže ví, že byly v blízkosti nějakého člověka. Ví, že jste spolu strávili nějaký čas. Ví, že si ten druhý člověk třeba před třemi dny kupoval tento bujon. Ví, že vy jste spolu v nějakém častém kontaktu a ví, že i ten člověk je třeba váš příbuzný, takže se k vám na základě toho může nějakým způsobem dostat ta reklama. Mně se to stalo třeba nedávno, když jsem jela s kamarádkami ve vlaku a bavily jsme se o tom, že ony si rády kupují oblečení jedné konkrétní značky. Jely jsme spolu dvě hodiny ve vlaku, bavily jsme se o tom, a mně se prostě od té doby konkrétně na Instagramu zobrazují pořád reklamy na tuto konkrétní značku. Ale není to proto, že by nám někdo v tom vlaku, kde pořádně ani nebyl signál, odposlouchával telefon, ale prostě proto, že jsem strávila nějakou dobu, můj telefon, v blízkosti lidí, kteří zjevně nakupují na webu této značky.

Honza: Ono je nutné dodat, že lidé mají pocit, že jsou v tom svém životě hrozně unikátní. Prostě mě teď napadlo, že se naučím hrát na housle nebo něco na ten způsob a je to jenom můj nápad a nikdo jiný o tom nemůže vědět. Reálně se ale nějaké vlny zájmu o něco, koníčky nebo nějaká popkulturní témata, prostě šíří společností v nějakých vlnách a často je člověk součástí nějaké komunity, která toto řeší, je v podobné životní situaci, je podobně socio-demograficky umístěný. Prostě – muž 45, tak si asi bude kupovat motorku a všichni kamarádi kolem něj to dělají a i on o tom v jednu chvíli třeba přemýšlí. Proto je na to téma citlivý. Takže, když se mu ta reklama objeví, řekne: ale já jsem to Facebooku nikdy neřekl. Jak to, že to ten Facebook ví? No, protože ten člověk je součástí skupiny lidí, kteří to řeší a navíc je na to téma citlivý, protože je to něco, o čem přemýšlí.

Na závěr se vraťme k té regulaci jako takové, protože když jsem se ptal Honzy na začátku, tak říkal, že EU prostě vyhodnotila, že je nějaká taková regulace potřeba. Myslíte si, že do budoucna, jak bude sílit vliv sociálních sítí, že budeme potřebovat silnější a silnější regulaci?
Honza: Obecně se dá říci, že zákony jsou potřeba. Jakože nezaberou většinou hned, zejména pokud je to nějaká regulace, která přichází z Evropy, nezaberou perfektně, ale nastavují nějaký směr. To znamená, že já si myslím, že je správně, že se do toho legislativci snaží vnést nějaký řád, nastavit nějaké procesy, například možnost nějakého odvolání, které prostě známe odjinud a jsme na ně zvyklí z nějakých jako jiných společenských interakcí.

Vzhledem k tomu, jaký vliv ty velké technické společnosti obecně mají, a teď se nemusíme bavit jenom o sociálních sítích, ale jsou to právě třeba i vyhledávače, jsou to poskytovatelé různých významných služeb, typicky e-mailových, sdílené dokumenty, které se používají opravdu masivně, tak mají často v některých omezených oblastech života větší vliv na ten život toho člověka než stát. To znamená, že minimálně určité srovnání, řeknu té asymetrie, jak tady zmiňovala kolegyně, mezi tou silnou platformou a na druhé straně uživatelem, tak je určitě potřeba.

Marie: Já bych s tímto asi souhlasila a vlastně bych zdůraznila tu druhou část té věty, že když vidíme – a to je obecně trend, kdy pozorujeme sílení platformy, abychom zase nezůstali jenom u té společnosti Meta, je to Google, ale je to třeba i Amazon – že nějakým způsobem do jisté míry přebírají funkci veřejné infrastruktury. Já si myslím, že je ten argument falešný, že pokud se ti to nelíbí, tak to prostě nepoužívej. Tento argument přestává platit, protože spousta lidí do jisté míry ty věci prostě musí používat, do nějaké míry na nich závisí. Ty platformy doopravdy plní funkci nějaké veřejné infrastruktury.

Takže pokud se s tím smíříme a pokud tento trend bude posilovat, tak já si myslím, že ta regulace je do jisté míry prostě na místě, protože pokud bez toho lidi nebudou moci plně participovat na společnosti, tak je prostě nutné, abychom nastavili nějaká pravidla, abychom věděli, že se tam všichni můžeme pohybovat bezpečně a že tam vlastně všichni máme zajištěné do jisté míry rovné prostředí, ve kterém jsme si vědomi toho, jaké tam máme práva, jaké tam máme povinnosti. A to se v tuto chvíli neděje. Otázkou zase je, jakým způsobem se to projeví, jak to bude fungovat. Už tady padlo, ono to vždycky trvá několik let, než jsme vlastně schopni vyhodnotit, jak to funguje. Ale já to za sebe vnímám jako pozitivní krok, že je tady vlastně pokus o nějaké nastavení pravidel.