Izraelská star J. N. Harari: Bez regulace AI skončí demokracie

Juval Noach Harari: Umělá inteligence se zásadně liší od všech vynálezů lidstva

Rozhovor s izraelským historikem a filosofem J. N. Hararim vedla švýcarská RTS.

Ve svém článku v názorové rubrice amerických novin The New York Times jste řekl, že by lidstvo mohla zahalit opona iluzí, kterou už možná nikdy neprohlédneme nebo si jí dokonce ani nebudeme vědomi. Co tím máte na mysli? Hrozí nám, že ztratíme kontakt se světem kolem nás?
V podstatě ano. Musíme pochopit, že umělá inteligence (anglickou zkratkou AI) se liší od všech předchozích výdobytků lidstva. Všechny nástroje, které jsme dosud vynalezli, nám vždycky propůjčovaly větší moc. Proč? Protože žádný jiný nástroj dřív nedokázal sám rozhodovat nebo aktivně přemýšlet. Když třeba objevíte atomovou bombu, ona se nemůže sama rozhodnout, jaký cíl má zničit, vždycky o tom rozhoduje člověk. To samé platí pro vynález rádia. Takový rozhlasový přijímač se ku příkladu nemůže rozhodnout, co bude vysílat, rozhlas nemůže přemýšlet nebo vytvářet novou hudbu nebo nové příběhy. Rádio prostě jen šíří myšlenky a kulturní výtvory lidských bytostí. AI se od atomových bomb, rozhlasu a všech těchto vynálezů zásadně liší. Za prvé, umí se sama rozhodovat. Dovede činit rozhodnutí o sobě samé, ale i o nás. Když například žádáme banku o půjčku, tak o tom, zda nám banka půjčku poskytne nebo ne, stále častěji rozhoduje umělá inteligence. Kontrola se tak přesouvá od nás směrem k AI. Za druhé, AI může sama generovat nápady a nový obsah. Už teď umí napsat text, skládat hudbu, umí dokonce psát kód, takže může sama sebe programovat. Atomová bomba lepší atomovku – nebo silnější atomovku – vyrobit nedokáže. AI ale výkonnější AI vytvořit umí. A to nabírá na obrátkách. Je třeba se zamyslet nad jednou věcí – žijeme obklopeni určitou kulturou. Nikdy nevnímáme prostou realitu takovou, jaká je. Realitu vždy prožíváme skrze kulturní výtvory, jako jsou mýty, zákony, ideologie, hudba a umění.

Až doteď nás obklopovala kultura, kterou vytvořili ostatní lidé. Co by pro člověka znamenalo žít ve světě, kde většinu kulturního obsahu vytváří cizí inteligence, ne ta lidská? My si ani nedokážeme představit, co by to znamenalo. Mnoho lidí samozřejmě tvrdí, že AI ve skutečnosti nic nového nevytváří, jen přebírá naše výtvory a ty kombinuje, nebo tak něco… Ale vždyť to samé platí i pro lidi. Představte si, jak skládají hudbu lidé, například Bach. Když člověk vytváří hudbu, taky nikdy nezačíná od nuly, vždycky vychází z předchozí hudební tvorby. Platí to i pro literaturu. Základ Bible také tvoří staré příběhy. Lidé tedy využívají předchozí kulturní produkty, něco zkombinují, něco pozmění. A to je lidská tvořivost. Umělá inteligence dokáže to samé, a dokonce může jít ještě dál. Umí totiž vstřebat celou lidskou kulturu, všechno, co jsme stvořili za tisíce let, a dokáže to vstřebat během velice krátké doby. Třeba všechnu hudbu, kterou jsme kdy nahráli. Žádný člověk nezvládne naposlouchat veškerou nahranou hudbu. AI to zvládne a dokáže ji velmi rychle zpracovat. Potom začne chrlit záplavu nového kulturního obsahu, který se bude stále víc lišit od původních předloh, které vytvořili lidé. Tohle samo o sobě samozřejmě není problém. Tuto schopnost můžeme skvěle využít v oblasti kultury, v technologiích, najít novou léčbu rakoviny nebo čehokoli jiného. Musíme ale zároveň pochopit, že je to obrovská moc. Je třeba jí porozumět a je třeba ji regulovat, protože je také potenciálně velmi, velmi nebezpečná.

Existuje tedy způsob, jak omezit rizika a vzít si jen to dobré, jen ty dobré možnosti? Věříte tomu ještě?
Je to možné. Je to sice obtížné, ale jde to. Vezměte si třeba štěpení jádra. Od roku 1945 víme, že jaderná technologie může zničit lidskou civilizaci, ale může také vyrábět velké množství levné energie a různě nám pomáhat. Abychom omezili nebezpečí nukleární války a zároveň využili pozitivního potenciálu jádra, vybudovali jsme obří mezinárodní systém. Nevíme, co se stane v budoucnu, zvlášť teď, když tu máme ruskou invazi na Ukrajinu a podobně, ale dosud to fungovalo. V oblasti umělé inteligence je potřeba udělat podobný krok. Můžeme využít různých pravidel a předpisů. Základním pravidlem by mělo být, že kdykoli s AI komunikujeme, musíme vědět, že se o umělou inteligenci jedná. Zamysleme se nad budoucností demokracie.

Demokracie, to je v zásadě dialog. Je to veřejná diskuze spousty lidí. Diktatura, to je diktát. Jeden člověk řídí všechno. Demokracie je diskuze mnoha lidí, kteří debatují o ekonomice, zahraničních vztazích a všem možném. V této době se ale většina podobných názorových výměn odehrává na internetu. Co se ale stane – a stát se to může – když se bude umělá inteligence za člověka vydávat. Budete s někým online debatovat třeba o klimatické změně nebo ruské invazi v přesvědčení, že diskutujete s lidskou bytostí, ale půjde o umělou inteligenci. To přece nejde.

Je to nesmírně nebezpečné. Nemá totiž cenu, aby se člověk snažil změnit názory nějakého bota, který ve skutečnosti slouží politické straně nebo cizí vládě. Čím víc s ní ale budete mluvit, tím lépe vám rozumí a ví přesně, jak ovlivnit vaše názory. Dnes už víme, že posledních deset let se na sociálních sítích bojuje o pozornost lidí. A algoritmy dokáží pozornost lidí upoutat, což vede k nárůstu projevů nenávisti, hněvu a ke strachu ve společnosti. Tyto algoritmy sociálních médií nicméně dosud neuměly vytvářet obsah, vybíraly jen to, která videa a texty vytvořené lidmi, vám ukáží. Nová umělá inteligence dokáže obsah sama generovat. Umí s lidmi dokonce navazovat osobní vztahy. Pokud nezavedeme nějaká omezení, bude to konec demokracie, protože na internetu budete diskutovat s AI, ale nebudete vědět, že to AI je. Znamenalo by to konec diskuze ve veřejném prostoru. Potřebujeme tedy velice jednoduchou, ale ne snadno zaveditelnou regulaci, která povede k nutnosti oznamovat lidem, že přichází do styku s umělou inteligencí. Stejně tak by se Twitter, Facebook a podobné platformy měly zbavit botů vydávajících se za lidi. Dnes se hodně debatuje o svobodě projevu na Twitteru a Facebooku, ale botů by se ta debata týkat neměla, protože ti svobodu projevu nemají. Svoboda projevu je lidské právo, není to právo umělé inteligence. Prvním krokem je tedy donutit Elona Muska na Twitteru, Marka Zuckerberga na Facebooku a všechny ostatní, aby se všech botů zbavili. A pokud je na své platformě povolí, pak musí při jakémkoliv kontaktu s člověkem nejprve přiznat, že jde o AI, že se nejedná o člověka.

To vede k otázce, kdo vlastně jsme jako lidé. Stroje v nás teď vyvolávají iluzi, že dovedou myslet. My to dokážeme taky. Když s vámi teď mluvím, procházejí mým mozkem ionty draslíku a elektrické impulsy, stejně jako když strojem a jeho obvody procházejí elektrické impulsy. Jaký je v tom rozdíl?
Ten rozdíl, jak víme, je v tom, že lidé mají vědomí. AI ho nemá. Nejde tu o inteligenci. Lidé si často inteligenci a vědomí pletou, přitom jde o dvě rozdílné věci. Inteligence je schopnost řešit problémy, například jak napsat text nebo jak složit hudbu. Jde o řešení problémů. Vědomí vytváří pocity, pocity smutku nebo štěstí, vnímání bolesti a radosti. U lidí je inteligence s vědomím propojená. Často řešíme problémy prostřednictvím vlastních pocitů, takže si to pleteme. Jenže tyhle dvě kategorie se liší. Počítače jsou dnes v mnoha oblastech inteligentnější než my, ale nemají ani špetku vědomí, alespoň co víme. Nic necítí. Dokážou nás porazit v šachu, dokonce nás mohou překonat i ve skládání hudby, to je možné, ale necítí smutek ani radost, bolest ani potěšení. A proto jim nenáleží etická a politická práva, protože v etice a politice nejde v důsledku o inteligenci, jde o utrpení. Cílem etiky je zabránit trápení, osvobodit lidi a možná i jiné tvory od utrpení. Proto tu probíhá velká debata například o právech zvířat. Protože zvířata mohou pociťovat utrpení, mohou pociťovat bolest, mohou pociťovat smutek, takže by měla mít nějaká práva. Umělá inteligence a počítače necítí nic. Když zničíte počítač nebo zničíte robota, je to možná porušení práv člověka, který je vlastní, ale vůbec se nedá mluvit o tom, že by ten počítač trpěl. To je hlavní rozdíl. Proto nemají počítače politická a etická práva. Samozřejmě, že pokud v budoucnosti počítače získají vědomí, všechno se tím změní, ale tam ještě nejsme. Nic nenasvědčuje tomu, že by počítače směřovaly k rozvoji vědomí. Ano, mají inteligenci. V mnoha oblastech jsou dokonce inteligentnější než my, ale nic necítí.

Pokud si dokážeme představit, co všechno se může v oblasti AI zvrtnout, není to zároveň důkaz, že ji ještě dokážeme alespoň nějakou dobu ukočírovat?
Zatím ji máme pod kontrolou, ale ne na moc dlouho. Proto musíme jednat rychle a rozhodně a regulovat AI dřív, než začne ona omezovat nás.

Vzpomínám si, jak nám jeden profesor na Mezinárodním institutu pro rozvoj managementu v Lausanne říkal, že kvůli AI by se mohla na celém světě změnit nebo dokonce zrušit miliarda pracovních míst. Nemusíme to ale dopustit. Máme na výběr. Můžeme určitou činnost delegovat na AI, ale nemusíme. Máte pocit, že si uvědomujeme, že tahle možnost volby nám stále zůstává?
Neuvědomujeme si to dostatečně. Mnoho vlád a politiků, ale ani jejich voličů o těchto otázkách nepřemýšlí. Sleduji politickou debatu ve Spojených státech a vidím tolik vášnivých a naštvaných diskuzí o právech transsexuálů – tím myslím debatu o tom, kdo může chodit na které záchody. Je to důležité téma, chápu, proč přitahuje velkou pozornost, protože cokoli, co souvisí s pohlavím a genderem, okamžitě vzbudí emoce. Ale v porovnání s tématy, jako je AI a klimatické změny… Ať lidi chodí na záchodky tam či onam, lidskou civilizaci to nezničí, ale AI lidskou civilizaci zničit může. Takže pokaždé, když vidím kandidáty, kteří používají témata, jako jsou třeba práva transsexuálů, aby získali politickou moc, a odvádějí veřejnou debatu k těmto věcem, děsí mě to. Hlavní politická diskuze by se dnes měla týkat AI, změn klimatu a dalších témat, která ohrožují naši existenci.

Musíme se na tyto otázky zaměřit a když to uděláme, budeme mít nadále možnost je ovlivňovat, například i v oblastech jako je trh práce. Dalším nebezpečím je, že lidé, kteří stojí v čele revoluce AI, uvažují v termínech technologického determinismu. Tvrdí, že tahle technologie se bude vyvíjet tak jako tak, že když se o její rozvoj nezasadíme my, udělá to někdo jiný. Tihle lidé nechápou, nebo nechtějí pochopit, že máme na výběr, že si můžeme vybrat, jakou technologii vyvineme a jak ji využijeme. Stačí se podívat na 20. století, na technologie jako je rádio, vlaky, elektřina… Některé země, třeba nacistické Německo, budovaly totalitní režim a jiné podobnými technologiemi vybudovaly demokracii. Tak například rozhlas se dal využít k šíření Hitlerových projevů do každé německé rodiny. Každá taková rodina tedy musela mít rozhlasový přijímač a všichni Hitlera museli slyšet. To je jedna z možností, jak využít rádio. Nebo ho lze využít tak, aby si každý mohl vybrat, jaké pořady a jakou hudbu bude poslouchat. Takže rozhlas může být nástrojem totalitního režimu, ale může být nástrojem demokracie. To samé platí i pro umělou inteligenci. Žádný technologický determinismus neexistuje. Obávám se, že některé země budou chtít využít AI k vytvoření nejextrémnějších totalitních režimů v historii, není to však nevyhnutelné. Rozhodnutí je na lidech.

Vzpomínám si, že když jsem byl v USA, tehdejší prezident Barack Obama říkal, že jsme se narodili do nejlepší možné doby. A přesto pak přišla pandemie, máme tu AI a všechny ty problémy, jako je změna klimatu, oslabování liberálních demokracií, jsou tu fake news a tak dále… Někteří historici dokonce říkají, že to dnes vypadá přesně jako v době před první světovou válkou. Vy jste historik, proto mě zajímá váš názor na dobu, v níž teď žijeme.
Souhlasím s tím, že v době před deseti lety, kdy byl Obama prezidentem, jsme sice řešili plno problémů, ale i tak to byla asi nejlepší doba pro lidstvo. Samozřejmě je velký rozdíl mezi tím, když se řekne, že to byla dokonalá doba, a tím, kdy řeknete, že se lidé měli lépe než dřív. Všude byly obrovské problémy, ale bylo to lepší než jakákoli předchozí éra v historii. Posledních zhruba deset let to jde z kopce, máme jednu krizi za druhou, problémy se vrší a navzájem zesilují. Máme tu ekologickou krizi, která se zhoršuje, prošli jsme si pandemií, teď čelíme ruské invazi na Ukrajinu, roste napětí ve východní Asii. S rozvojem AI se zrychluje technologická revoluce a to se promítá do všech ostatních problémů. Demokracie je ohrožena, protože nevíme, jak regulovat sociální média, AI a všechny tyto rychle se rozvíjející technologie. Procházíme těžkou krizí, ale není to beznadějné. Všechny tyto problémy způsobili lidé. Klimatickou změnu máme na svědomí sami, za ruskou invazí na Ukrajinu konec konců stojí jediný člověk – Putin, který se rozhodl vést tuhle hroznou válku. Revoluci umělé inteligence mají dosud v rukách lidé, ne počítače, zásadní rozhodnutí dělají zase jen lidé. Problémy jsme si způsobili sami a můžeme je taky sami vyřešit. Nebude to snadné, ale není to jako s dinosaury, na které jednoho dne dopadl asteroid z vesmíru a vyhubil je. Dinosauři s tím nic nezmohli, my ale nejsme ve stejné situaci jako dinosauři. My problémy vytváříme a my je můžeme i vyřešit.