Izraelský filosof a historik Yuval Noah Harari mluví o bezprecedentní síle umělé inteligence při rozhodování a utváření idejí. Volá po větší regulaci a varuje před nebezpečím pro demokracii. Připomíná také, že lidé jsou stále ještě v pozici kontrolujícího, byť to už nemusí trvat dlouho. Rozhovor natočila švýcarská televizní a rozhlasová společnost RTS a Český rozhlas jej získal na základě partnerství v síti Evropské vysílací unie.

Rozhovor Praha 15:00 8. května 2023 Tento článek je více než rok starý Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

V komentáři v deníku The New York Times jste zmínil, že se na lidstvo může snést opona iluzí a že už ji možná nikdy nebudeme schopni strhnout nebo mít vůbec ponětí, že existuje. Co jste tím myslel?
Musíme si uvědomit, že umělá inteligence se liší od všech předchozích vynálezů v historii lidstva. Všechny nástroje, které jsme v minulosti vynalezli, nás vždy posilovaly. Proč? Protože žádný předchozí nástroj nemohl rozhodovat sám o sobě a žádný předchozí nástroj nemohl vytvářet nové nápady.

Týká se to i vynálezu atomové bomby, ta se přece nemůže rozhodnout, koho bude bombardovat. Vždy je to člověk, který o tom rozhoduje. Nebo rádio. To se taky nemůže samo rozhodnout, co bude vysílat, nepřichází s novými myšlenkami, novou hudbou nebo příběhy. Rádio šíří myšlenky a kulturní produkty lidských bytostí.

30:21

Pozastavit vývoj AI? Zatím sledujeme překotný vývoj, zpomalí to právníci, věří analytik Šlerka

Číst článek

Umělá inteligence je od atomových bomb a rozhlasu zásadně odlišná. Především se může rozhodovat o tom, co udělá sama se sebou, ale i co udělá s námi. Když například žádáme banku o půjčku, je to umělá inteligence, která rozhoduje, zda nám ji poskytne, nebo ne. Moc se tudíž přesouvá od nás k umělé inteligenci.

Zadruhé, umělá inteligence umí sama přicházet s novými myšlenkami a nápady, umí vytvářet kulturní díla, už umí psát text, skládat hudbu, ale i psát kód, takže se může sama programovat. Atomovky nedokážou vytvořit lepší a silnější atomovky. Umělá inteligence naopak může vytvořit lepší a silnější umělou inteligenci.

Jedna z věcí, na kterou je třeba myslet, je, že celý život žijeme „zakukleni“ v kultuře. Realitu totiž nikdy nezažíváme takovou, jaká skutečně je. Realitu vždy zažíváme prizmatem kulturních produktů jako je mytologie, zákony, ideologie, hudba nebo umění.

Dříve jsme žili v těchto „kulturních kokonech“, které vytvořili jiní lidé. Co by pro lidskou bytost znamenalo žít ve světě, kde většina kulturních produktů je vyrobena nelidskou „mimozemskou“ inteligencí? To je něco, co je těžké si vůbec představit, co by to znamenalo.

Umělá inteligence zatím nic nového nevytváří, zatím prostě vezme naše výtvory a zkombinuje je. Přesně to ale dělají lidé také. Pokud přemýšlíte o lidském hudebním skladateli, třeba o Bachovi, tak ani ten nikdy nezačal od nuly, vždy bral v potaz předchozí hudbu.

Takhle funguje lidská kreativita a umí to i umělá inteligence. Může to jít až tak daleko, že umělá inteligence může v podstatě sníst celou lidskou kulturu. Vše, co již tisíce let produkujeme, může umělá inteligence absorbovat ve velmi krátkém čase.

24:40

Důvodů, proč se bát umělé inteligence, je hodně, říká Pěchouček z ČVUT. ‚Plusů vidím víc,‘ míní filozof

Číst článek

Naposlouchá všechnu hudbu, kterou jsme kdy nahráli, což logicky nemůže žádný člověk nikdy uposlouchat. Velmi rychle to dokáže přežvýkat a následně nás zaplaví novými kulturními produkty, které se budou stále více lišit od původních lidských prototypů.

To a priori není úplně špatně. Může vytvářet úžasné věci, kulturně, technologicky, může najít nové léky na rakovinu. Cokoliv. Je to nesmírná moc, které musíme rozumět a regulovat ji, protože to má i velmi nebezpečný potenciál.

Boti ze sociálních sítí

Existuje tedy způsob, jak neutralizovat rizika a vzít si z toho jen to dobré? Stále věříte, že je to možné?
Je to obtížné, ale je to možné. Zase se vrátím k jaderné technologii. Od roku 1945 jsme věděli, že jaderná technologie dokáže zničit lidskou civilizaci, ale dokáže také vyrábět hodně levné energie a pomáhat nám i jinými způsoby. Vybudovali jsme celý mezinárodní řád, abychom se pokusili omezit nebezpečí jaderné války a zároveň těžili z pozitivního potenciálu jaderné technologie.

Zatím nevíme, co se stane v budoucnu s ruskou invazí na Ukrajinu a podobnými věcmi. Ale zatím jsme uspěli a musíme udělat něco podobného s umělou inteligencí. Existuje mnoho způsobů regulací, ale je nezbytné, abychom vždy věděli o tom, že jsme zrovna v interakci s umělou inteligencí.

Musíme přemýšlet o budoucnosti demokracie. A demokracie je konec konců diskuse, veřejná diskuse mezi spoustou lidí o tom, co dělat s ekonomikou, zahraničními vztahy atd. Totalita je diktát, kde jedna osoba diktuje ostatním.

ChatGPT za mě zatím bojový rozkaz nenapíše, říká o rozvoji umělé inteligence končící velitel kybersil

Číst článek

Nyní se většina diskuse v demokracii odehrává online a se znalostí toho, že umělá inteligence dnes dokáže napodobit lidskou bytost. Takže se může stát, že na internetu diskutujete o klimatické změně, ruské invazi, o čemkoliv a myslíte, že se bavíte s člověkem. Ve skutečnosti to ale může být umělá inteligence.

To je extrémně nebezpečné, protože je zbytečné, aby se lidská bytost pokoušela změnit názory bota umělé inteligence, který ve skutečnosti slouží politické straně nebo možná cizí vládě. Ale čím více s tím budete mluvit, tím lépe vám bude rozumět a bude vědět, jak změnit vaše názory.

Za posledních deset let života se sociálními sítěmi jsme se dozvěděli, že dochází k boji o lidskou pozornost. Dnes se používají k upoutání lidské pozornosti algoritmy a skrze to došlo ve společnosti ke zvýšení hněvu, nenávisti a strachu.

Tyto algoritmy ale nedokážou vytvořit obsah. Jednoduše vybrali, která lidmi vyrobená videa či texty vám ukážou. Umělá inteligence může tento obsah vyrobit sama.

Může také vytvářet intimní vztahy s lidmi a pokud to nebudeme regulovat, je to konec demokracie. Protože když jste online a vedete diskusi s umělou inteligencí a nevíte, že je to umělá inteligence, znamená to zhroucení veřejné konverzace. Potřebujeme tedy velmi jednoduchou, ale nesnadno implementovanou regulaci, která dokáže lidem prozradit, že mají co do činění s umělou inteligencí.

Když se podíváte na Twitter a Facebook a všechna tato místa, měly by se zbavit botů vydávajících se za lidi.

Umělá inteligence blokuje obrázky čínského vůdce. Tvůrci chtějí ‚minimalizovat drama‘

Číst článek

Na místech, jako je Twitter a Facebook, probíhá obrovská diskuse o svobodě projevu, ale nemělo by se diskutovat o botech, protože boti nemají svobodu projevu. Jde o lidská práva, ne o práva umělé inteligence.

Takže prvním úkolem je říct Elonu Muskovi, Marku Zuckerbergovi a dalším, ať se zbaví všech botů. A pokud máte na své platformě stále boty, kdykoli jsou v kontaktu s lidskou bytostí, musí se nejprve identifikovat.

To nás ale přenáší k otázce, kdo jsme my lidé. Protože všechny tyto stroje vytváří iluzi, že dokážou přemýšlet. To se ale týká i nás. Když s vámi mluvím, mozkem mi procházejí draselné ionty a elektrické pulzy. Stejně jako má stroj elektrické impulsy procházející jeho obvody. Jaký je mezi námi rozdíl?
Rozdíl je, že lidé mají vědomí, zatímco umělá inteligence nikoliv. Není to otázka inteligence. Lidé si často pletou inteligenci a vědomí, což jsou ale odlišné věci.

Inteligence je schopnost řešit problémy, včetně toho, jak psát text nebo jak produkovat hudbu. Vědomí je o pocitech – smutku, radosti, bolesti, potěšení. U lidí jdou vědomí a inteligence ruku v ruce. Problémy často řešíme tím, že máme pocity, takže je zaměňujeme, ve skutečnosti jsou ale jiné.

Počítače jsou nyní v mnoha oblastech inteligentnější než my, ale nemají ani špetku vědomí. Pokud víme, nic necítí. Mohou nás sice porazit v šachu nebo při skládání hudby, ale necítí smutek ani radost, bolest ani radost.

26:34

Je to realita, nebo umělá inteligence? Lidé to rozliší podle kontextu, radí expertka na komunikaci Hejlová

Číst článek

A to je důvod, proč nemají etická a politická práva, protože etika a politika nakonec nejsou o inteligenci, ale o utrpení. Ideálem etiky je předcházet utrpení, osvobodit lidi a možná i jiné entity od utrpení.

Existuje tedy obrovská debata například o právech zvířat, protože ta mohou cítit utrpení a bolest i smutek, takže by měli mít nějaká práva.

Umělá inteligence a počítače nic necítí. Pokud tedy zničíme počítač nebo bota, je to možná porušení práv člověka, který je vlastní. Neexistuje ale žádná etická otázka, že počítač možná trpí. To je ten hlavní rozdíl, proč nemají politická a etická práva.

Pokud ale někdy v budoucnu počítače získají vědomí, pak to všechno změní. Zatím tam ale nejsme a nic nenasvědčuje tomu, že by počítače byly někde na cestě k rozvoji vědomí.

Skutečnost, že můžeme myslet na to nejhorší, co se může stát, je důkazem toho, že se z toho můžeme dostat, že stále dokážeme udržet kontrolu?
Ještě pár let budeme mít kontrolu, ale ne dlouho. Proto musíme jednat rychle a rozhodně a regulovat umělou inteligenci dříve, než ona zreguluje nás.

Témata ohrožující civilizaci

V podstatě máme na výběr. Pamatuji si, jak nám profesor na IMD v Lausanne říkal, že přibližně miliarda pracovních míst by mohla být v důsledku umělé inteligence v ohrožení či dokonce zaniknout. Ale nemusíme to dělat, máme společně na výběr, zda ten veškerý objem práce delegujeme na umělou inteligenci, nebo ne. Máte pocit, že jsme si vědomi skutečnosti, že tu volbu stále máme?
Ne dostatečně. Mnoho vlád, politiků a voličů o těchto otázkách dostatečně nepřemýšlí.

34:42

Regulace umělé inteligence je správná. V EU do ní ale chybí investice, upozorňuje expert

Číst článek

Podívejte se na politickou debatu v USA. Je tak vyhrocená a plná sporů o práva transgender lidí ve stylu, kdo může chodit na jaké záchody. Jasně, je to důležité téma a chápu, proč to přitahuje velkou pozornost.

Cokoli, co souvisí s pohlavím a genderem, se nás okamžitě emocionálně dotkne. Ale ve srovnání s věcmi jako je umělá inteligence a klimatická změna… Kdo půjde na jakou toaletu, to lidskou civilizaci nezničí.

Umělá inteligence by to ale dokázala, takže pokaždé, když vidím kandidáty, kteří zneužívají témat typu transgender práva, aby získali politickou moc, a přesměrovávají tímto stylem politickou debatu, je to hrozné.

Hlavní politická debata by měla být o umělé inteligenci a změně klimatu. O těchto existenčních nebezpečích. Pokud se přeorientujeme na tyto problémy, stále máme sílu umělou inteligenci regulovat.

Dalším nebezpečím jsou lidé, kteří vedou tuto „revoluci umělé inteligence“. Často mají na mysli určitý druh technologického determinismu, že technologie se bude vyvíjet bez ohledu na to, co se děje. Když to neuděláme my, udělá to někdo jiný. Čemu ale nerozumí nebo nechtějí rozumět, je to, že vždy máme na výběr, jakou technologii vyvinout a jak ji užívat.

Podívejte se na technologie, jako je rádio, vlaky nebo elektřina. Se stejnými technologiemi se z některých zemí staly totalitní režimy jako nacistické Německo a z některých demokratické společnosti. Rozhlas může být použit k šíření Hitlerových projevů do každé rodiny, každá domácnost musí mít rádio, a když Hitler pronáší projev, všichni musí poslouchat. To je jedno jeho využití.

V Itálii je opět dostupný chatovací systém ChatGPT. Firma vyřešila problémy se sbíráním osobních údajů

Číst článek

Můžete ale poslouchat rádio svobodně, pouštět si hudbu nebo programy, které chcete. Rozhlas může být nástrojem totalitarismu i demokracie a stejné je to i s umělou inteligencí. Žádný technologický determinismus neexistuje.

Obávám se, že některé země použijí umělou inteligenci k vybudování nejextrémnějších totalitních režimů v historii. Ale není to nevyhnutelné, je to vždy lidská volba.

V době prezidentství Baracka Obamy jsem byl v USA a tehdy se říkalo, že žijeme v nejlepších časech pro život na Zemi, a přesto jsme měli pandemii, máme umělou inteligenci i výzvy, které přináší změna klimatu, liberální demokracie ustupující fake news atd. Dokonce i někteří historici nám říkají, že to vypadá jako klima před první světovou válkou. Vy jste také historik, takže mě zajímá váš názor na dobu, ve které žijeme.
Mám tendenci souhlasit. Když se podíváte na dobu před deseti lety, když byl Obama prezidentem, bylo mnoho problémů, ale stejně to byla pro lidstvo pravděpodobně ta nejlepší doba vůbec.

Je velký rozdíl mezi tvrzením, že to byla perfektní doba, a tím, že je to lepší než dříve. Různě po světě byly obrovské problémy, ale bylo to lepší než jakákoli předchozí éra v historii.

Posledních asi deset let bylo ve stylu jízdy z kopce s jednou krizí za druhou, které se hromadí a navzájem zesilují.

5:52

Šéf CERMAT: Umělá inteligence si při opravování testů ve vybraných případech vedla lépe než člověk

Číst článek

Ekologická krize je stále horší a horší, měli jsme pandemii, nyní máme ruskou invazi na Ukrajinu, ve východní Asii roste napětí, technologická revoluce s umělou inteligencí zrychluje.

To se odráží v dalších problémech. Demokracie je ohrožena, protože nevíme, jak regulovat sociální média či umělou inteligenci.

Jsme ve velmi těžké krizi, ale není to beznadějné. Všechny tyto problémy nakonec vytvořili lidé. Změnu klimatu jsme si způsobili sami, za ruskou invazí na Ukrajinu je jediný člověk, který se rozhodl vést tuto hroznou válku – Vladimir Putin. I revoluce ve formě umělé inteligence je stále vedena lidmi a nikoliv počítači. Lidé nadále dělají zásadní rozhodnutí. My jsme tyto problémy vytvořili a my je také dokážeme vyřešit. Nebude to ale snadné.

Nejsme ale jako dinosauři, kteří jednoho dne vyhynuli kvůli asteroidům z vesmíru. Dinosauři s tím nemohli nic udělat. My nejsme jako dinosauři. Vytváříme problémy, ale umíme je i řešit.

red Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít