Už dnes je těžké rozlišit, za čím stojí člověk a co je manipulace umělé inteligence, upozorňuje analytik
Homo sapiens roboticus. To je podle Dalibora Vavrušky člověk budoucnosti. Ten, který se musí naučit žít v době robotů, jež sám vytvořil. Je a bude jen na lidech, kam až počítačové systémy pustí, říká pro Český rozhlas České Budějovice matematik, specialista na digitální technologie, analytik a stratég.
Už dnes toho umějí velmi mnoho. Prostřednictvím sociálních sítí s námi dokážou manipulovat, vedou za nás hybridní války, směřují ale i k humánním cílům, jako je záchrana životního prostředí, schopnost uživit všechny lidi na planetě, všeobecná hojnost. I to ale má svá rizika.
Rozhovor o umělé inteligenci s matematikem, analytikem a specialistou na digitální technologie Daliborem Vavruškou
Může se AI vymknout kontrole a sledovat své vlastní zájmy? „Já bych to řekl asi takto: umělá inteligence funguje na základě příkazů člověka. Ostatně je to vždycky kód. Softwarový kód, který funguje na velmi výkonných počítačích, může to být propojeno do sítí a tak dále. Ale je to pořád jen kód, a původní impuls tedy přichází od člověka,“ odpovídá Dalibor Vavruška.
„Nicméně umělá inteligence znamená to, že počítač si pak už může budovat svůj virtuální model a ten je natolik komplikovaný, že už mu žádný člověk nemůže rozumět. V tom okamžiku počítač začne dělat věci, které člověk nemusí chápat,“ upozorňuje.
24:07
ChatGPT bude dva roky na trhu. ‚AI zatím pořádný článek nenapíše,‘ ujišťuje novinář Koubský
Číst článek
„Robot dál sleduje zadaný cíl, například ochránit životní prostředí, ale komplexními úvahami se může dostat k tomu, že aby dosáhl cíle, musí uškodit lidem nebo skupině lidí,“ dodává analytik.
Podle Dalibora Vavrušky nemusí jít přímo o vyhubení lidstva, které systém vyhodnotí jako největšího znečišťovatele přírody. „Ale stejně, nebo ještě víc rizikové je, že umělá inteligence může chtít útočit třeba jen na nějakou skupinu lidí. Nebo přinese agendu, která bude vyhovovat jen určité skupině. A bude to prezentováno jako rozhodnutí na základě vědeckých poznatků,“ doplňuje.
Kulturní hodnoty
Je tato science fiction vzdálenou, nebo velmi blízkou budoucností? „Můj názor je, že tyto věci se už začínají dít. Dnes už je velmi těžké rozlišit, za čím stojí člověk a kdy nás manipuluje umělá inteligence. Když se podíváme jen na veřejnou debatu, jak moc se jí účastní sociální sítě a jak i politici bez nich nedokážou fungovat, tak je opravdu otázkou, kdy nás tento systém začne, nebo jestli už začal manipulovat,“ myslí si Dalibor Vavruška.
6:06
Špičkové deepfake obrázky nepůjde časem rozpoznat. Nebudeme moct spoléhat na vlastní oči, říká vědec
Číst článek
Proto je podle něj třeba vrátit se ke kulturním hodnotám, které naše civilizace budovala po staletí a tisíciletí. Na mysli má především etiku, považuje za nutné vnášet ji do spolužití s roboty. „A to ne tak, že si řekneme principy a budeme se je snažit vynutit zákonem. Umělá inteligence už dneska totiž přesahuje to, co jsou státy klasickými zákony a soudním systémem schopny regulovat,“ zdůrazňuje.
Podle autora knihy Život v době robotů bude potřeba široká celospolečenská shoda. „Je třeba, aby si lidé určité věci uvědomili a určitým způsobem k umělé inteligenci přistupovali. Tak je možné se manipulativních rizik vyvarovat, nebo je minimálně snížit,“ dodává. Centrálním nařízením, bez toho, aby uživatelé rozuměli tomu, co se děje, to tedy podle Dalibora Vavrušky nepůjde.
Celý rozhovor o umělé inteligenci jako pomocníku i nebezpečí s analytikem a specialistou na digitální technologie Daliborem Vavruškou si poslechněte ze záznamu v úvodu článku.
