Loni řekl pro stanici BBC, že chatboty zatím nejsou inteligentnější než lidé, ale podle jeho názoru už „brzy budou“.

Přehrát

00:00 / 00:00

Martin Fendrych: Nobelista Hinton varuje před umělou inteligencí

Obává se několika momentů, spojených s prudkým rozvojem umělé inteligence. Jedním z nich je, že internetové sítě zaplaví videa a texty, které vytvoří AI, a lidé už nebudou „schopni poznat, co je pravda“.

Informatik Hinton nás nečekaně, ale rozumně, vrací k zásadní lidské činnosti: k hledání pravdy. Známe to z posledních let, kdy se pojem „pravdy“ jako by rozpadl a kdy představu jedinců o pravdě často určují dezinformace a profesionální dezinformátoři.

Čím dál větší roli v zastírání pravdy budou hrát „deepfake videa“, kdy nebude možné jednoduše poznat, co je uměle vytvořené a co je reálné. Ztrácíme vědomí toho, co je sama realita.

Podstatné je, kudy k nám výtvory umělé inteligence proudí – přes sociální sítě. Jednou z cest, jak se vyhnout pseudopravdě, tedy ne-pravdě či polo-pravdě, kterou vyrobili lidé užívající umělou inteligenci, je naučit se být velmi nedůvěřivý vůči sociálním sítím. Pokud si chceme udržet přístup k pravdě, musíme ji hledat jinde.

AI a Putin?

Další obava profesora Hintona už jde poněkud mimo naše běžné možnosti. Týká se jiného zneužití umělé inteligence.

V rozhovoru pro server MIT Technology Review řekl: „Ani na okamžik si nemyslete, že by Putin nevyrobil hyperinteligentní roboty s úkolem zabíjet Ukrajince. Neváhal by. A pokud chcete, aby v tom byli dobří, nechcete je mikromanažovat. Chcete, aby sami přišli na to, jak to udělat.“

Znamená to, že by si roboti mohli sami určovat dílčí cíle, aby lépe zvládli svůj úkol. Jenomže jedním z těchto „dílčích cílů robotů“ se může stát, že budou chtít větší moc, aby svůj hlavní úkol splnili snáz. Pak se ale začnou vymykat kontrole, a nakonec mohou začít kopírovat sami sebe.

Loni se Hinton připojil k textu dalších vědců, kteří se obávají, že umělá inteligence může vést až k zániku lidstva. „Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského dosahu, a to včetně pandemií a jaderných válek,“ napsali vědci.

My, lidé, máme podivuhodnou schopnost ohrožovat sami sebe. Necháváme vyrůst tyrany typu Putina. Technický pokrok nás dovedl až ke klimatické změně, kterou zatím nejsme schopni zastavit. A usilovně pracujeme na umělé inteligenci tak dokonalé, že z ní mají její vlastní tvůrci strach.

Technici říkají, že humanitní obory – třeba filozofie – jsou zbytečné, neplyne z nich žádný hmotný užitek. Omyl, bez rozvíjené humanity ztrácíme vědomí toho, co je pravda, a podléháme lžím.

Autor je komentátor Aktuálně.cz

Martin Fendrych Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít