Nezaslouženě menší pozornosti se dostalo jeho vystoupení na summitu o umělé inteligenci (AI) v Paříži, které bylo z dlouhodobého hlediska snad ještě hrozivější. J. D. Vance varoval před regulací AI a před ideologickými zásahy do jejího fungování.

Přehrát

00:00 / 00:00

Petr Šabata: Zlehčování rizik umělé inteligence z úst amerického viceprezidenta je varující

„Potřebujeme regulační rámce, které podporují vývoj technologie, a ne ji potírají,“ uvedl Vance. Spojené státy se pak nepřipojily k šedesáti zemím včetně České republiky, Německa, Indie nebo Číny, které podepsaly deklaraci o umělé inteligenci, která má být otevřená, etická, bezpečná a důvěryhodná.

Trump a Musk chtěli OpenAI koupit 

Americký prezident Donald Trump už odstranil regulace AI prosazené za Joea Bidena. A jeho spolupracovník Elon Musk se pokusil koupit společnost OpenAI, která stojí za jazykovým modelem s prvky umělé inteligence ChatGPT a která původně vznikla jako nezisková výzkumná laboratoř s cílem vytvořit AI bezpečnou a prospěšnou lidstvu.

Z Vancových výroků se jistě nedá vyvozovat, že lidé kolem Trumpa chtějí ovládnout svět pomocí umělé inteligence. Ale jako výzvu k předběžné opatrnosti je také číst nelze.

Prezident Petr Pavel se v Paříži sešel s jedním ze šéfů zmíněné společnosti OpenAI a schůzku komentoval: „Je důležité, aby vlády a technologické firmy spolupracovaly na bezpečném zavádění umělé inteligence a jejím správném a bezpečném používání.“

V roce 2020 vyhodnotil oxfordský profesor Toby Ord v knize Nad prospatí, že umělá inteligence nesladěná s hodnotami člověka je největší existenční riziko pro lidstvo vůbec. Pradvěpodobnost naplnění této hrozby odhadl v poměru 1:10, zatímco například u jaderné války je poměr 1:1000, stejně tak u změny klimatu a uměle vytvořená pandemie hrozí lidstvu v poměru 1:30.

Umělá inteligence má slabiny

Za těmito odhady jsou výzkumy a obsáhlé konzultace jeho týmu se špičkovými odborníky.

K umělé inteligenci Ord píše: „Průměrný úsudek odborníků v této oblastí zní, že existuje šance přibližně 1:2, že v nejbližších sto letech budou vyvinuti agenti AI, kteří budou schopni provést téměř jakýkoliv úkol lépe než lidé. A pokud k tomu dojde, nebylo by velké překvapení, kdyby tito agenti převzali do svých rukou i naši budocnost.“

Psáno před pěti lety, ještě než přišla revoluce jazykových modelů.

Petr Koubský v Deníku N teď upozornil na výzkum vědců z univerzity v Šanghaji, kteří naučili dva jazykové modely vytvořit funkční kopii sebe sama. AI se tak poprvé může samovolně „rozmnožovat“ bez zásahu člověka, píše Koubský.

A cituje čínské vědce, kteří pracovali s jazykovými modely Llama od společnosti Meta a Qwen čínské Alibaby: „Špičkové systémy AI by mohly převzít ovládání počítačových systémů, vytvořit vlastní druh života a spolčit se proti lidem. Naše zjištění je včasným varováním před těmito riziky umělé inteligence. Volá po mezinárodní spolupráci v oblasti efektivní kontroly nad neřízeným rozmnožováním AI systémů.“

Proto je projev J. D. Vance a přístup lidí kolem Trumpa k umělé inteligenci tak alarmující.

Autor je šéfredaktor deníku Právo

Petr Šabata Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít