Lidstvo má k dispozici řadu způsobů, jak se vyhubit, než že se nám z rukou vymkne AI, glosuje Koubský
Skupina vědců a dalších osobností vydala veřejné vyjádření o možných rizicích umělé inteligence. Je velmi stručné a říká: „Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka.“ Vyjádření podepsala řada zástupců firem a výzkumných institucí, které se zabývají vývojem AI.
Mezi signatáři veřejného vyjádření jsou například šéfové společnosti OpenAI, která stojí za konverzační AI ChatGPT, konkurenční firmy Entropia, Stability AI, která provozuje obrázkový generátor Stable Diffusion, Googlu, Microsoftu a mnohých dalších.
Falešné právní případy od umělé inteligence, spor o ústup od používání rodných čísel, Twitter a dezinformace a další varování před riziky AI. To jsou témata pravidelného přehledu dění ve světě počítačů a internetu, kterým vás provází David Slížek
Vyjádření podepsali i zástupci českých univerzit včetně například Jana Kulveita, Vítězslava Kaly nebo Víta Janiše.
Vydala ho americká neziskovka Center for AI Safety. A podle autorů má otevřít diskusi o možných rizicích pokročilých AI technologií.
„Já o tomto tématu přemýšlím čím dál víc, protože dokud to byly okrajové hlasy několika málo lidí, tak se to dalo pominout. Teď je jich už opravdu poměrně hodně, i když pořád ještě zdaleka ne všichni důležití lidé, kteří se výzkumem v oblasti umělé inteligence zabývají,“ říká reportér Deníku N Petr Koubský.
Škoda krát pravděpodobnost rizika
Když podle něj přemýšlíme o riziku, bereme vždy v úvahu dva faktory – velikost možných škod a pravděpodobnost toho, že daný problém nastane.
„Tady je to tak, že velikost té škody je extrémní. Mohla by to opravdu být nějaká globální katastrofa. Pravděpodobnost je ale podle mého názoru velice malá, mnohem menší než riziko jaderné války, globální pandemie nebo nějaké jiné podobné globální katastrofy,“ soudí Koubský.
47:56
Cibulka: Umělá inteligence nás všechny nenahradí. Výsledky jsou slabší, než jsem čekal
Číst článek
I tak má ale prý význam v rámci určitého principu předběžné opatrnosti o tomto problému přemýšlet, protože „když hodně velké číslo vynásobíme hodně malým, pořád dostaneme nějaké vcelku velké číslo, které asi stojí za úvahu“.
„Pořád si ale myslím, že lidstvo má bohužel k dispozici řadu jiných způsobů, jak se vyhubit, a že ty jiné způsoby jsou pravděpodobnější než to, že se nám vymkne z rukou umělá inteligence,“ glosuje Koubský.
Falešné právní případy od umělé inteligence, spor o ústup od používání rodných čísel, Twitter a dezinformace a další varování před riziky AI. To jsou témata pravidelného přehledu dění ve světě počítačů a internetu, kterým vás provází David Slížek.
