Regulace umělé inteligence přiškrtí jen menší hráče. Na státy a velké firmy nedosáhne, říká odbornice
Minulý týden přijala Evropská unie vůbec první regulaci umělé inteligence na světě. Podle výzkumnice z Cambridge Eleanor Drageové se dotkne především malých a středně velkých firem. Větší hráči, jako například Microsoft, státní složky či policie zůstanou nedotčeni. „Tyto subjekty budou nadále moci využívat invazivních nástrojů pod záminkou národního zájmu či bezpečnosti,“ říká v rozhovoru pro iROZHLAS.cz a Radiožurnál.
Nařízení Evropské unie o umělé inteligenci (AI Act) se na rozdíl od ochrany osobních údajů (GDPR) nezabývá regulací všech oblastí použití umělé inteligence (AI). Zatímco GDPR se vztahuje na jakýkoli způsob zpracování dat, regulace umělé inteligence se týká jen určitých odvětví. Koho se nařízení nejvíce dotkne?
To je dobrá otázka. Nařízení o umělé inteligenci se zaměřuje především na vyhodnocování rizik spojených s technologiemi, které umělou inteligenci využívají. Tato regulace se převážně dotýká malých a středních podniků. Velké korporace, jako například Microsoft, si díky lobbingovým aktivitám zajistily v Evropské unii bezpečnou pozici. Navrhovaná opatření je tedy nebudou ovlivňovat tolik jako menší firmy.
Eleanor Drageová
Drageová působí na Univerzitě v Cambrigde jako vedoucí výzkumnice na projektu Digitální digitalizace, v rámci kterého vytváří průvodce, hry a nástroje, aby pomohla designérům a projektovým manažerům v oblasti etiky umělé inteligence. Kromě toho spolupracuje na evropské regulaci umělé inteligence (AI Act), jako prvním takovém nařízení na světě. Drageová se zabývá na využití umělé inteligence v náborových řízení a zkoumá etiku umělé inteligence, konkrétně její tendence diskriminovat na bázi zajetých norem genderu a rasy.
Jaký dopad to bude mít v praxi?
Evropská unie stanovila několik úrovní rizikovosti pro nástroje umělé inteligence: nepřijatelné riziko, vysoké riziko, přijatelné riziko a nízké riziko. Pro každou kategorii budou platit speciální pravidla a regulace.
Nejstriktnější pravidla budou patřit pro kategorii vysokého rizika. Tam spadají například hračky pro děti, doprava, využití umělé inteligence v medicíně nebo jiné oblasti, kde může docházet k narušení základních práv či zdraví občanů EU.
Jde o technologie, ze kterých by mohly vyplývat právní důsledky. Pod tím si můžete představit například, když hodnocení k získání bankovního úvěru nebo nábor na pracovní pozice provede umělá inteligence.
Určité technologie budou zakázány úplně. Například technologie, které monitorují emoce na pracovišti a ve vzdělávacích institucích, technologie umožňující udělování skóre dle predikovaného sociálního postavení člověka a technologie, které mají nějakým způsobem navádět či měnit lidi, aby se chovali tak či onak.
Proč budou určité technologie zakázané úplně? Čím se vyznačují?
Protože jsou navržené tak, aby manipulovaly lidské chování nebo využívaly lidských slabin. Nepřijatelné jsou systémy s potenciálem způsobit škody občanům EU nebo životnímu prostředí.
Mimo jiné pomáháte AI společnostem navrhovat produkty tak, aby byly etické a v souladu s nařízením o umělé inteligenci. Co přesně to znamená v praxi?
To znamená, že jsem přizvána k jednacímu stolu ve chvíli, kdy se firma rozhoduje, zda a jak implementovat nový produkt využívající AI technologie. V tu chvíli jim kladu otázky, které je mají nasměrovat tak, aby nevyvinuli něco, co nebude splňovat evropské standardy.
Historic!
— Thierry Breton (@ThierryBreton) December 8, 2023
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
Snažím se o to, aby se firmy zamýšlely nad tím, zda má koncový uživatel přehled o tom, jak technologie zachází s informacemi, které jim poskytuje. Jinými slovy, jde vlastně o konsent, tedy o to, aby uživatel mohl udělit co nejvíce informovaný souhlas. Chci, aby věděl, jakou technologii používá, co umí a jak ho to může ovlivnit. Cílem je, aby se ze souhlasu nestala formalita, jako se to často děje u GDPR, ale aby byl uživatel skutečně vědomě informovaný v každém stadiu procesu.
Nařízení o umělé inteligenci je často kritizované kvůli tomu, že zatímco evropské firmy budou čelit přísné regulaci, konkurenti v Číně nebo USA budou mít na trhu volnou ruku. Co si o tom myslíte?
Toho se tolik neobávám, protože nařízení se bude vztahovat na všechny firmy, které nabízejí své produkty občanům EU. To znamená téměř všechny firmy.
Umělá inteligence trénovala na dílech téměř pěti tisíc umělců. Je mezi nimi i Kupka, Čapek nebo Toyen
Číst článek
Tato debata se rozvířila koncem minulého roku, kdy se ukázalo, že Microfost víceméně vlastní francouzskou AI firmu Mistrál, jež lobbuje v EU za uvolnění regulací. Mistrál měl tak obrovský vliv na podobu nařízení, což znamenalo, že v tom má prsty i Microsoft. Jak ale říkám, myslím, že je to nakonec jedno, protože nařízení zasáhne tak trochu všechny, kteří v Evropě podnikají. Velkých firem jako je Mistrál a Microsoft se však dotkne jen minimálně.
Když jsme se spolu bavily minule, říkala jste, že jeden z nedostatků připravované evropské regulace umělé inteligence je to, že se nevztahuje na složky státní policie, které využívají AI nástroje například pro profilování. Platí to stále?
Ano, to je problém. Policie může i nadále využívat AI nástroje k monitorování a profilování osob. To je velká kritika nařízení o umělé inteligenci, které se téměř nedotkne státních institucí. Celkově lze říct, že nařízení mělo potenciál regulovat využívání umělé inteligence velkými hráči, jako jsou firmy typu Microsoft, policií či státy.
Tyto subjekty budou však nadále moci využívat invazivních nástrojů umělé inteligence pod záminkou národního zájmu či bezpečnosti. Jak jsem už zmínila, Microsoft vlastní většinu AI nástrojů pro profilování například v Brazílii a v Jižní Africe, které využívají policie a vězeňské služby. Nařízení firmám nepřekáží ve zvyšování svého vlivu.
