‚Každá žena bude mít falešné nahé fotky.‘ Do výroby porna vstupuje AI, problém s dětskou nahotou zůstává
Umělá inteligence od základů mění pornografický průmysl. Stačí pár kliknutí a každý uživatel vytvoří obsah přesně podle svých preferencí. „Máte něco, co plně odpovídá vaším přáním, nemusíte procházet kategorie a dlouze hledat,“ říká pro iROZHLAS.cz Anna Ševčíková z Masarykovy univerzity. Vygenerovaná pornografie s sebou ale nese také rizika – od etických úskalí po možnost tvorby deepfake videí se skutečnými osobami.
„Pravidelně si prohlížím spoustu fotografií vytvořených umělou inteligencí. Je v tom pocit vzrušení spojený s překvapením, co se z obrázku stane. Můžete si vybrat barvu vlasů, velikost, typ spodního prádla nebo polohu. A nakonec pro vás umělá inteligence vytvoří pokaždé originální obsah. Je to fantazie, která ožívá,“ popisuje jeden z uživatelů pornografie vytvořené umělou inteligencí pro server iROZHLAS.cz.
Obliba domácího porna roste. Mělo by být etické, zamýšlí se režisér dokumentu
Číst článek
Právě neustálý příval nového obsahu je do značné míry to, co uživatele na pornografii vytvořené umělou inteligencí přitahuje.
„V klasické pornografii vás vzrušuje, když vidíte nové tváře. I pornoprůmysl stále hledá nové herečky,“ podotýká muž, který v takovém typu obsahu vidí velký potenciál do budoucnosti.
Atraktivitu spojenou s realističností a neustálou produkcí nového obsahu potvrzuje i konzultant a odborník na umělou inteligenci Jan Romportl.
„Ani na dobrý film se člověk nemůže koukat stále dokola. Jde i o to, že za jednotku peněz můžete vychrlit velké množství realistického obsahu,“ komentuje Romportl.
Pornografie jako trend
Romportl dodává, že právě otázka financí je pro producenty takového typu pornografie klíčová. Fotografie si už teď zájemce vygeneruje z pohodlí domova během pár vteřin.
Ovšem fotorealistické scény vytvořené na základě slovního příkazu si zatím mohou dovolit jen velká studia či producenti. Je ale jen otázkou času, kdy bude produkce levná, jednoduchá a dostupná pro každého, věří Romportl.
„V pornografickém průmyslu je relativně hodně peněz. Technologicky jde o pokročilé odvětví, respektive něco, co v minulosti svým způsobem diktovalo technologické trendy,“ připomíná expert.
V pornografii generované pomocí umělé inteligence vidí konzumenti i experti naději na to, že omezí neetické oblasti průmyslu a zlepší podmínky pracovníků, kteří se v něm pohybují.
Vznik pornografického obsahu, který se teď například pohybuje na hraně zákona, by tak v budoucnu mohl být pouze záležitostí umělé inteligence. I etický obsah může ovšem pro strojové učení využívat pornografii, která vznikla nekonsenzuálně.
Balkan Insight: Srbské ženy popisují zničující dopady porna z pomsty
Číst článek
„Pokud někdo preferuje scény s ponižováním nebo s něčím podobným, tak je daleko levnější a bezpečnější je vyrábět synteticky generativně než opravdu dělat tu hrůzyplnou část, někoho ponižovat a platit mu za to. Nebo ani neplatit,“ poukazuje na problémy byznysu s pornografií Romportl.
S tím souhlasí také oslovený uživatel, který uměle vytvořený obsah konzumuje pravidelně. „Končí tím špinavá stránka průmyslu. Za takovým obsahem totiž neexistuje žádná vykořisťovaná žena, která by musela natáčet kvůli penězům,“ říká.
Server Vice ovšem upozorňuje, že umělá inteligence může jako databázi strojového učení využívat i nekonsenzuální pornografii. Web upozornil, že jako databáze, na které se model učil, posloužila produkce české společnosti Czech Casting.
Režiséři si musí uvědomit, jak silná je jejich pozice, říká žena, která pomáhá natáčet intimní scény
Číst článek
Ta vyráběla pornografická videa se ženami, které producenti k natáčení přinutili vyhrožováním a nátlakem. Oběti byly přitom na natáčení pozvány pod záminkou výroby modelingových fotografií.
Strojové učení může databázi využívat k tomu, aby se naučilo strukturu a vlastnosti jednotlivých fotografií, a dokázalo je poté lépe napodobit.
Experti se zároveň shodují, že umělá pornografie veškerý obsah nahradit nedokáže. Někteří konzumenti totiž budou stále toužit po tom, aby na svých obrazovkách sledovali skutečné osoby.
„Stačí, když se podíváte na popularitu amatérských videí jako konkurenci hrané pornografie. Bude skupina lidí, kteří chtějí zůstat v kontaktu s realitou. Nebudou vyhledávat perfektní osoby s perfektními těly,“ předpovídá vedoucí Institutu pro psychologický výzkum na Masarykově Univerzitě Anna Ševčíková.
Dětská pornografie
Ševčíková poukazuje také na to, že obdobně vytvořená pornografie by teoreticky mohla pomoci lidem trpícím parafiliemi (sexuální deviací, úchylkami), kteří se k požadovanému obsahu nemohou dostat z etických důvodů. Může jít například o dětskou pornografii.
Parafilie
Parafilie podle ministerstva zdravotnictví označuje zájem o sexuální aktivity, které způsobují utrpení jiné osoby, sexuální aktivity s dětmi, anebo nehumánními objekty. Tyto tendence se stávají parafilií, pokud u dané osoby trvají nejméně šest měsíců.
„Pro lidi s různými parafiliemi by potenciálně mohlo jít o způsob, jak se dostat k obsahu, který dokáže být docela reálný, a současně se vymanit z etického problému. Můžete to vytvořit pro vlastní účely a nijak nešířit. Jde o to, aby měli možnost sexuálního vybytí, které v reálném životě není možné. Nicméně i AI má svá omezení a tento typ obsahu v současné době nedovoluje generovat,“ popisuje docentka Masarykovy univerzity.
Ševčíková zároveň zdůrazňuje, že někteří parafilici si jsou své poruchy vědomi, léčí se s nimi a konzumace požadovaného obsahu jim naopak může ulevit.
Současné programy pro AI pornografii dostupné veřejnosti obdobný obsah sice oficiálně netvoří, experti přesto upozorňují, že na internetu se například generované obrázky s dětmi šíří i tak. Odborníci se obávají, že pokud obdobné fotografie zahltí internet, bude o to těžší najít a identifikovat reálné oběti.
Umělá inteligence je schopná generovat dětskou pornografii, komplikuje pátrání po reálných obětech
Číst článek
Podle českého trestního zákoníku, konkrétně paragrafu 192, je za dětskou pornografii považován i například kreslený obsah. Její přechovávání i tvorba je v České republice i jinde trestná. Upozornil na to případ odsouzeného muže, v jehož mobilu se našly animované obrázky nezletilých při sexuálních aktivitách. Pornografii vygenerovanou umělou inteligencí se česká legislativa zatím nezabývá. Mimo zákon ji ovšem postavil už například americký stát Louisiana.
Deepfake videa
Obavy z pornografie tvořené umělou inteligencí se objevují hlavně v oblasti takzvaných deepfake videí. Jedná se o realisticky upravené scény, které imitují jednání a mimiku fiktivních či skutečných osob, například celebrit.
Oslovený uživatel vygenerované pornografie se etickou stránkou deepfake porna příliš netrápí. „Je to pět minut potěšení, o zbytku nepřemýšlíte. Nemáte špatné myšlenky, problém je možná ze strany tvůrce nebo webu, který to zveřejňuje,“ vysvětluje jeden z konzumentů deepfake obsahu.
Co je to deepfake?
Deepfake je forma obrázku či videa zachycující falešné osoby, objekty nebo události. K jejich tvorbě se využívá forma umělé inteligence zvaná hluboké učení. Na technologickém trhu se nejedná o novinku, masové využití v pornografii je teprve záležitostí posledních let. Na speciálně zaměřených stránkách s obdobným obsahem se nejčastěji objevují ve formě přenosu tváře skutečného člověka do již existujícího videa.
Studie z roku 2019 zjistila, že více než 96 procent deepfake videí na internetu tvoří právě pornografie. Převážná většina takového obsahu pak zobrazuje ženy.
Deepfake pornografie se navíc dnes už netýká jen celebrit a známých osobností, ale také běžných lidí, u kterých lze na internetu nalézt dostatečné množství fotografií.
Server Vox zmapoval příběh australské studentky Noelle, jejíž tvář se objevila v několika pornografických videích na internetu. Neznámá osoba daná videa vytvořila pomocí snímků z jejích sociálních sítí.
„Byla jsem v práci a přišel mi e-mail. Stálo v něm, že existuje deepfake video se mnou, které vypadá realisticky. Pamatuji si, jak jsem si sedla a na moment zcela zamrzla. Falešné porno a mé jméno zůstanou navždy spojené,“ popsala žena.
„Stav, ke kterému to povede, daleko přesahuje pornoprůmysl. Lidé se budou muset naučit přestat věřit tomu, co vidí na vlastní oči. Výsledek pak bude takový, že víceméně každá žena nakonec někde bude mít falešné fotografie, na kterých je nahá. Reálně to dojde do stavu, kdy si toho už nikdo nebude všímat,“ myslí si expert Romportl.
Podle Romportla se tak od základů změní výuka informační i mediální gramotnosti. „Budeme v rámci celé infosféry řešit tak velké problémy, že na pornografii si v tomhle možná nikdo ani nevzpomeneme,“ dodává.
Cesta k regulaci?
Vzhledem ke skutečnosti, že zatím neexistuje žádná globální regulace obsahu tvořeného umělou inteligencí, nelze obdobná omezení zatím najít ani v pornografii. Podle Romportla se legislativa v celé oblasti generované pornografie ani očekávat nedá.
26:05
Proč jsem závislý na pornu? Asi to byl pocit osamělosti a prázdnoty, svěřuje se v dokumentu 23letý David
Číst článek
Přijít ale může právě u deepfake pornografie, obzvláště pokud se jedná o nekonsenzuálně vytvořený obsah. Přestože velké stránky s obsahem pro dospělé deepfake videa oficiálně zakazují, uživatelé upozorňují, že weby jsou jich stále plné.
„Už teď je v připravovaném Aktu Evropské unie o umělé inteligenci to, že se AI nesmí vydávat za člověka. Tento aspekt musí být vidět. To znamená, že stránky pravděpodobně brzo zařadí kategorii synteticky generovaných videí, která ale musí být z legislativních důvodů označená,“ říká Romportl.
Problematika deepfake pornografie se momentálně řeší i v britském parlamentu při schvalování návrhu o bezpečnosti na internetu nazvaného Online Safety Bill. Ten by mohl zavést například věkovou hranici pro sledování pornografického obsahu na internetu.
Zatím je ovšem nejasné, jakým způsobem budou platformy věk uživatelů ověřovat. Podle návrhu zákona při tom také budou případně muse chránit osobní údaje a návyky konzumentů.
Technologické firmy, na které se zákon má vztahovat, mají také chránit uživatele před škodlivým obsahem týkajícím se zneužívání dětí, pornografie z pomsty nebo například prodeje drog, informuje server The Guardian.
